Une récente enquête de PwC, impliquant 1 001 cadres américains dans des rôles d'affaires et de technologie, révèle que 73 % des répondants utilisent ou prévoient d'implémenter l'IA générative au sein de leurs organisations. Malgré cet intérêt croissant, seulement 58 % ont commencé à évaluer les risques associés à l'IA. PwC souligne que l'IA responsable doit se concentrer sur la valeur, la sécurité et la confiance, intégrant ces éléments dans les processus de gestion des risques d'une entreprise.
Jenn Kosar, responsable de l'Assurance IA aux États-Unis chez PwC, a souligné qu'il était autrefois acceptable pour les entreprises de lancer des projets IA sans stratégies robustes d'IA responsable, mais que cette époque est révolue. « Nous avons avancé dans le cycle, donc le moment de construire sur l'IA responsable est maintenant », a déclaré Kosar. Elle a noté que les premiers projets IA étaient généralement limités à de petites équipes, mais nous assistons désormais à une adoption généralisée de l'IA générative.
Les projets pilotes d'IA générative jouent un rôle crucial dans l'élaboration de stratégies d'IA responsable, car ils fournissent des informations sur l'intégration efficace des équipes et l'utilisation des systèmes IA.
Un contexte préoccupant
L'importance de l'IA responsable et de l'évaluation des risques a suscité une attention considérable suite au déploiement du modèle xAI Grok-2 d'Elon Musk sur la plateforme sociale X (anciennement Twitter). Les premiers retours indiquent que ce service de génération d'images manque de restrictions adéquates, permettant la création de contenus controversés et trompeurs, y compris des deepfakes de figures publiques dans des scénarios sensibles.
Priorités clés pour une IA responsable
Lors de l'enquête, les répondants ont été invités à classer 11 capacités identifiées par PwC, telles que :
- Formation continue
- Intégration de spécialistes des risques IA
- Formation périodique
- Confidentialité des données
- Gouvernance des données
- Cybersécurité
- Tests de modèles
- Gestion des modèles
- Gestion des risques tiers
- Logiciels spécialisés pour la gestion des risques IA
- Surveillance et audit
Plus de 80 % des participants ont rapporté des progrès dans ces domaines, bien que seulement 11 % aient déclaré avoir pleinement mis en œuvre toutes les capacités. PwC a averti que de nombreuses organisations pourraient exagérer leurs avancées, notant que les complexités de la gestion de l'IA responsable peuvent entraver une mise en œuvre complète.
Par exemple, une gouvernance des données efficace est cruciale pour définir l'accès des modèles IA aux données internes tout en mettant en place des mesures de protection. De plus, les approches traditionnelles de cybersécurité peuvent ne pas suffire à protéger contre des attaques sophistiquées telles que l'empoisonnement de modèles.
Responsabilité dans l'IA responsable
Pour aider les entreprises à naviguer dans leur transformation IA, PwC conseille de prioriser une stratégie d'IA responsable globale. Une recommandation clé est d'établir une responsabilité claire pour les pratiques d'IA responsable, de préférence sous la direction d'un seul cadre. Kosar a insisté sur l'importance de considérer la sécurité de l'IA comme une priorité organisationnelle, en suggérant la nomination d'un directeur IA ou d'un responsable de l'IA responsable pour collaborer avec diverses parties prenantes.
« Peut-être que l'IA sera le catalyseur pour unifier les risques technologiques et opérationnels », a remarké Kosar.
PwC suggère également aux organisations de prendre en compte l'ensemble du cycle de vie des systèmes IA. Cela implique de dépasser les considérations théoriques pour mettre activement en œuvre des politiques de sécurité et de confiance à travers l'organisation. Se préparer aux futures réglementations nécessite un engagement envers des pratiques d'IA responsables, ainsi que des plans pour garantir la transparence auprès des parties prenantes.
Kosar a exprimé sa surprise face aux réponses de l'enquête, indiquant que de nombreux dirigeants considèrent l'IA responsable comme un avantage commercial. « L'IA responsable ne se limite pas à la gestion des risques ; elle doit également créer de la valeur. Les organisations la voient comme un atout compétitif basé sur la confiance », a-t-elle conclu.
Classement
