Microsoft élève les normes de sécurité des données IA avec des mises à jour améliorées de Purview.

Lors de la conférence Microsoft Ignite aujourd'hui, Microsoft a présenté des fonctionnalités améliorées de sécurité des données et de conformité dans Microsoft Purview, visant à protéger les informations utilisées dans les systèmes d'IA générative comme Copilot.

Ces nouvelles capacités permettront aux utilisateurs de Microsoft 365 de gérer l'accessibilité des données pour l'assistant de codage IA, de classer automatiquement les informations sensibles dans les réponses et d'établir des contrôles de conformité autour de l'utilisation des modèles de langage de grande taille (LLMs).

Perspectives des dirigeants de Microsoft

Herain Oberoi, directeur général de la sécurité des données, de la conformité et de la confidentialité chez Microsoft, et Rudra Mitra, vice-président corporate, ont discuté de leur approche innovante de cette technologie, soulignant le rôle fondamental des données dans l'IA. "Les données forment effectivement la base sur laquelle l'IA est construite. L'IA est aussi bonne que les données qui l'alimentent, ce qui en fait un élément crucial," a déclaré Oberoi.

Mitra a ajouté : "Avec Purview, Microsoft s'engage à sécuriser à la fois l'avenir de l'IA et l'intégrité des données utilisées. Cette approche responsable est essentielle."

Visibilité sur les risques et l'utilisation de Copilot

Un nouveau hub IA dans Purview fournira aux administrateurs des informations sur l'utilisation de Copilot au sein de leurs organisations, leur permettant de suivre les interactions des employés avec l'IA et d'évaluer les risques associés. Les données sensibles seront restreintes dans les saisies de Copilot en fonction des profils de risque des utilisateurs, tandis que les sorties générées par l'IA porteront des étiquettes protectrices des données d'origine.

“Il ne s'agit pas seulement de la visibilité des Copilots de Microsoft ; il est crucial d’avoir une vue d'ensemble pour nos clients,” a souligné Mitra.

Politiques de conformité étendues à Copilot

Les fonctionnalités d'audit, de conservation et de surveillance de la communication de Purview s'étendront désormais aux interactions avec Copilot. Ce n'est que le début, car Microsoft prévoit d'élargir les protections de Purview au-delà de Copilot pour inclure des IA développées en interne et des applications tierces comme ChatGPT.

Avec l'IA sur le point d'être largement adoptée, Microsoft se positionne comme un leader dans l'utilisation responsable et éthique des données dans les systèmes d'IA d’entreprise. Une gouvernance des données solide sera essentielle pour garantir la confidentialité et prévenir les abus dans ce paysage technologique en évolution.

Cependant, parvenir à une IA véritablement responsable nécessite un engagement de l'ensemble de l'industrie technologique. Des concurrents comme Google, Amazon et IBM doivent également faire de l'éthique des données une priorité ; sans la confiance des utilisateurs, l'IA ne peut pas atteindre son plein potentiel.

L'avenir est clair : les entreprises recherchent à la fois des solutions innovantes et une protection robuste des données. La société qui privilégie la confiance ouvrira la voie vers un avenir piloté par l'IA.