Microsoft Eleva los Estándares de Seguridad de Datos de IA con Mejoras en Purview

En la conferencia Microsoft Ignite de hoy, Microsoft presentó mejoras en las características de seguridad y cumplimiento de datos en Microsoft Purview, con el objetivo de proteger la información utilizada en sistemas de IA generativa como Copilot. Estas nuevas capacidades permitirán a los usuarios de Microsoft 365 gestionar la accesibilidad de datos del asistente de codificación de IA, clasificar automáticamente información sensible en las respuestas y establecer controles de cumplimiento en el uso de modelos de lenguaje grande (LLMs).

Perspectivas de los Líderes de Microsoft

Herain Oberoi, Gerente General de Seguridad de Datos, Cumplimiento y Privacidad de Microsoft, y Rudra Mitra, Vicepresidente Corporativo en Microsoft, discutieron su enfoque innovador hacia esta tecnología, enfatizando el papel fundamental de los datos en la IA. "Los datos son efectivamente la base sobre la cual se construye la IA. La IA es tan buena como los datos que se ingresan, lo que la convierte en un componente crucial", afirmó Oberoi. Mitra añadió, "Con Purview, Microsoft se compromete a asegurar tanto el futuro de la IA como la integridad de los datos utilizados en la misma. Este enfoque responsable es esencial".

Visibilidad de los Riesgos y Uso de Copilot

Un nuevo centro de IA en Purview proporcionará a los administradores información sobre el uso de Copilot en sus organizaciones, permitiéndoles monitorear las interacciones de los empleados con la IA y evaluar los riesgos asociados. Los datos sensibles estarán restringidos para ser ingresados en Copilot, basándose en los perfiles de riesgo de los usuarios, mientras que las salidas generadas por la IA llevarán etiquetas protectoras del dato original. “No se trata solo de ver los Copilots de Microsoft; es crucial tener una visión completa para nuestros clientes”, enfatizó Mitra.

Políticas de Cumplimiento Extendidas a Copilot

Las funciones de auditoría, retención y monitoreo de comunicación de Purview ahora se extenderán a las interacciones con Copilot. Esto es solo el comienzo, ya que Microsoft planea ampliar las protecciones de Purview más allá de Copilot para incluir IA desarrollada internamente y aplicaciones de terceros como ChatGPT.

Con la IA a punto de una adopción más amplia, Microsoft se posiciona como líder en la utilización ética y responsable de datos en sistemas empresariales de IA. Una sólida gobernanza de datos será esencial para garantizar la privacidad y evitar el uso indebido en este paisaje tecnológico en evolución.

Sin embargo, alcanzar una IA verdaderamente responsable requiere un compromiso de toda la industria tecnológica. Competidores como Google, Amazon e IBM también deben priorizar la ética de datos; sin la confianza del usuario, la IA no podrá alcanzar su máximo potencial.

El futuro es claro: las empresas buscan tanto soluciones innovadoras como robustas protecciones de datos. La compañía que priorice la confianza allanará el camino hacia un futuro impulsado por la IA.