ChatGPT de OpenAI está preparado para transformar nuestra forma de trabajar, pero su integración en las empresas plantea un dilema. Aunque los negocios reconocen la inteligencia artificial generativa como una ventaja competitiva, el riesgo de exponer información sensible sigue siendo elevado.
El desafío del uso descontrolado
Muchos empleados ya utilizan ChatGPT sin el conocimiento de sus empleadores, compartiendo inadvertidamente datos confidenciales. Las empresas necesitan una solución, y Metomic tiene la intención de cubrir esa necesidad. La firma de software de seguridad de datos ha lanzado un plugin para navegadores, Metomic para ChatGPT, diseñado para rastrear la actividad del usuario dentro del modelo de lenguaje de OpenAI.
“No hay un perímetro en estas aplicaciones; es un ‘salvaje oeste’ de actividades de intercambio de datos,” declaró Rich Vibert, CEO de Metomic. “Nadie tiene visibilidad”.
Extensión de las filtraciones de datos
Investigaciones indican que el 15% de los empleados ingresan regularmente datos de la empresa en ChatGPT, principalmente código fuente (31%), información interna de negocios (43%) e información personal identificable (PII) (12%). Los departamentos clave involucrados son I+D, finanzas y ventas/marketing.
“Este es un problema completamente nuevo,” explicó Vibert, resaltando el “miedo masivo” que sienten las empresas sobre el uso de estas herramientas por parte de los empleados. “No hay barreras; solo necesitas un navegador.”
Los hallazgos de Metomic muestran que los empleados están filtrando datos financieros críticos, incluidos balance generales y fragmentos de código. Especialmente preocupante es la exposición de transcripciones de chats con clientes, que pueden acumular gran cantidad de información sensible como nombres, direcciones de correo electrónico y números de tarjetas de crédito.
“Se están ingresando perfiles completos de clientes en estas herramientas,” señaló Vibert, advirtiendo sobre el posible acceso de competidores y hackers, lo que conlleva riesgos de violación de contrato.
El riesgo de amenazas internas maliciosas
Más allá de las filtraciones involuntarias, existen riesgos relacionados con empleados que se marchan y que pueden usar herramientas de IA generativa para llevarse datos propietarios. Además, los insiders maliciosos pueden filtrar deliberadamente información sensible, representando una amenaza adicional.
Mientras algunas empresas optan por prohibir ChatGPT y plataformas similares, Vibert advierte que esta no es una estrategia sostenible.
“Estas herramientas llegaron para quedarse,” afirma, enfatizando el valor de ChatGPT en la mejora de la productividad y eficiencia.
Seguridad de datos centrada en el compromiso del empleado
La integración de Metomic con ChatGPT opera dentro del navegador, reconociendo cuando los empleados inician sesión en la plataforma y escaneando datos subidos en tiempo real. Si se detecta información sensible, como PII o credenciales de seguridad, se notifica a los usuarios para que redacten o clasifiquen esos datos adecuadamente.
Los equipos de seguridad también reciben alertas sobre posibles violaciones de datos, asegurando medidas proactivas.
“Esta es una seguridad de datos a través de la lente de los empleados,” explicó Vibert, enfatizando la visibilidad y el control en lugar de restricciones absolutas. “Transforma el ruido en información procesable para los equipos de seguridad y análisis,” agregó, combatiendo la fatiga de alertas que enfrentan los departamentos de TI.
Navegando en el paisaje SaaS
Hoy en día, las empresas están aprovechando una multitud de aplicaciones SaaS—estimadas en 991—aunque solo el 25% están interconectadas.
Vibert destaca el aumento sin precedentes en el uso de herramientas SaaS, enfatizando que Metomic se conecta con diversas aplicaciones y cuenta con 150 clasificadores de datos para reconocer riesgos críticos según factores contextuales como regulaciones del sector.
“Entender dónde se coloca la información en las herramientas es esencial,” dijo, señalando la importancia de identificar “puntos calientes de datos” dentro de departamentos específicos o empleados.
A medida que se expande el ecosistema SaaS, también lo hará el uso de herramientas de IA generativa como ChatGPT.
Como bien dice Vibert, “Apenas estamos en el día cero de un largo camino por delante.”
Clasificación
