Ha sido una semana significativa para la startup de IA Anthropic, creadora de la familia de modelos de lenguaje grande (LLMs) y chatbots Claude.
El lunes 22 de enero, Anthropic informó que un contratista envió accidentalmente un archivo que contenía información no sensible de clientes a un tercero. Este archivo incluía un "subconjunto" de nombres de clientes y saldos de crédito abiertos hasta finales de 2023. “Nuestra investigación indica que este fue un incidente aislado por error humano, no una brecha en los sistemas de Anthropic”, declaró un portavoz de la empresa. “Hemos informado a los clientes afectados y les hemos proporcionado la orientación adecuada”.
Este incidente coincidió con un anuncio de la Comisión Federal de Comercio (FTC), que está examinando las asociaciones estratégicas de Anthropic con Amazon y Google, además de las afiliaciones de OpenAI con Microsoft. Anthropic aclaró que el error del contratista no está relacionado con la investigación de la FTC, sobre la cual no hicieron comentarios.
Información de Cuentas Mal Dirigida
Windows Report obtuvo una captura de pantalla de un correo electrónico enviado por Anthropic a los clientes sobre la fuga de información causada por un contratista. El correo reveló el “nombre de cuenta e información de cuentas por cobrar a fecha de 31 de diciembre de 2023”. El contenido del correo es el siguiente:
Alerta importante sobre su cuenta:
Queremos informarle que uno de nuestros contratistas desvió inadvertidamente información de cuentas por cobrar de Anthropic a un tercero. La información incluía su nombre de cuenta y detalles de cuentas por cobrar a fecha de 31 de diciembre de 2023, indicando un saldo de crédito abierto. Es importante destacar que estos datos no contenían información personal sensible, como datos bancarios o de pago. Nuestra investigación ha determinado que este incidente fue resultado de un error aislado, sin compromiso de nuestros sistemas. No hemos encontrado indicios de intención maliciosa relacionados con esta divulgación.
Anthropic instó a los clientes a permanecer atentos a comunicaciones sospechosas que parezcan provenir de la empresa, como solicitudes de pago inusuales o correos inesperados. “Lamentamos sinceramente este incidente y cualquier inconveniente que haya podido causarle. Nuestro equipo está listo para apoyarle”, añadió la empresa.
Solo un Subconjunto de Usuarios Afectados
En respuesta a consultas sobre la fuga, Anthropic confirmó que solo un "subconjunto" de usuarios se vio afectado, pero no reveló cifras específicas. Dado que las brechas de datos son alarmantemente frecuentes—el 95% atribuibles a errores humanos—este incidente subraya la ansiedad que enfrentan las organizaciones al utilizar LLMs de terceros como Claude para datos propietarios.
La fuga ha aumentado las preocupaciones entre las empresas sobre la posibilidad de que datos sensibles puedan verse comprometidos a través de LLMs de terceros. Notablemente, Samsung prohibió ChatGPT la primavera pasada tras una filtración de datos sensibles de la empresa.
Scrutinio Regulatorio sobre Asociaciones de IA
Desde su creación en 2021, Anthropic ha experimentado un rápido crecimiento, con una valoración de 18,4 mil millones de dólares y esfuerzos de financiamiento significativos, incluyendo hasta 2 mil millones de dólares de Google y otros 4 mil millones de dólares de Amazon. La empresa también busca asegurar una ronda adicional de 750 millones de dólares liderada por Menlo Ventures.
Sin embargo, las asociaciones de Anthropic con AWS y Google han atraído la atención de la FTC, que recientemente emitió órdenes 6(b) a Amazon, Microsoft, OpenAI, Anthropic y Alphabet para obtener divulgaciones detalladas sobre sus colaboraciones estratégicas.
Las asociaciones clave bajo escrutinio incluyen:
- La colaboración ampliada entre Microsoft y OpenAI anunciada el 23 de enero de 2023
- La asociación estratégica entre Amazon y Anthropic lanzada el 25 de septiembre de 2023
- La ampliada alianza de IA de Google con Anthropic, establecida el 8 de noviembre de 2023
La FTC ha solicitado un análisis sobre cómo estas asociaciones podrían afectar la competencia en el mercado y ha señalado que tanto la Unión Europea como el Reino Unido están revisando las inversiones de IA de Microsoft. La presidenta de la FTC, Lina Khan, declaró: “Estamos investigando si estas relaciones permiten a empresas dominantes ejercer una influencia indebida, comprometiendo potencialmente la competencia justa”.
Colaboraciones Estratégicas de Anthropic
Anthropic se ha asociado con AWS y Google desde su establecimiento, expandiendo significativamente estas relaciones. Amazon planea invertir hasta 4 mil millones de dólares, obteniendo una participación minoritaria en Anthropic y sirviendo como su principal proveedor de nube.
Anthropic también se ha comprometido a ofrecer futuras generaciones de sus modelos de IA a los clientes de AWS a través de Amazon Bedrock, brindando acceso anticipado a características de personalización de modelos.
Además, Anthropic utiliza los servicios de Google Cloud, integrando herramientas como la TPU v5e de Google para su LLM Claude y beneficiándose de las soluciones de seguridad y base de datos de Google. El CEO de Google Cloud, Thomas Kurian, afirmó: “Anthropic y Google Cloud comparten una visión para desarrollar IA de manera audaz pero responsable, asegurando soluciones de IA seguras e innovadoras”.
Esta rápida evolución y escrutinio subrayan el panorama dinámico en el que operan las startups de IA, mientras navegan por el crecimiento, las asociaciones y los desafíos regulatorios.
Clasificación
