Foi uma semana significativa para a startup de IA Anthropic, criadora da família Claude de modelos de linguagem de larga escala (LLMs) e chatbots.
Na segunda-feira, 22 de janeiro, a Anthropic informou que um contratado enviou inadvertidamente um arquivo contendo informações não sensíveis de clientes a um terceiro. Esse arquivo incluía um “subconjunto” de nomes de clientes e saldos de crédito em aberto até o final de 2023. “Nossa investigação indica que esse foi um incidente isolado devido a erro humano — não uma violação dos sistemas da Anthropic,” afirmou um porta-voz da empresa. “Informamos os clientes afetados e fornecemos orientações adequadas.”
Este incidente coincidiu com um anúncio da Federal Trade Commission (FTC), que está analisando as parcerias estratégicas da Anthropic com a Amazon e o Google, além das associações da OpenAI com a Microsoft. A Anthropic esclareceu que o erro do contratado não está relacionado à investigação da FTC, sobre a qual não se manifestou.
Informações de Contas Direcionadas Incorretamente
O Windows Report obteve uma captura de tela de um e-mail enviado pela Anthropic aos clientes sobre o vazamento de informações causado por um contratado. O e-mail revelou o “nome da conta e informações de contas a receber até 31 de dezembro de 2023.” O conteúdo do e-mail é o seguinte:
Alerta importante sobre sua conta:
Queremos informar que um de nossos contratados direcionou inadvertidamente algumas informações de contas a receber da Anthropic para um terceiro. As informações incluíam o nome da sua conta e detalhes de contas a receber até 31 de dezembro de 2023, indicando um saldo de crédito em aberto. Importante ressaltar que esses dados não continham informações pessoais sensíveis, como dados bancários ou de pagamento. Nossa investigação determinou que este incidente foi resultado de um erro isolado, sem comprometimento de nossos sistemas. Não encontramos indícios de intenção maliciosa relacionada a essa divulgação.
A Anthropic pediu aos clientes que permaneçam atentos a quaisquer comunicações suspeitas que pareçam vir da empresa, como solicitações de pagamento incomuns ou e-mails inesperados. “Lamentamos sinceramente este incidente e qualquer transtorno que ele possa ter causado. Nossa equipe está pronta para apoiá-lo,” acrescentou a empresa.
Apenas um Subconjunto de Usuários Afetados
Em resposta a perguntas sobre o vazamento, a Anthropic confirmou que apenas um “subconjunto” de usuários foi impactado, mas não divulgou números específicos. Como as violações de dados continuam alarmantemente frequentes — 95% atribuídas a erro humano — este incidente destaca a ansiedade enfrentada pelas organizações ao usar LLMs de terceiros como o Claude para dados proprietários.
O vazamento aumentou as preocupações entre as empresas de que dados sensíveis poderiam ser comprometidos por meio de LLMs de terceiros. Notavelmente, a Samsung proibiu o uso do ChatGPT no último inverno após o vazamento de dados sensíveis da empresa.
Scrutínio Regulatório sobre Parcerias de IA
Desde sua fundação em 2021, a Anthropic experimentou um crescimento rápido, com uma avaliação de $18,4 bilhões e esforços significativos de financiamento, incluindo até $2 bilhões do Google e outros $4 bilhões da Amazon. A empresa também busca garantir uma rodada adicional de $750 milhões liderada pela Menlo Ventures.
No entanto, as parcerias da Anthropic com a AWS e o Google atraíram a atenção da FTC, que recentemente emitiu ordens 6(b) para Amazon, Microsoft, OpenAI, Anthropic e Alphabet, solicitando divulgações detalhadas sobre suas colaborações estratégicas.
As parcerias sob escrutínio incluem:
- Colaboração ampliada entre Microsoft e OpenAI anunciada em 23 de janeiro de 2023
- Parceria estratégica da Amazon com a Anthropic, lançada em 25 de setembro de 2023
- Aliança de IA expandida entre Google e Anthropic, estabelecida em 8 de novembro de 2023
A FTC solicitou uma análise sobre como essas associações podem impactar a concorrência no mercado e observou que tanto a União Europeia quanto o Reino Unido estão revisando os investimentos em IA da Microsoft. A presidente da FTC, Lina Khan, afirmou: “Estamos investigando se esses relacionamentos permitem que empresas dominantes exercitem influência indevida, potencialmente comprometendo a concorrência justa.”
Colaborações Estratégicas da Anthropic
A Anthropic tem parcerias com AWS e Google desde sua criação, expandindo significativamente esses relacionamentos. A Amazon planeja investir até $4 bilhões, obtendo participação minoritária na Anthropic e atuando como seu principal provedor de nuvem.
A Anthropic também se comprometeu a fornecer futuras gerações de seus modelos de IA para os clientes da AWS por meio do Amazon Bedrock, oferecendo acesso antecipado a recursos de personalização de modelos. Além disso, a Anthropic utiliza os serviços de Google Cloud, integrando ferramentas como o TPU v5e do Google para seu LLM Claude e beneficiando-se das soluções de segurança e banco de dados do Google. O CEO do Google Cloud, Thomas Kurian, afirmou: “Anthropic e Google Cloud compartilham uma visão de desenvolver IA de forma ousada e responsável, garantindo soluções de IA seguras e inovadoras.”
Essa rápida evolução e o escrutínio destacam o dinâmico cenário em que as startups de IA operam, enquanto navegam por crescimento, parcerias e desafios regulatórios.
Classificação
