На этой неделе произошло важное событие для стартапа AI Anthropic, создателя семейства больших языковых моделей (LLM) Claude и чат-ботов.
В понедельник, 22 января, Anthropic сообщила, что один из подрядчиков ненамеренно отправил файл с ненастоящей информацией о клиентах третьей стороне. В этом файле содержалась «подмножество» имен клиентов и открытые кредитные остатки на конец 2023 года. Представитель Anthropic отметил: «Наше расследование показывает, что это был изолированный случай, вызванный человеческой ошибкой, а не компрометацией систем Anthropic. Мы уведомили затронутых клиентов и предоставили им соответствующие рекомендации».
Этот инцидент совпал с объявлением Федеральной торговой комиссии (FTC), которая изучает стратегические партнерства Anthropic с Amazon и Google, а также связи OpenAI с Microsoft. Anthropic уточнила, что ошибка подрядчика не связана с расследованием FTC, по которому они не комментировали.
Неправильно направленная информация о счетах
Издание Windows Report получило скриншот письма от Anthropic к клиентам, касающегося утечки информации, вызванной третьей стороной. В письме раскрывалась информация «о наименовании счета и дебиторской задолженности на 31 декабря 2023 года». Вот содержание письма:
Важное предупреждение о вашем аккаунте:
Мы хотим информировать вас о том, что один из наших подрядчиков ненамеренно направил некоторые данные по дебиторской задолженности Anthropic третьей стороне. Информация включала ваше наименование счета и данные по дебиторской задолженности на 31 декабря 2023 года, указывая на открытый кредитный остаток. Важно отметить, что эти данные не содержали конфиденциальной личной информации, такой как банковские или платежные данные. Наше расследование подтвердило, что этот инцидент произошел из-за изолированной ошибки, без компрометации наших систем. Мы не видим оснований предполагать злонамеренные намерения, связанные с данной утечкой.
Anthropic призвала клиентов быть бдительными к любым подозрительным коммуникациям, которые выглядят как сообщения от компании, например, необычные запросы на оплату или неожиданные электронные письма. «Мы искренне сожалеем о случившемся инциденте и о любом беспокойстве, которое это могло вызвать. Наша команда готова вас поддержать», — добавила компания.
Затронуты только отдельные пользователи
В ответ на вопросы о утечке информации Anthropic подтвердила, что была затронута только «часть» пользователей, но конкретные цифры не были раскрыты. Поскольку утечки данных остаются тревожной реальностью — 95% из них связаны с человеческой ошибкой — этот случай подчеркивает беспокойство организаций при использовании сторонних LLM, таких как Claude, для обработки конфиденциальных данных. Утечка данных усилила опасения среди компаний о том, что чувствительная информация может быть скомпрометирована через сторонние LLM. В частности, Samsung запретила использование ChatGPT весной после утечки конфиденциальных данных компании.
Регуляторный контроль над партнерствами в сфере ИИ
С момента своего основания в 2021 году Anthropic стремительно растет, достигнув оценки в 18,4 миллиарда долларов и значительных инвестиционных потоков, включая до 2 миллиардов от Google и еще 4 миллиарда от Amazon. Компания также планирует привлечь дополнительные 750 миллионов долларов в рамках нового раунда, возглавляемого Menlo Ventures.
Однако партнерства Anthropic с AWS и Google привлекли внимание FTC, которая недавно выдала 6(b) предписания компаниям Amazon, Microsoft, OpenAI, Anthropic и Alphabet с требованием предоставить детальные раскрытия информации о своих стратегических сотрудничествах.
Ключевые партнерства под наблюдением включают:
- Расширенное сотрудничество Microsoft и OpenAI, объявленное 23 января 2023 года
- Стратегическое партнерство Amazon и Anthropic, запущенное 25 сентября 2023 года
- Расширенный альянс в области ИИ между Google и Anthropic, установленный 8 ноября 2023 года
FTC запросила анализ того, как эти ассоциации могут повлиять на рыночную конкуренцию, отметив, что как Европейский Союз, так и Великобритания также рассматривают инвестиции Microsoft в сферу ИИ. Председатель FTC Лина Хан заявила: «Мы исследуем, позволяют ли эти взаимоотношения доминирующим компаниям оказывать чрезмерное влияние, что может нарушить честную конкуренцию».
Стратегические сотрудничества Anthropic
С момента своего создания Anthropic сотрудничает с AWS и Google, значительно расширяя эти отношения. Amazon планирует инвестировать до 4 миллиардов долларов, получая миноритарную долю в Anthropic и становясь ее основным облачным поставщиком. Anthropic также пообещала предоставить будущие поколения своих ИИ-моделей клиентам AWS через Amazon Bedrock, предоставляя ранний доступ к функциям настройки моделей.
Кроме того, Anthropic использует услуги Google Cloud, интегрируя такие инструменты, как TPU v5e от Google для своей модели Claude и получая выгоду от решений Google в области безопасности и баз данных. Генеральный директор Google Cloud Томас Курьян отметил: «Anthropic и Google Cloud разделяют взгляды на смелую, но ответственную разработку ИИ, обеспечивая безопасные и инновационные ИИ-решения».
Это быстрое развитие и повышенное внимание со стороны регуляторов подчеркивают динамическую обстановку, в которой работают стартапы в области ИИ, когда они сталкиваются с ростом, партнерствами и регуляторными вызовами.
Рейтинг
