Es war eine bedeutende Woche für das AI-Startup Anthropic, den Schöpfer der Claude-Familie von großen Sprachmodellen (LLMs) und Chatbots.
Am Montag, dem 22. Januar, berichtete Anthropic, dass ein Auftragnehmer versehentlich eine Datei mit nicht sensiblen Kundeninformationen an eine dritte Partei gesendet hatte. Diese Datei enthielt eine "Teilmenge" von Kundennamen und offenen Kreditständen zum Ende des Jahres 2023. Ein Sprecher von Anthropic erklärte: „Unsere Untersuchung zeigt, dass es sich um einen isolierten Vorfall aufgrund menschlichen Fehlers handelte – nicht um einen Bruch unserer Systeme. Wir haben betroffene Kunden informiert und ihnen angemessene Unterstützung angeboten.“
Dieser Vorfall fiel mit einer Ankündigung der Federal Trade Commission (FTC) zusammen, die die strategischen Partnerschaften von Anthropic mit Amazon und Google sowie die Verbindungen von OpenAI zu Microsoft untersucht. Anthropic stellte klar, dass der Fehler des Auftragnehmers nicht mit der FTC-Untersuchung zusammenhängt, zu der sie keine weiteren Kommentare abgeben wollten.
Falschgerichtete Kontoinformationen
Windows Report erhielt einen Screenshot einer E-Mail, die Anthropic an Kunden zu dem durch einen Drittanbieter verursachten Informationsleck geschickt hatte. In der E-Mail wurde mitgeteilt, dass „Kontoname und Informationen über Forderungen zum 31. Dezember 2023“ betroffen waren. Hier ist der Inhalt der E-Mail:
Wichtiger Hinweis zu Ihrem Konto:
Wir möchten Sie informieren, dass einer unserer Auftragnehmer versehentlich einige Informationen über Forderungen von Anthropic an eine dritte Partei weitergeleitet hat. Diese Informationen beinhalteten Ihren Kontonamen und Details zu den Forderungen zum 31. Dezember 2023, die einen offenen Kreditstand angeben. Wichtig ist, dass diese Daten keine sensiblen persönlichen Informationen wie Bank- oder Zahlungsdaten enthielten. Unsere Untersuchung hat ergeben, dass dieser Vorfall auf einen isolierten Fehler zurückzuführen ist, ohne dass unsere Systeme kompromittiert wurden. Wir haben keine Anzeichen für böswillige Absichten in Verbindung mit dieser Offenlegung festgestellt.
Anthropic rief die Kunden auf, wachsam hinsichtlich verdächtiger Kommunikationen zu bleiben, die scheinbar von dem Unternehmen stammen, wie ungewöhnliche Zahlungsanforderungen oder unerwartete E-Mails. „Wir bedauern diesen Vorfall und die möglicherweise dadurch verursachten Unannehmlichkeiten sehr. Unser Team steht Ihnen zur Unterstützung bereit“, ergänzte das Unternehmen.
Nur eine Teilmenge der Nutzer betroffen
In Antwort auf Anfragen zu dem Leck bestätigte Anthropic, dass nur eine „Teilmenge“ der Nutzer betroffen war, nannte jedoch keine spezifischen Zahlen. Da Datenpannen alarmierend häufig auftreten – 95 % davon werden menschlichem Fehler zugeschrieben – verdeutlicht dieser Vorfall die Ängste, mit denen Organisationen konfrontiert sind, die Drittanbieter-LLMs wie Claude für proprietäre Daten nutzen.
Das Leck hat die Bedenken von Unternehmen hinsichtlich der Möglichkeit erhöht, dass sensible Daten durch Drittanbieter-LLMs gefährdet werden könnten. Bemerkenswert ist, dass Samsung ChatGPT im vergangenen Frühjahr verbot, nachdem sensible Unternehmensdaten geleakt wurden.
Regulierungsprüfung der KI-Partnerschaften
Seit seiner Gründung im Jahr 2021 hat Anthropic ein schnelles Wachstum erlebt und weist eine Bewertung von 18,4 Milliarden US-Dollar auf, unterstützt durch bedeutende Finanzierungsbemühungen, darunter bis zu 2 Milliarden US-Dollar von Google und weitere 4 Milliarden US-Dollar von Amazon. Das Unternehmen strebt auch eine zusätzliche Finanzierungsrunde in Höhe von 750 Millionen US-Dollar unter der Leitung von Menlo Ventures an.
Allerdings haben die Partnerschaften von Anthropic mit AWS und Google die Aufmerksamkeit der FTC auf sich gezogen, die kürzlich 6(b)-Aufträge an Amazon, Microsoft, OpenAI, Anthropic und Alphabet für detaillierte Offenlegungen zu ihren strategischen Kooperationen erteilt hat.
Wichtige Partnerschaften, die unter die Lupe genommen werden, umfassen:
- Die erweiterte Zusammenarbeit zwischen Microsoft und OpenAI, die am 23. Januar 2023 angekündigt wurde
- Die strategische Partnerschaft zwischen Amazon und Anthropic, die am 25. September 2023 gestartet wurde
- Die erweiterte KI-Allianz zwischen Google und Anthropic, die am 8. November 2023 etabliert wurde
Die FTC hat eine Analyse angefordert, wie diese Verbindungen den Wettbewerb auf dem Markt beeinflussen könnten, und vermerkt, dass sowohl die Europäische Union als auch das Vereinigte Königreich Microsofts KI-Investitionen ebenfalls prüfen.
FTC-Vorsitzende Lina Khan erklärte: „Wir untersuchen, ob diese Beziehungen es dominierenden Firmen ermöglichen, unzulässigen Einfluss auszuüben, was zu einer Gefährdung des fairen Wettbewerbs führen könnte.“
Strategische Kooperationen von Anthropic
Anthropic arbeitet seit seiner Gründung mit AWS und Google zusammen und hat diese Beziehungen erheblich ausgebaut. Amazon plant, bis zu 4 Milliarden US-Dollar zu investieren, um eine Minderheitsbeteiligung an Anthropic zu erlangen und als primärer Cloud-Anbieter zu fungieren.
Anthropic hat sich außerdem verpflichtet, zukünftige Generationen seiner KI-Modelle über Amazon Bedrock an AWS-Kunden bereitzustellen, was einen frühen Zugang zu Anpassungsfunktionen der Modelle ermöglicht.
Zusätzlich nutzt Anthropic die Cloud-Dienste von Google und integriert Tools wie Googles TPU v5e für sein Claude-LLM und profitiert von Googles Sicherheits- und Datenbanklösungen. Google Cloud-CEO Thomas Kurian erklärte: „Anthropic und Google Cloud teilen eine Vision für die Entwicklung von KI – mutig und verantwortungsvoll, um sichere und innovative KI-Lösungen zu gewährleisten.“
Diese schnelle Entwicklung und die regulatorische Prüfung verdeutlichen die dynamische Landschaft, in der KI-Startups operieren, während sie Wachstum, Partnerschaften und regulatorische Herausforderungen bewältigen.
Rangliste
