OpenAI und Microsoft vereinen sich gegen Cyberangriffe von Nationalstaaten mit ChatGPT.

Kürzlich haben OpenAI und Microsoft, führende Unternehmen im Bereich der künstlichen Intelligenz, die Schließung von fünf böswilligen Konten angekündigt, die mit staatlich unterstützten Akteuren in Verbindung stehen, die KI-Tools, einschließlich ChatGPT, für Cyberangriffe genutzt haben. Diese fünf Akteure sind mit China, Iran, Nordkorea und Russland verbunden. Die beiden mit China assoziierten Gruppen werden als „CHROMIUM“ und „SODIUM“ identifiziert, denen vorgeworfen wird, US-Verteidigungsauftragnehmer, Regierungsbehörden und Unternehmen im Bereich der Kryptographie zu attackieren. Der iranische Bedrohungsakteur ist als „CURIUM“ bekannt, die nordkoreanische Gruppe als „THALLIUM“ und die russische Einheit als „STRONTIUM“.

In ihrer Mitteilung betonte OpenAI, dass diese Bedrohungsakteure ihre Dienste ausnutzten, um offene Informationen zu sammeln, Texte zu übersetzen, Programmierfehler zu identifizieren und grundlegende Programmieraufgaben auszuführen. Untersuchungen ergaben jedoch, dass die Modelle von OpenAI bei bösartigen Cybersecurity-Aufgaben nur sehr eingeschränkte Funktionen bieten. Microsoft erklärte zudem, dass russische Militärgeheimdienstmitarbeiter, bezeichnet als „Forrest Blizzard“, große Sprachmodelle (LLMs) genutzt haben, um Satelliten- und Radartechnologien, die mit militärischen Operationen in der Ukraine in Verbindung stehen, zu erforschen, um potenzielle Automatisierungen und technische Optimierungen zu ermöglichen.

Sowohl CHROMIUM als auch SODIUM haben eine Vorgeschichte, US-Verteidigungsauftragnehmer und relevante Behörden ins Visier zu nehmen. Sie haben rechtliche Expertise genutzt, um Anfragen an Geheimdienste und Unternehmen zu stellen, Code zu generieren, Programmierfehler zu identifizieren und Übersetzungsaufgaben auszuführen. Gleichzeitig haben sowohl CURIUM als auch THALLIUM die OpenAI-Tools verwendet, um Phishing-Inhalte zu erstellen.

Obwohl OpenAI und Microsoft keine signifikanten Anzeichen für größere Angriffe festgestellt haben, bleiben sie wachsam und haben Maßnahmen vorgeschlagen, um die Risiken böswilliger KI-gestützter Aktivitäten zu mindern. Die Unternehmen erklärten, dass sie die Aktivitäten dieser Bedrohungsakteure weiterhin überwachen und bekämpfen sowie mit verschiedenen Akteuren zusammenarbeiten werden, um Informationen über böswillige Aktivitäten auszutauschen und damit das öffentliche Bewusstsein zu schärfen.

Dieser Vorfall ist eine eindringliche Erinnerung daran, dass mit dem rasanten Fortschritt der Technologie der künstlichen Intelligenz auch die Methoden von Cyberangriffen sich weiterentwickeln. Unternehmen und Einzelpersonen müssen ihre Cybersecurity-Maßnahmen stärken, um Informationen und Vermögenswerte zu schützen. Darüber hinaus sollten Regierungen und die internationale Gemeinschaft die Zusammenarbeit intensivieren, um Cyberangriffe, die KI-Technologien nutzen, zu bekämpfen und den Frieden sowie die Sicherheit im Cyberspace zu gewährleisten.