OpenAI und Anthropic fordern die US-Regierung auf, die Risikobewertung neuer KI-Modelle zu priorisieren.

OpenAI und Anthropic kooperieren für die Sicherheit von KI-Modellen

Als führende Unternehmen im KI-Sektor erkennen OpenAI und Anthropic ihre Verantwortung, technologische Entwicklungen verantwortungsbewusst voranzutreiben. Vor der Einführung neuer KI-Modelle haben sich beide Organisationen entschieden, mit dem AI Safety Institute der US-Regierung zusammenzuarbeiten, um umfassende Sicherheitsbewertungen durchzuführen. Diese Kooperation hat zum Ziel, sicherzustellen, dass technologischer Fortschritt den langfristigen Interessen der Gesellschaft dient und potenzielle negative Auswirkungen verringert.

Das 2023 auf Anordnung der Biden-Harris-Administration gegründete AI Safety Institute widmet sich der Förderung verantwortungsbewusster KI-Innovationen. Das Institut wird die neuen KI-Modelle von OpenAI und Anthropic gründlich evaluieren, wobei der Fokus auf deren Fähigkeiten, potenziellen Risiken und entsprechenden Strategien zur Risikominderung liegt. Dieser Bewertungsprozess ist entscheidend, um die Entwicklung von KI mit den Erwartungen der Gesellschaft in Einklang zu bringen.

Die Führungskräfte von OpenAI und Anthropic haben ihre starke Unterstützung für diese Partnerschaft betont und die Bedeutung der Sicherheit in der Entwicklung von KI hervorgehoben. Sie betonten, dass die Zusammenarbeit mit der Regierung ein tieferes Verständnis dafür schaffen wird, wie technologische Fortschritte die Gesellschaft beeinflussen, und Möglichkeiten zur Verringerung von Sicherheitsrisiken erforscht werden können. Diese Initiative legt eine solide Grundlage für die Förderung sicherer und verantwortungsbewusster KI-Technologien.