OpenAI-Vorstand erhält Vetorecht über die Veröffentlichung von KI-Modellen: Neue Aufsichtsmittel wurden eingeführt.

Nach den jüngsten Turbulenzen im Vorstand commit OpenAI sich zu einer verstärkten Aufsicht durch die Einrichtung eines spezialisierten Preparedness-Teams, das sich auf strenge Sicherheitstests seiner KI-Modelle konzentriert. Diese strategische Initiative folgt auf die umstrittene Entscheidung, CEO Sam Altman zu entlassen, die von Bedenken des Chief Scientist Ilya Sutskever über die rasche Kommerzialisierung der Technologie ohne angemessene Schutzmaßnahmen gegen potenzielle Risiken getrieben wurde. Altman wurde fünf Tage später nach weitreichendem Mitarbeiterunmut wieder eingesetzt, was die Bedeutung der Unterstützung der Mitarbeiter für unternehmerische Entscheidungen verdeutlicht.

Um die Sicherheitsprotokolle zu stärken, wird das neue Preparedness-Team von OpenAI umfassende Bewertungen und Stresstests der grundlegenden Modelle durchführen. Die von diesem Team generierten Berichte werden mit der OpenAI-Führungsspitze und dem neu gebildeten Vorstand geteilt. Während das Führungsteam basierend auf den Testergebnissen entscheiden wird, ob die Modelle weiterverfolgt werden, hat der Vorstand nun die Befugnis, diese Entscheidungen zu kippen, was einen Wandel hin zu mehr Transparenz im Entscheidungsprozess markiert.

In einem aktuellen Blogbeitrag betonte OpenAI: „Diese technische Arbeit ist entscheidend, um die Entscheidungsfindung von OpenAI für die sichere Entwicklung und Bereitstellung von Modellen zu informieren.“ Die Umstrukturierung des Vorstands folgt erheblichen Veränderungen während der Führungskrise, mit dem Ziel, die Mitgliederzahl von drei auf neun zu erweitern, einschließlich einer nicht stimmberechtigten Beobachterrolle für Microsoft. Der aktuelle Vorstand umfasst respektierte Persönlichkeiten wie den ehemaligen US-Finanzminister Larry Summers, Bret Taylor, den ehemaligen Co-CEO von Salesforce, und Adam D’Angelo, Mitbegründer von Quora, der das einzige verbleibende Mitglied des vorherigen Vorstands ist.

Die Mission von OpenAI ist klar: Die primäre Treuhandverantwortung gilt der Menschheit, und das Unternehmen ist tief verpflichtet, die Sicherheit der Künstlichen Allgemeinen Intelligenz (AGI) zu gewährleisten. Der neue Preparedness Framework des Unternehmens soll wertvolle Erkenntnisse aus den Modellbereitstellungen gewinnen, die es ermöglichen, aufkommende Risiken effektiv zu mindern. OpenAI betont, dass mit der beschleunigten Innovation auch das Tempo der Sicherheitsarbeit steigen muss, was kontinuierliches Lernen durch iterative Bereitstellungen erfordert.

Im Rahmen dieses Preparedness Frameworks wird das neue Team regelmäßige Sicherheitsübungen durchführen, um schnelle Reaktionen auf eventuell auftretende Probleme sicherzustellen. OpenAI plant ebenfalls, qualifizierte unabhängige Dritte zu engagieren, um umfassende Audits durchzuführen, was die Verantwortlichkeit und Transparenz erhöht.

Alle OpenAI-Modelle werden zukünftig kontinuierlich aktualisiert und evaluiert, sobald sich die effektive Rechenleistung in Trainingseinheiten verdoppelt. Der Testprozess umfasst eine Reihe kritischer Bereiche, darunter Cyber-Sicherheitsanfälligkeiten, Missbrauchspotenziale und die Fähigkeit zur autonomen Entscheidungsfindung, insbesondere im Hinblick auf gefährliche Ausgaben in Bezug auf biologische, chemische oder nukleare Bedrohungen.

Die Modelle werden in eine von vier Sicherheitsrisikokategorien eingeordnet, die dem Klassifizierungssystem des EU AI Acts entsprechen. Diese Kategorien reichen von niedrig über mittel, hoch bis zu kritischen Risikostufen. Modelle, die als mittleres Risiko oder darunter eingestuft werden, gelten als geeignet für die Bereitstellung, während Modelle mit hohen oder kritischen Risiken weitere Entwicklungen und Vorsichtsmaßnahmen erfordern.

Derzeit befindet sich OpenAIs Preparedness Framework in der Beta-Phase, mit geplanten Anpassungen, sobald neue Erkenntnisse gewonnen werden. Dieser proaktive Ansatz spiegelt das Engagement des Unternehmens wider, nicht nur die Fortschritte in der KI-Technologie zu fördern, sondern auch die Sicherheits- und ethischen Überlegungen, die mit solchen Innovationen einhergehen.