Letzte Woche informierte mich ein Sprecher von OpenAI über die Gründung des neuen Teams "Collective Alignment". Dessen Ziel ist es, "Prototyping-Prozesse" zu entwickeln, die öffentliche Beiträge einbeziehen, um das Verhalten von KI-Modellen zu gestalten – mit dem Ziel, eine demokratische KI-Governance zu realisieren. Diese Initiative baut auf der Arbeit von zehn Empfängern des OpenAI-Programms “Democratic Inputs to AI” auf.
Ich konnte nicht anders, als über die Ironie zu schmunzeln. OpenAI verkündet hohe Ideale, wie die Schaffung einer sicheren AGI, die der gesamten Menschheit zugutekommt, während es gleichzeitig die praktischen Herausforderungen des API-Verkaufs, der Erweiterung von GPT-Stores und der Bewältigung von Urheberrechtsklagen meistert. Die Herausforderung, einen öffentlichen Konsens über die KI-Governance zu erreichen – eines der komplexesten Probleme der Menschheit – scheint überwältigend.
Ist dies der richtige Moment für KI-Agenten? Die amerikanische Demokratie steht unter beispiellosem Druck, während KI-Systeme im Mittelpunkt der Bedenken über Deepfakes und Desinformation stehen, insbesondere angesichts der bevorstehenden Wahlen 2024. Wie kann ein subjektives Konzept wie die öffentliche Meinung die Regeln für KI beeinflussen, insbesondere von einem Unternehmen, das momentan in der kommerziellen KI-Branche führend ist?
Dennoch bietet die Existenz des "Collective Alignment"-Teams von OpenAI einen Hoffnungsschimmer. Ihr Ziel, eine demokratischere KI zu schaffen, die durch menschliche Einsichten geleitet wird, ist unbestreitbar von Bedeutung. Dennoch muss man sich fragen, ob diese Initiative ein ernsthafter Versuch oder lediglich ein PR-Manöver in Reaktion auf Forderungen nach mehr Verantwortung ist.
Einblicke vom Team "Collective Alignment"
Um tiefer einzutauchen, sprach ich mit zwei Teammitgliedern: Tyna Eloundou, einer Forscherin, die sich mit den gesellschaftlichen Auswirkungen von Technologie beschäftigt, und Teddy Lee, einem Produktmanager mit Erfahrung in der Kennzeichnung menschlicher Daten für einen verantwortungsvollen KI-Einsatz. Sie planen, ihr Team um einen Forschungsingenieur und einen Wissenschaftler zu erweitern, um eng mit OpenAI’s Human Data-Team zusammenzuarbeiten, das die Infrastruktur für die Erfassung menschlicher Eingaben zu KI-Modellen schafft.
Als ich Eloundou nach den Herausforderungen der Formulierung demokratischer Prozesse für die KI-Governance fragte, erkannte sie, dass viele dies als "Vision" betrachten. "Demokratie an sich ist kompliziert und chaotisch", erklärte sie. "Sie erfordert ständige Verhandlungen darüber, wie sie funktioniert."
Lee hob die schwierige Aufgabe hervor, Demokratie in KI-Systeme zu integrieren, angesichts der sozio-technischen Komplexitäten. "Das Ziel unseres Förderprogramms ist es, zu erkunden, was andere Innovatoren in diesem Bereich tun", bemerkte er. "Es ist einschüchternd, doch es gibt viele schnell umsetzbare Ideen und Erkenntnisse."
Fortschritte im Förderprogramm
Einem aktuellen Blogbeitrag von OpenAI zufolge wurden im Rahmen des Programms "Democratic Inputs to AI" 100.000 Dollar an zehn vielfältige Teams aus fast 1.000 Bewerbungen vergeben. Diese Teams entwerfen und testen demokratische Methoden zur Etablierung einer KI-Governance. Sie stehen vor Herausforderungen wie der Einbindung vielfältiger Teilnehmer, der Sicherstellung repräsentativer Ergebnisse und der Förderung von Transparenz.
Jedes Team ging diese Herausforderungen mit innovativen Ansätzen an, darunter Plattformen für crowdsourcede Audits von KI-Modellen und einzigartige Video-Diskussionsschnittstellen. Dennoch stießen sie schnell auf Hindernisse; die öffentliche Meinung kann sich rasch ändern, und eine Einigung zwischen polarisierten Gruppen ist schwierig.
Trotz dieser Herausforderungen bleibt das "Collective Alignment"-Team von OpenAI engagiert. Sie konsultieren Experten aus den Sozialwissenschaften, insbesondere diejenigen, die an Bürgerversammlungen beteiligt sind – zufällig ausgewählte Gruppen, die über bedeutende öffentliche Fragen beraten.
Ein Engagement für demokratische Prozesse
Lee bemerkte: "Wir wissen nicht, was wir nicht wissen." Die Stipendiaten kommen aus verschiedenen Bereichen und bringen Schwung und Energie in ihre Projekte. "Wir müssen diesen Enthusiasmus mit unserer Technologie in Einklang bringen", sagte er.
Werden die Ziele des Teams erreichbar sein? "Es spiegelt die Demokratie selbst wider", erklärte Lee. "Es ist ein fortlaufender Prozess. Wenn sich die öffentlichen Ansichten entwickeln und die Interaktionen mit diesen Modellen ändern, wird sich auch unsere Arbeit weiterentwickeln."
Eloundou stimmte ihm zu: "Wir werden auf jeden Fall unser Bestes geben."
Egal, ob als PR-Initiative betrachtet oder nicht, jeder Schritt zur Verbesserung demokratischer Prozesse in der Entscheidungsfindung von KI ist lobenswert, insbesondere in einer Zeit, in der solche Prozesse gefährdet sind. An OpenAI: Ich begrüße eure besten Bemühungen.
Rangliste
