OpenAI tritt der Koalition für Content Provenance und Authenticity bei
OpenAI hat seine Mitgliedschaft im Steuerungsausschuss der Koalition für Content Provenance und Authenticity (C2PA) bekanntgegeben, einer Handelsgruppe, die im Februar 2021 von Microsoft und Adobe sowie weiteren Mitgliedern wie Arm, BBC, Intel und Truepic gegründet wurde.
Zweck des Beitritts zur C2PA
OpenAI verfolgt das Ziel, die Verifizierung von Werkzeugen zu unterstützen, die zur Erstellung oder Bearbeitung digitaler Inhalte verwendet werden, und Technologien zu entwickeln, die Inhalte identifizieren, die mit seinen Werkzeugen generiert wurden. Diese Zusammenarbeit mit anderen Akteuren der Branche, einschließlich Mitbewerbern, soll Ressourcen zur Kennzeichnung von KI-generierten Bildern, Videos und anderen Medien schaffen. Dadurch können Zuschauer Inhalte auf ihre Quellen zurückverfolgen und sie von authentischem Filmmaterial und Fotografien unterscheiden.
Was macht die C2PA?
Die C2PA agiert unter der gemeinnützigen Joint Development Foundation und konzentriert sich auf die Etablierung technischer Spezifikationen für Content Provenance und Authenticity. Seit ihrer Gründung hat die Organisation auch andere Tech-Giganten wie Google in ihren Ausschuss aufgenommen. Die C2PA hat mehrere Open-Source-Standards entwickelt, die es Entwicklern und Unternehmen ermöglichen, die Herkunft von KI-generierten Inhalten zu klären. Zu den wichtigsten Standards gehört die C2PA-Architektur, die das Speichern und Zugreifen auf kryptografisch überprüfbare Informationen ermöglicht und es Nutzern erleichtert, die Vertrauenswürdigkeit des Inhalts anhand eines definierten Vertrauensmodells zu bewerten.
Implementierung von Content Credentials
C2PA-Mitglieder haben die Architektur genutzt, um „Content Credentials“ zu erstellen, ein kleines „CR“-Wasserzeichen, das Nutzern hilft, den Ersteller und die verwendeten Werkzeuge eines Bildes zu identifizieren. Diese Funktion ermöglicht Interaktionen durch Überfahren oder Tippen, um detailliertere Informationen bereitzustellen.
Die C2PA-Architektur kann auch in die Metadaten digitaler Mediendateien integriert werden, um die Zugänglichkeit auch im Offline-Modus sicherzustellen. OpenAI hat diesen Standard seit Februar 2023 auf Bilder angewendet, die mit seinem DALL-E 3-Modell generiert wurden. Auch Meta hat begonnen, KI-generierte Bilder mit C2PA-Standards zu kennzeichnen.
Aussagen zur Branchenkooperation
Anna Makanju, VP für Globale Angelegenheiten bei OpenAI, betonte in einer Pressemitteilung der C2PA die Rolle der Organisation bei der Förderung gemeinsamer Standards rund um digitale Provenienz. Sie hob hervor, dass die Mitwirkung an diesen Bemühungen entscheidend für den Aufbau von Vertrauen in digitale Inhalte ist, die Verbraucher online antreffen.
Zukünftige Entwicklungen mit Sora
Obwohl bislang nicht öffentlich verfügbar, wird OpenAIs fortschrittliches Video-generierendes KI-Modell Sora die C2PA-Metadaten implementieren, um seine Outputs als KI-generiert zu kennzeichnen, sobald es vertrauenswürdigen Partnern und später auch der Öffentlichkeit zugänglich gemacht wird.
DALL-E Detection Classifier Programm
OpenAI hat auch das DALL-E Detection Classifier Researcher Access Program ins Leben gerufen, das einen binären Klassifizierer umfasst, der vorhersagen kann, ob ein Bild aus seinem DALL-E 3-Modell stammt. OpenAI lädt Forschungsinstitute und gemeinnützige Journalismusorganisationen ein, sich bis zum 31. Juli um die Teilnahme zu bewerben.
Einrichtung eines Fonds für gesellschaftliche Resilienz
Gemeinsam mit Microsoft gründet OpenAI einen Fonds in Höhe von 2 Millionen Dollar zur Förderung von KI-Ausbildung für ältere Erwachsene und Personen, die mit der Technologie nicht vertraut sind. Diese Initiative arbeitet mit Organisationen wie AARP, International IDEA und Partnership on AI zusammen.
Diese Ankündigungen erfolgen vor dem Hintergrund wachsender Bedenken hinsichtlich KI-generierter Bilder, die Nutzer auf Social-Media-Plattformen wie Facebook irreführen könnten. OpenAIs duale Strategie zielt darauf ab, sowohl die Inhaltserstellung als auch die Bildung anzugehen.
Dennoch stellt die Zuverlässigkeit bei der Kennzeichnung von KI-generierten Inhalten aufgrund der Verbreitung von Open-Source-KI-Tools und der Möglichkeit, Bilder zu verändern, eine fortwährende Herausforderung dar. Nichtsdestotrotz signalisieren OpenAIs proaktive Maßnahmen sein Engagement für soziale Verantwortung im sich wandelnden digitalen Inhaltumfeld.
Rangliste
