OpenAI kooperiert mit Meta zur Kennzeichnung von KI-generierten Bildern für mehr Transparenz

OpenAI hat ein Update für seine Hauptanwendung ChatGPT sowie den integrierten KI-Bilderzeuger DALL-E 3 angekündigt. Dieses Update führt neue Metadaten-Tags ein, die es Nutzern und Organisationen ermöglichen, KI-generierte Bilder zu identifizieren. Diese Bekanntgabe folgt direkt auf Metas vergleichbare Initiative, die darauf abzielt, KI-Bilder, die mit dem separaten Generator Imagine erstellt wurden, auf Plattformen wie Instagram, Facebook und Threads zu kennzeichnen.

Laut OpenAI ermöglicht die neue Metadatenstruktur, die auf C2PA-Spezifikationen basiert, allen— sowohl Inhaltsplattformen als auch Distributoren— die Erkennung von Bildern, die mit deren Produkten erstellt wurden. Das Update ist bereits für Webnutzer aktiv und wird bis zum 12. Februar für alle mobilen Nutzer ausgerollt.

Darüber hinaus hat OpenAI eine Webseite namens Content Credentials gestartet, auf der Nutzer Bilder hochladen können, um ihren KI-generierten Status zu verifizieren. Diese Funktion gilt jedoch nur für ab heute erstellte Bilder; zuvor generierte Bilder enthalten nicht die neuen Metadaten.

Was ist C2PA?

Die Coalition for Content Provenance and Authenticity (C2PA) ist eine im Februar 2021 gegründete Initiative, die technische Standards entwickeln soll, um die Herkunft und Historie von Medieninhalten zu zertifizieren. Unterstützt von Unternehmen wie Adobe, Microsoft und The New York Times, hat das C2PA das Ziel, Fehlinformationen und Betrug im Online-Inhalt zu bekämpfen. Im Januar 2022 veröffentlichte C2PA ihre ersten technischen Standards zur Einbettung von Metadaten in KI-generierte Bilder, die deren Ursprung unter bestimmten Umständen offenbare.

Jüngste Ereignisse, darunter die Verbreitung nicht einvernehmlicher Deepfake-Inhalte mit Prominenten und sozialen Mediennutzern, haben die Dringlichkeit der Arbeit von C2PA hervorgehoben. OpenAI hat sich zu Beginn dieses Jahres verpflichtet, die C2PA-Standards anzuwenden, um Fehlinformationen vor den Wahlen 2024 zu minimieren.

Wie OpenAI C2PA umsetzt

OpenAI bettet Metadaten—in Form einer elektronischen „Signatur“—in KI-generierte Bilddateien ein. Das Unternehmen räumt jedoch auf seiner Hilfeseite ein, dass diese Metadaten versehentlich oder absichtlich entfernt werden können. So entfernen die meisten Social-Media-Plattformen Metadaten von hochgeladenen Bildern, und Aktionen wie Screenshots können diese ebenfalls eliminieren. Daher bedeutet das Fehlen von Metadaten nicht unbedingt, dass ein Bild mit ChatGPT oder DALL-E 3 erstellt wurde.

Zudem sind diese Metadaten für Nutzer nicht sichtbar, ohne die Dateibeschreibung aufzurufen. Im Gegensatz dazu entwickelt Meta ein öffentlich zugängliches KI-Kennzeichnungssystem, das visuelle Kennzeichen, wie ein Funkel-Emoji, umfasst, um KI-generierte Bilder deutlich zu markieren. Diese Funktion ist noch in der Planung und wird in den kommenden Monaten eingeführt, wobei sie sich auf die C2PA-Standards sowie den IPTC Photo Metadata Standard stützt.

Diese Initiative unterstreicht das Engagement beider Unternehmen für Transparenz und Authentizität in KI-generierten Inhalten und spiegelt die wachsenden Bedenken hinsichtlich Fehlinformationen und digitaler Integrität wider.