OpenAI erkennt die Entwicklung der Text-Wasserzeichen-Technologie für ChatGPT an, trotz erheblicher Herausforderungen.

OpenAI Entwickelt Text-Wasserzeichen-Technologie zur Identifizierung von ChatGPT-generierten Inhalten

Laut einem Bericht der The Wall Street Journal hat OpenAI bestätigt, an einem hochpräzisen Tool zur Identifizierung von Texten zu arbeiten, die von ChatGPT erzeugt werden, obwohl es noch nicht offiziell veröffentlicht wurde. Das Unternehmen räumt ein, dass die Entwicklung der Text-Wasserzeichen-Technologie auf zahlreiche Herausforderungen stößt, bleibt jedoch entschlossen, diese Innovation weiter zu erforschen.

Das zentrale Anliegen des Text-Wasserzeichens besteht darin, speziell Texte zu erkennen, die ChatGPT zugeordnet werden können, im Gegensatz zu Inhalten, die von anderen Modellen erzeugt werden. OpenAI plant, dies zu erreichen, indem sie die Wortwahl, die von ChatGPT generiert wird, subtil anpassen, um ein unsichtbares Wasserzeichen einzubetten, das später mit spezialisierten Werkzeugen erfasst werden kann.

OpenAI hat angedeutet, dass Text-Wasserzeichen nur eine von mehreren Lösungen ist, die sie in Betracht ziehen, neben Klassifikatoren und Metadaten, um die Herkunft von Texten zu bestimmen. Allerdings könnte die Wirksamkeit von Text-Wasserzeichen erheblich abnehmen, wenn Texte übersetzt, umgeschrieben oder mit Sonderzeichen versehen werden. Zudem könnte diese Technologie bestimmte Gruppen, insbesondere nicht-muttersprachliche Englischsprecher, unverhältnismäßig stark betreffen.

Angesichts dieser Komplexitäten und der potenziellen Auswirkungen auf das breitere Ökosystem hat OpenAI erklärt, dass es bei der Entwicklung von Technologien zur Textverfolgung vorsichtig vorgehen wird und die Förderung von Verifizierungswerkzeugen für audiovisuelle Inhalte priorisieren möchte.