„Legitimately Dangerous“: Googles Ungenaue KI-Übersichten lösen Spott aus und wecken Bedenken

Sollten Sie Kleber auf Ihre Pizza geben? 30 Minuten in die Sonne starren? Steine essen? Schlangenbisse mit Eis behandeln?

Laut der neuen "AI Overview"-Funktion von Google erscheinen diese gefährlichen Vorschläge unter den Top-Ergebnissen, wenn Nutzer nach Informationen suchen.

Was ist Google AI Overview?

Im Mai 2023 startete Google die "Search Generative Experience", um mit OpenAIs ChatGPT zu konkurrieren. Diese KI-gesteuerte Zusammenfassung wichtiger Informationen wird prominent unter der Suchleiste angezeigt, noch vor der traditionellen Liste blauer Links. Zunächst eine freiwillige Funktion, wurde sie nach der Umbenennung in AI Overviews auf der jüngsten I/O-Konferenz zur Standarderfahrung für alle US-Nutzer. Nutzer können weiterhin zur “Web”-Registerkarte wechseln, um sich abzumelden.

Warum ist Google AI Overview umstritten?

Seit der Einführung haben viele Nutzer auf X (ehemals Twitter) auf die besorgniserregenden und oft ungenauen Ergebnisse hingewiesen, die von den AI Overviews generiert werden. Einige irreführende Ergebnisse können sogar schädlich oder provokant sein, was zu Kritik von Prominenten und Nutzern führte. Die schlechte Qualität der von der KI erzeugten Antworten hat zu Memes und Witzen geführt, die Googles Zuverlässigkeit aufs Korn nehmen.

Um diesen Bedenken entgegenzuwirken, hat Google die Funktion AI Overview als „experimentell“ gekennzeichnet, was bedeutet, dass die Ergebnisse in ihrer Genauigkeit variieren können. Das Unternehmen betont, dass Nutzerfeedback und menschliche Bewertungen zur Verbesserung des Systems beitragen werden.

Wird Google die AI Overviews entfernen?

Es gibt Forderungen, dass Google die AI Overview-Funktion überdenken sollte, insbesondere nach früheren Vorfällen, bei denen Google KI-Tools wegen problematischer Ergebnisse aussetzen musste. Ein Unternehmenssprecher bemerkte, dass die besorgniserregendsten Beispiele online „sehr ungewöhnliche Anfragen“ betrafen und dass auf isolierte Vorfälle mit Verfeinerungen der Funktion reagiert wurde. Einige Nutzer sehen dies jedoch als Ausrede und hinterfragen die Integrität eines Systems, das auf der Generierung von Inhalten aus zuvor indexierten Quellen, einschließlich Fehlinformationen und Satire, basiert.

Fazit

Obwohl unklar ist, wie viele Suchanfragen ungenaue Informationen liefern, scheint AI Overview anfälliger für unzuverlässige Quellen als die traditionelle Google-Suche zu sein. Nutzer sollten Vorsicht walten lassen und Informationen aus vertrauenswürdigen Quellen überprüfen, bevor sie auf diesen KI-generierten Ergebnissen basierende Entscheidungen treffen. Alternativen wie Perplexity haben eine höhere Genauigkeit bei der Bereitstellung verlässlicher Informationen gezeigt und stellen einen ironischen Twist für Google dar, das die Technologie hinter der modernen generativen KI maßgeblich entwickelt hat.