Die Zukunft der KI-Assistenten: Ein potenziell transformative Wandel
In naher Zukunft werden KI-Assistenten, die in tragbare Geräte integriert sind, nahtlos in unser tägliches Leben eingebaut und bieten uns in Echtzeit Unterstützung in verschiedenen Situationen – vom Einkaufen in überfüllten Geschäften bis zum Besuch beim Kinderarzt. Diese Technologie wird aktiv alle Aspekte unseres Lebens beeinflussen und unsere sozialen Interaktionen mit Freunden, Familie, Kollegen und sogar Fremden prägen.
Das Konzept des „Einflusses“ wirft allerdings Bedenken hinsichtlich der Privatsphäre und Autonomie auf. Während viele sich möglicherweise unwohl fühlen bei solch allgegenwärtiger Unterstützung, wird die Gesellschaft wahrscheinlich diese Technologien annehmen und von ihrer Fähigkeit profitieren, zeitnahe und informierte Ratschläge zu geben, die unverzichtbar erscheinen.
Verständnis von kontextbezogenen KI-Assistenten
Wenn wir von „KI-Assistenten“ sprechen, denken wir oft an grundlegende Tools wie Siri oder Alexa, die auf einfache Sprachbefehle reagieren. KI-Assistenten der nächsten Generation werden aufgrund ihres Kontextbewusstseins weitaus ausgefeilter sein – sie können die Eindrücke und Geräusche ihrer Umgebung durch fortschrittliche Kameras und Mikrofone, die in tragbare Technologien integriert sind, wahrnehmen und darauf reagieren.
Sie werden voraussichtlich bis 2024 erhebliche Auswirkungen haben und Informationen liefern, die auf unsere aktuellen Aktivitäten zugeschnitten sind. Sie werden sich fast wie eine Superkraft anfühlen – Einblicke in Produkte in Schaufenstern geben, Pflanzen auf Wanderungen identifizieren oder Rezepte basierend auf den Zutaten in unserer Küche vorschlagen. Es gibt jedoch das Risiko, dass diese Assistenten zu überzeugend werden und möglicherweise Nutzer manipulieren, während sie sie durch alltägliche Aufgaben führen, insbesondere wenn sie von Unternehmen für gezielte Werbung eingesetzt werden.
Der Aufstieg multi-modal großer Sprachmodelle (LLMs)
Um das Risiko der Manipulation durch KI zu mindern, müssen Entscheidungsträger dieses entscheidende Thema ins Zentrum ihrer Aufmerksamkeit rücken, da die Technologie für kontextbewusste Assistenten erst kürzlich aufkam. Multi-modale LLMs, die in der Lage sind, Texte, Bilder, Audio- und Videoeingaben zu verarbeiten, stellen einen bedeutenden technologischen Fortschritt dar, der es KI-Systemen ermöglicht, unsere Umgebungen in Echtzeit zu interpretieren und darauf zu reagieren.
Ein Beispiel ist OpenAIs ChatGPT-4, das im März 2023 veröffentlicht wurde und eines der ersten gängigen multi-modal Modelle ist, gefolgt von Googles Gemini LLM. Besonders hervorzuheben ist Metas AnyMAL-Modell, das diesen Ansatz weiterführt, indem es Bewegungshinweise integriert und so einen KI-Assistenten ermöglicht, der sowohl sieht, was du siehst, als auch berücksichtigt, wie du dich bewegst.
Tragbare Technologie als Vorreiter
Mit den Fortschritten in der KI-Technologie, die für Verbraucher verfügbar sind, entwickeln Unternehmen schnell Geräte, die mit Kameras, Mikrofonen und Bewegungssensoren ausgestattet sind, um kontextbewusste Unterstützung zu bieten. Tragbare Brillen bieten beispielsweise eine optimale Plattform für diese Technologie, da sie sicherstellen, dass Kameras den Blick eines Nutzers erfassen, während Stereo-Mikrofone eine räumliche Wahrnehmung der umgebenden Geräusche ermöglichen.
Meta sticht derzeit mit seinen aktualisierten Ray-Ban-Smart-Brillen hervor, die zur Unterstützung fortschrittlicher KI-Funktionen entwickelt wurden. Am 12. Dezember begannen sie mit der Einführung von KI-Funktionen, die praktische Unterstützung bieten, wie das Vorschlagen von Kleidungskombinationen basierend auf Benutzerpräferenzen.
Humane, ein weiterer Schlüsselakteur, hat eine tragbare Anstecknadel entwickelt, die ähnliche Funktionen bietet und Anfang 2024 auf den Markt kommen soll. Während beide Ansätze vielversprechend sind, denke ich, dass Brillen eine effektivere Integration bieten, da sie sich mit der Sichtlinie des Nutzers verbinden und Mixed-Reality-Erlebnisse verbessern.
Unabhängig davon, ob die Technologie in Brillen, Ohrhörern oder anderen Geräten integriert ist, werden kontextbewusste KI-Assistenten bald alltäglich werden. Sie versprechen mächtige Funktionen, darunter Echtzeitübersetzung, historischen Kontext und personalisierte Unterstützung während sozialer Interaktionen, die unsere Kommunikationsfähigkeiten und unser soziales Bewusstsein steigern.
Die Risiken des KI-Einflusses navigieren
Als lebenslanger Forscher im Bereich KI und Mixed Reality bin ich besorgt über das Potenzial von KI, menschliche Interaktionen zu manipulieren. In meiner Kurzgeschichte „Carbon Dating“ habe ich diese Gefahr durch eine Erzählung dargestellt, in der die Interaktionen eines älteren Paares ausschließlich von KI-Ratschlägen geleitet werden, was den Verlust authentischer Verbindungen verdeutlicht. Diese warnende Geschichte wurde später von der britischen Datenschutzbehörde (ODPA) in den Film „Metaverse 2030“ adaptiert.
Die drängendsten Risiken bestehen darin, dass Unternehmens- und Regierungsakteure ihre Agenden durch konversationalen Einfluss durchsetzen, wodurch maßgeschneiderte Inhalte gezielt an Einzelpersonen gerichtet werden. Um auf diese Gefahren aufmerksam zu machen, hat die Responsible Metaverse Alliance den Kurzfilm „Privacy Lost“ veröffentlicht, der die manipulativen Aspekte der KI thematisiert.
Die Wahl liegt bei uns – vorerst
Viele Menschen empfinden das Konzept, dass KI Richtlinien flüstert, als beunruhigend. Doch während das KI-Coaching sich in die gesellschaftlichen Normen integriert, könnten diejenigen, die Widerstand leisten, im Nachteil sein, da essentielle Informationen anderen automatisch während Gesprächen bereitgestellt werden könnten. Dieser Wandel könnte eine neue soziale Dynamik schaffen, in der das Abfragen persönlicher Informationen obsolet wird, da sie über KI zugänglich sein werden.
Ich nenne dieses Phänomen „augmentierte Mentalität“, einen unvermeidlichen Trend, bei dem KI-Tools unsere kognitiven und sozialen Fähigkeiten erweitern. Jüngste Fortschritte, wie kontextbewusste LLMs, haben frühere technische Barrieren beseitigt und deuten auf einen bevorstehenden Wandel in der Interaktion mit KI hin.
Angesichts des Wettbewerbs zwischen großen Technologieunternehmen um die Dominanz in diesem aufkommenden Markt könnte eine digitale Kluft zwischen denen entstehen, die sich KI-unterstützende Tools leisten können, und denen, die es nicht können. Die Auswirkungen des KI-gesteuerten konversationalen Einflusses könnten zu Verletzungen der Privatsphäre und einem Verlust der persönlichen Handlungsmacht führen.
Der Bedarf an strengen Regulierungen
Wir stehen am Rande einer Realität, in der Unternehmen unsere Gedanken und Handlungen durch KI-Assistenten beeinflussen könnten. Dieses Manipulationsproblem ist alarmierend und erfordert strenge Regulierungen zum Schutz der individuellen Autonomie, insbesondere hinsichtlich kontextbewusster KI.
Leider haben jüngste gesetzgeberische Bemühungen, wie die Exekutive zur KI und den EU-AI-ACT, diese Bedenken unzureichend behandelt. Mit dem Blick auf 2024 besteht dringender Handlungsbedarf, damit die Entscheidungsträger die Regulierung des KI-gesteuerten konversationalen Einflusses priorisieren, um sicherzustellen, dass die Nutzer von KI-Ratschlägen profitieren, ohne in eine gefährliche Zukunft abzurutschen.
Die Zeit für Maßnahmen ist jetzt.
Rangliste
