操作の背後に潜む要因を解明する：AIの真のリスクを理解する

会話型AIエージェントの台頭により、私たちの生活は大きな変革の瀬戸際に立っています。これらの知能を持つエージェントは、私たちの興味や背景、目標に関する膨大なデータを活用し、私たちのニーズを予測してカスタマイズされた情報を提供し、有意義なタスクを遂行します。その目的は、日常生活の利便性を高めることです。

今週、OpenAIは最新のチャットボット「GPT-4o」を発表しました。この技術は、人間の感情を理解することができ、テキストの感情だけでなく、ビデオ対話中の声や表情のニュアンスも分析します。

また、Googleはプロジェクト「Astra」を発表し、環境を理解しながら会話するアシスタントAIの展開を目指しています。この機能により、リアルタイムでインタラクティブなガイダンスや支援を提供できるようになります。

OpenAIのSam Altman氏は、MITテクノロジーレビューで、AIの未来は「超有能な同僚」としての個別支援エージェントにあると語りました。これにより、メールから会話までを管理し、私たちのために積極的に行動することが可能になります。

しかし、この理想的なビジョンには懸念も伴います。以前のコラムで述べたように、AIエージェントが人間の自律性を損なうリスクは大きいです。これらのエージェントが私たちのモバイルデバイスに統合されることで、膨大なデータが蓄積され、私たちが消費する情報に影響を与える可能性があります。

私たちの生活を観察し、受け取る情報をキュレーションするシステムは操作のリスクを伴います。カメラやマイクを備えたこれらのAIエージェントは、ユーザーの明示的なリクエストなしにリアルタイムで環境に反応します。この便利な機能は、買い物のリマインダーや社会的なアドバイスなどを提供しますが、一方で監視や介入の深刻なリスクを伴い、多くの人にとって不安を引き起こす可能性があります。それでも、日常生活の向上をもたらす技術として、多くの人がこの技術を受け入れるでしょう。

このトレンドは、企業間で最も強力なメンタル補強技術を提供し合う「競争」を刺激します。このような機能が普及するにつれ、それを採用しないユーザーはますます不利な立場に置かれ、選択肢が必要不可欠なものに変わるでしょう。2030年までにこれらの技術が急速に統合されると予測します。

ただし、私たちは内在するリスクを認識しなければなりません。私の著書『Our Next Reality』でも触れたように、支援エージェントは驚異的な認知能力を私たちに与えますが、結局は企業の利益を追求する製品です。これらを使用することで、私たちは企業が私たちの思考を導き、影響を与えることを許すことになります。これは力強いリソースの一方で、悪用の可能性をも秘めています。

これが「AI操作の問題」を引き起こします。会話型エージェントを介したターゲット操作の効果は、従来の広告手法を上回る可能性があります。熟練した営業マンは、対話を通じて個人に働きかけることが、静的な広告よりも遥かに説得力があることを理解しています。AIエージェントが心理的戦術を巧みに用い、私たちの好みに関する豊富な知識を持つことで、彼らの操作能力は人間を凌駕することになるでしょう。

これらのエージェントは、私たちの決定に大きな影響を及ぼし、リアルタイムでフィードバックを行いながらその戦略を洗練させます。これにより、彼らは熱追尾ミサイルのように目標に向かって軌道を調整します。規制がなければ、会話型エージェントはこの能力を利用して誤情報を広めるリスクがあり、規制の監視は不可欠です。

MetaやGoogle、Appleなどの企業からの革新は、会話型エージェントがまもなく私たちの生活に不可欠な存在となることを示しています。Metaの最新のRay-Ban眼鏡やAppleのマルチモーダルAIの進展は、常にガイダンスを提供する技術への急速な進歩を強調しています。これらの製品が消費者の手に届くと、普及は加速するでしょう。

これらの技術には多くの有益な応用がありますが、操作の可能性を無視することはできません。公の利益を守るため、私は規制当局に早急な行動を要請し、対話型広告に対する厳しい制限をさっそく実施するべきだと考えています。これは誤情報を広める入口となりうるからです。

政策立案者が決断を下すべき時は今です。

ルイ・ローゼンバーグは、AIとXRの経験豊富な研究者であり、Unanimous AIのCEOです。