深層学習の限界を超える人工汎用知能の真実

サム・オルトマン氏の最近の雇用状況とOpenAIの革新的なQ*モデルに関する憶測は、人工一般知能（AGI）に関する機会とリスクへの新たな関心を呼び起こしています。AGIは、人間と同等の知的作業を行うことを目指しています。特に深層学習を通じて迅速に進化している人工知能は、AGIの到来に対して期待と懸念を生んでいます。OpenAIやElon MuskのxAIなど、さまざまな組織がAGIの実現を目指しており、今日のAIの進展がAGIに向かっているのかという重要な疑問が浮かび上がります。

深層学習の限界

深層学習は、人工ニューラルネットワークを利用した機械学習の主要な手法であり、ChatGPTや現代のAIの多くの基盤となっています。さまざまなデータタイプを最小限の前処理で管理できることで評価されていますが、AGIの発展において重要な役割を果たすと期待されています。

しかし、深層学習には明確な限界があります。効果的なモデルを構築するためには膨大なデータセットと計算リソースが必要です。これらのモデルはトレーニングデータから統計的ルールを抽出し、新しい情報に適用して応答を生成します。この手法は予測論理に基づいており、新たな現象が現れるたびにルールを更新しますが、現実世界の不確実性に対する脆弱性がAGIの目標を達成する上での適合性を損なっています。例えば、2022年6月に発生したクルーズロボタクシーの事例はこのリスクを示しています。予測できない状況に対処するための学習をしていなかったため、車両が判断ミスを犯しました。

“もしも”のジレンマ

AGIの設計元である人間は、すべての状況に対して包括的なルールを策定することはありません。私たちは、リアルタイムの知覚を通じて環境と相互作用し、既存の知識を活用して文脈や影響要因を理解します。固定された基準に基づいて物体を分類する深層学習モデルとは異なり、人間は柔軟なアプローチを採用し、効果的な選択をするために必要に応じて既存のルールを調整します。

例えば、ハイキング中に不明な円筒形の物体に遭遇した場合、深層学習モデルは様々な特徴を分析してその物体を脅威（たとえば、ヘビ）か無害（ロープのようなもの）として分類する必要があります。一方、人間は距離を置いて状況を評価し、過去の経験と潜在的な行動に基づいて理解を更新し続けながら判断します。この微妙な方法論は柔軟な選択肢の探求を強調しており、AGIの実現には「もしも」の推論能力の向上がより重要である可能性を示唆しています。

深い不確実性下での意思決定：新たな道

「深い不確実性下での意思決定」（DMDU）といった革新的な枠組みは、AGIに向けた有望な戦略を提供します。ロバスト意思決定のようなDMDUアプローチは、さまざまな将来のシナリオにおける代替的な決定の性能を評価し、常に再トレーニングを必要とせずに、決定結果を左右する主要な要因を特定することに焦点を当てています。この手法は、異なるコンテクストにおいて受容可能な結果を提供する堅牢な解決策を見つけることを目指しています。

従来の深層学習ソリューションが最適化を優先しているのに対し、DMDUメソッドは多様な環境に適応するレジリエント（回復性）な選択肢を求めており、現実世界の不確実性をナビゲートできるAIの基盤を提供します。

自律走行車におけるロバスト意思決定

完全自律運転車（AV）の開発は、この方法論の実例として挙げられます。AVは多様で予測不可能な条件で走行する必要があり、交通における人間の意思決定を密接に模倣しています。フルオートノミーのために深層学習に多大な投資がされていますが、これらのシステムは不確実なシナリオでしばしば苦戦しています。すべての可能な状況をモデル化することの限界から、AV技術における予期しない課題に対処するための継続的な努力が必要です。

一つの解決策として、ロバストな意思決定フレームワークの採用が考えられます。AVのセンサーはリアルタイムデータを収集し、特定の交通シナリオにおいて加速、レーン変更、ブレーキなどのさまざまな決定を評価します。標準のアルゴリズム応答に疑問が生じた場合、システムはそのコンテキスト内での異なる選択肢の脆弱性を分析し、広範なデータ再トレーニングへの依存を軽減し、実世界の不確実性に対する適応能力を向上させることができるでしょう。このシフトは、自律走行車の性能を向上させ、完璧な予測を追求するのではなく、意思決定の柔軟性を優先することに寄与します。

AGIの進展のための意思決定コンテキストの重要性

AI技術が進化を続ける中、深層学習の枠組みから離れ、意思決定コンテキストに焦点を当てることがAGIへの進展に必要かもしれません。深層学習は多くのアプリケーションで効果的であることが証明されていますが、AGIの実現には不十分です。DMDUの手法は、現実世界の不確実性に効果的に対処する堅固な意思決定主導のAIアプローチを構築する道を開く可能性があります。

スワプティク・チャウdhuryはパーディーRAND大学院の博士課程学生であり、RAND社の政策研究者のアシスタントです。スティーブン・ポッパーはRAND社の非常勤上級経済学者であり、モンテレイ工科大学の意思決定科学の教授です。