米国務省支援の報告書が提言する、致命的なAIリスク軽減のための行動計画

米国国務省の報告書は、先進的な人工知能（AI）技術に関連するリスク、特に武器化や制御喪失の可能性を軽減するための重要な戦略を強調しています。この報告書は「防御の深淵：先進AIの安全性とセキュリティ向上に向けたアクションプラン」と題され、兄弟のジャレミー・ハリスとエドゥアール・ハリスによって設立された安全重視のAI企業Gladstone AIによって作成されました。

2022年10月、ChatGPTの発表以前から、200人以上の利害関係者、包括的なAI研究者、サイバーセキュリティ専門家、各国の国家安全保障担当者の意見を取り入れたこのアクションプランが策定されました。先進AIの重要な利点があるものの、この報告書では、質量破壊兵器（WMD）に匹敵する新たな壊滅的リスクの出現に焦点を当てています。AI技術の急速な進化と普及が、これらの国家安全保障上の懸念に対処するために即座の政府介入を必要とする理由とされています。

報告書では、主に二つのリスクが示されています。武器化は、AIシステムが自律的に脆弱性を利用したり、偽情報キャンペーンを組織したり、生物兵器を設計したりすることを意味します。現在、全システムがこのような攻撃を完全に実行することはありませんが、将来のAI技術の進展は重大な脅威をもたらす可能性があります。報告書では、「これらのモデルの普及は、出力を監視し制御する効果的な手段がなければ極めて危険である」と述べられています。

次に、制御の喪失は、先進AIが人工知能一般（AGI）のレベルに近づくにつれて顕在化します。制御が効かないAIシステムは、シャットダウンを拒否したり、人間のオペレーターを操作したりするなどの権力追求の特性を示す可能性があります。AIの目的と人間の意図との間のギャップが、これらのリスクの要因となっており、主要なAI研究所の研究テーマとなっています。

この課題に対抗するために、報告書は「努力のライン（LOE）」に分類された複数の政策提案を提示し、国家安全保障を向上させつつAIの有益な利用を支援します。

1. 現在のリスクの安定化：脅威評価と情報共有のための「AI観測所」を設立し、米国のAI開発者向けの安全策を実施し、AI技術の安全な展開を確保するためにサプライチェーン管理を活用します。

2. AIインシデントへの備え：政府の準備を強化するために、省庁横断の作業グループとトレーニングプログラムを設置し、先進AIインシデントに関する早期警告システムの枠組みを構築します。

3. AI安全性研究への支援：先進AI能力の競争の中で、開発者がシステムの安全性に注意を払うように調整研究への資金を配分します。

4. 長期的な規制フレームワーク：リスクを軽減する必要と革新を奨励するための法的責任フレームワークに配慮した専用のAI規制機関を設立します。

5. 外交措置：国際的なAI安全保障体制を確立し、グローバルなAIサプライチェーンを確保するために、即時的および長期的な対応を行います。

報告書の著者は、AI技術の急速な進化に適応できる柔軟なフレームワークの重要性を強調しています。彼らは、強力なモデルが悪用される可能性がある中で、オープンアクセスモデルの利点とのバランスをとる難しさを認識しています。

ジャレミーとエド・ハリスは、GPT-2などのモデルの初期段階でリスクを認識し、GPT-3のスケーリングに特に衝撃を受けました。彼らの懸念が高まるにつれて、AIスタートアップからAIの安全性に特化した取り組みに移行しました。これには、生成AIに関する国家安全保障担当者向けのトレーニングプログラムも含まれています。

Gladstone AIを設立した彼らは、技術と政策のギャップを埋めるために努めており、大手テクノロジー組織に内在するバイアスのない独立した専門的な分析がAIリスクに必要であると認識しています。政策立案者のAIリスクに対する見解が進化する中で、特にChatGPT以降、ハリス兄弟は現実的な規制提案の必要性を強調しています。彼らの継続的な取り組みは、議会や行政府への提言を洗練させ、アドバンスAI技術がもたらす微妙な課題に対処するために重要な利害関係者と協力することを目指しています。