最近、アメリカのAI政策の専門家が「効果的利他主義（EA）の影響を探求していないなら、重要なストーリーを見逃している」と指摘しました。この言葉を振り返り、先週の私の報道で重要な視点を見落としていたことに気づきました。
皮肉なことに、私は大型言語モデル（LLM）の重みを保護することに関する記事がスムーズに進むと思っていました。最近のホワイトハウスのAIに関する行政命令は、基盤モデルを提供する企業に対し、二重利用の基盤モデルに関する所有権とセキュリティ対策を文書化することを求めています。このテーマは非常に重要です。私の記事では、Anthropicの最高情報セキュリティ責任者ジェイソン・クリントンにインタビューし、ClaudeというAnthropicのLLMのモデル重みを保護する必要性を強調してもらいました。彼は、犯罪者やテロリスト、国家がこれらの高度なモデルにアクセスすることのリスクを指摘し、「攻撃者が全ファイルにアクセスした場合、全神経ネットワークを制御する可能性がある」と述べました。他の先端企業も同様の懸念を抱いており、OpenAIの新たな「準備フレームワーク」は、敏感なモデル情報へのアクセス制限の必要性に対応しています。
私はまた、RAND Corporationのセラ・ネボとダン・ラハブとも話をしました。彼らは「人工知能モデル重みの保護」という重要な報告書の著者です。RANDのメセルソンセンターを率いるネボは、AIモデルが国の安全保障に与える重要な影響について警告し、特に生物兵器の開発に悪用される可能性を指摘しました。
AIセキュリティにおける効果的利他主義のつながり
振り返ってみると、私の記事は効果的利他主義コミュニティとAIセキュリティの新興分野との複雑なつながりを無視していました。EAは、進化するAIからの存在的リスクを防ぐための、理性と証拠に基づくアプローチを強調する知的運動として成長しています。批判者は、EAが遠い脅威に焦点を当てるあまり、AI開発におけるバイアスや誤情報、サイバーセキュリティといった喫緊の問題を軽視していると主張します。
最近、EAがオープンAIの取締役会によるCEOSam Altman解雇に関与したことで話題になりました。この出来事は、高度な意思決定におけるEAのつながりを浮き彫りにしました。私はAnthropicとEAとの関連性（FTX創業者サム・バンクマン・フリードの500百万ドルの出資）を認識していましたが、ストーリーのEAに関する影響を深く探究することを怠りました。しかし、偶然にも次の日に掲載されたPoliticoの記事を読んで、RANDとEAの間の重要なつながり、特に資金の関係を発見しました。
Politicoの記事によると、RAND Corporationの研究者はホワイトハウスのモデル重みに関する行政命令の策定に大きく関与しており、同機関はFacebook共同創業者ダスティン・モスコビッツの支援を受けたEAイニシアティブ「オープン・フィランソロピー」から1500万ドル以上の資金を受け取っています。特に、RANDのCEOジェイソン・マセニーと主任科学者ジェフ・アルストットは、バイデン政権との以前の関係を持つ効果的利他主義者として知られています。
効果的利他主義コミュニティからの洞察
ネボとのフォローアップの会話で、彼はAIセキュリティに対するEAの強い存在感は驚くべきことではないと述べました。歴史的に見ても、EAはAIの安全性に関する議論の最前線で活動しており、この分野に関わる誰もがEAの視点に触れているはずです。
彼はまた、Politicoの記事のトーンに対して不満を示し、不正行為を暗示するのは公平ではないとし、RANDが政策立案者に貴重な研究を提供してきた長年の役割を強調しました。彼は、彼自身や彼のセンターは行政命令に関与していないし、モデルセキュリティに関する規定はホワイトハウスによって事前に定められた自主的なコミットメントであると強調しました。
メセルソンセンターは比較的知られていないものの、ネボによれば、これはRANDの多くの研究センターのひとつであり、生物監視とAIの生物安全性との交差点に焦点を当てています。
AIセキュリティにおける効果的利他主義の重要性
EAの影響は本当に重要なのでしょうか？ジャック・ニコルソンの「君はその壁に必要なのだ！」という名セリフを思い起こさせます。AIセキュリティに貢献する人々が求められる中で、彼らのイデオロギーは重要でしょうか？
多くの人々が透明性と効果的な政策を推進する中で、その答えは「はい」です。Politicoの報道が示すように、EAの影響がワシントンにおいて大いに重要な役割を果たします。このつながりは、今後の政策、規制、そしてAIの開発を大きく形作ることでしょう。
私が話をしたアメリカのAI政策の専門家は、政策の場で多くの人々がAIにおける潜在的なイデオロギー的な agendasに目を向けていないと指摘しました。残念ながら、彼らはその影響を過小評価しています。
ランキング
