AI安全におけるお金と政治の交差点：新たなスーパーPACの台頭

1月、私はGladstone AIの共同創設者で元CEOのマーク・ビール氏にインタビューを行いました。彼のコンサルティング会社は、国務省向けに画期的なAI安全に関する報告書を発表したばかりです。この報告書の主な推奨事項は、TIMEによって報じられ、米国が高度なAIに関連する国家安全保障リスクにどのように対処すべきかを示しています。

私たちの会話では、ワシントンD.C.のAIと政策のリーダーたちの間で広がる効率的利他主義（EA）の影響についての議論を探求しました。ビール氏は米国防総省でAI政策を担当していた経験から、潜在的なAIによる壊滅的な脅威を管理する緊急性を強調しました。彼は、「常識的な安全策」をソーシャルメディアに求め、AI関連の災害が発生する前に行動する必要があると警告しました。

多くの人にとって、「AIの安全性」は存在の危険に対する懸念を呼び起こします。これはしばしば、効率的利他主義のような信念体系によって助長されます。Gladstone AIの著者たちは、200人以上の政府関係者や専門家、OpenAIやGoogle DeepMindなどの主要AI研究所の職員と相談したと報告しています。

しかし、報告書はソーシャルメディアで懐疑的な反応を受けました。コミュニケーション研究者のニリット・ヴァイス＝ブラット氏は、共著者のエドゥアール・ハリス氏が問題視されている「ペーパークリップ最大化問題」に言及したことに触れ、これを極端なシナリオと見る向きがあると指摘しました。また、CohereのCEOであるエイダン・ゴメス氏は調査の信頼性を批判し、ユーザーはソーシャルメディアでの投票を通じてより代表的な結果を得られると提案しました。Lightning AIのCEOであるウィリアム・ファルコン氏は、オープンソースAIが絶滅の脅威を引き起こすという主張をさらに否定し、クローズドソースのAIがより危険な可能性があると主張しました。

興味深いことに、ビール氏のGladstoneからの離脱は、彼が「最初のAI安全スーパーパック」と表現するものの立ち上げと時を同じくしました。このスーパーパックは、Gladstoneの報告書とともに発表され、AI政策について有権者を教育することを目的としています。ビール氏は、スーパーパックの初期資金を確保したことと、さらに数百万ドルを集める計画を明らかにしました。

共同創設者のブレンドン・スタインハウザー氏は共和党のコンサルタントとしての経歴があり、このスーパーパックの超党派の使命を強調しています。ビール氏は、「私たちは両党の議員に革新を推進し、国家安全保障を守ることを促したい」と語りました。スタインハウザー氏の20年以上にわたる国家政治の経験は、この目標を支えています。

スーパーパックの立ち上げとGladstoneの報告書の発表が同時に行われるのは異例に思えますが、Gladstoneの共同創設者であるジェレミー・ハリス氏は、報告書が国務省の国際安全保障・不拡散局によって中立的な専門家分析を提供するために委託されたものであることを明らかにしました。彼はGladstoneが政治的な所属や資金の影響から独立して運営されていることを保証しました。

ビール氏はGladstoneの報告書の重要性を認めつつも、「今、真の仕事が始まる」と強調しました。彼は、AI開発に柔軟で長期的なアプローチを確保するための立法を議会に求めました。潜在的な寄付者について尋ねられたビール氏は、壊滅的なAIリスクに対する広範な国民の懸念を挙げ、多様な連合の構築を期待していると述べました。

一般の関心がディープフェイクや選挙の誤情報といった即時の脅威に向かうこともあるでしょうが、AIの安全性と安全保障政策が今後、資金調達や政治と結びつくことは明らかです。