バイデン大統領、NISTの資金問題を背景にAI安全研究所のリーダーを指名

バイデン政権は本日、ホワイトハウスの重要な補佐官であり、大統領のAIに関する行政命令において重要な役割を果たしたエリザベス・ケリーを、国家標準技術研究所（NIST）内に新設されたアメリカAI安全研究所（USAISI）の所長に任命しました。同時に、エルハム・タバッシも最高技術責任者に就任しました。

NISTはアメリカ商務省の一部であり、2023年1月に待望のAIリスク管理フレームワークを発表し、ホワイトハウスのAI行政命令に基づいてAI技術の評価や監査を行う使命を持っています。これには、安全で信頼できるAIシステムの展開を確保するためのAIレッドチーミングテストを実施するためのガイドラインの策定が含まれています。

この人事発表は、2023年11月に設立されたUSAISIに関する初めての重要な発表となり、AIに関する行政命令で明記された責任のサポートを目的としています。しかし、NISTの約3,400人の職員と年間予算16億ドル以上に資金問題があるため、研究所の運営や資金に関する詳細は依然として不明確です。

また、超党派の上院議員グループは2024年度の予算法案においてUSAISIをNIST内に設立するための1,000万ドルの予算を求めましたが、その要請の進捗は明らかではありません。さらに、12月にはハウス科学委員会のメンバーが、アメリカAI安全研究所に関連するAI研究助成金の計画された競争プロセスを発表しなかったNISTの透明性の欠如を批判しました。議員たちは、NISTとテクノロジー産業に関連するシンクタンク「RANDコーポレーション」とのAI研究パートナーシップに懸念を示しました。

議員たちの手紙では、AI安全研究分野内の課題について、「コミュニティ内の発見はしばしば自己参照的であり、外部からの批判に欠けている」と指摘され、AI安全研究における範囲や定義についての重要な意見の相違が強調されました。

かつてアクセンチュア及びTwitterのMETAチームでAIの責任者を務めたルマン・チャウdhury氏は、USAISIの人事発表について議論を交わしました。彼女は、NISTとUSAISIからの更新への期待が高まっている一方で、徹底的な審査プロセスが関与しているため、コミュニケーションのペースは通常のものだと述べました。また、NISTの公正性への信頼を強調し、「彼らは長い間この種の仕事を行ってきました...任命されたわけではないので、権力者の気まぐれに左右されることはありません」と話しました。

しかし、彼女はUSAISIにとって資金が依然として重要な問題であることを強調しました。「これは行政命令による未調整の義務です」とチャウdhury氏は説明し、分断された政治的環境で立法資金を確保する難しさを指摘しました。英国はAI安全性のために1億ドルを確保していますが、米国の資金は不透明な状態です。

最近の上院の資金要請について、彼女はそれを認識しているが、資金が受け取られた兆候は見ていないと述べました。また、チャウdhury氏は、AIガバナンス、安全性、責任あるAIに関する専門知識を提供する団体を招待するAI安全研究所コンソーシアムについても触れました。コンソーシアムの会費は年間1,000ドルに設定されていますが、NISTが研究助成金に関してどう計画しているかは不明だと述べました。

資金調達の呼びかけは続いており、Anthropic社は2023年4月にはNISTのAI測定および基準の取り組みを支援するために1,500万ドルの支援を求めました。これは、重要な技術開発において米国のリーダーシップを維持したい政策立案者にとって、明快な解決策として受け取られました。

これらの課題にもかかわらず、チャウdhury氏はNIST内におけるUSAISIの将来に楽観的な見通しを持っています。「エルハムは私が知っている中で最も冷静な人の一人です... 私たちは仕事を確実に進めることに焦点を当てた人が必要です」と述べました。また、NIST内にUSAISIが位置することは、政治的影響よりも科学的整合性を優先するというポジティブなメッセージを送ると指摘しました。