NIST職員が「効果的利他主義者」のAI研究者の米国AI安全研究所への任命に抗議予定

Home AIニュース NIST職員が「効果的利他主義者」のAI研究者の米国AI安全研究所への任命に抗議予定

NIST内の危機：AI安全研究所の人事問題

米国国立標準技術研究所（NIST）が、米国AI安全研究所（AISI）におけるポール・クリスティアーノの重要な役職への任命に関して、スタッフや科学者たちが辞職を示唆するという深刻な内部危機に直面しています。事情に詳しい2つの匿名の情報源によると、クリスティアーノの採用プロセスは、効果的利他主義（EA）運動との関係で知られている彼のために、スタッフへの事前通知なく迅速に進められたとのことです。

NISTは米国商務省の一部であり、高度な計測科学と技術を通じて革新と産業競争力を強化することを使命としています。この機関は、2023年1月に発表されたAIセキュリティフレームワークを含むサイバーセキュリティ基準やフレームワークの開発も手掛けています。

クリスティアーノの任命は、商務長官ジナ・ライモンドの影響を受けているとされ、NISTの職員から大きな反発を招いています。職員たちは、彼のEAおよび長期主義との関わりが、研究所の客観性や誠実性に影響を及ぼすことを懸念しています。

米国科学者連盟の新興技術および国家安全保障担当副所長ディバンシュ・カウシク氏は、クリスティアーノが2023年11月のバイデン大統領のAI行政命令で定められた特定の業務に非常に適任であると強調しました。この命令は、NISTとAISIに化学、生物、放射線、核（CBRN）セキュリティなどの分野に焦点を当てるよう指示しています。

批評家たちは、EAが「利他的努力を最大化するための証拠を使用する運動」として知られる一方で、特にAI安全の分野で不均衡な影響力を持つ派閥になり下がったと指摘しています。反対派は、この存在的リスクへの焦点が、現行AIアプリケーションにおけるバイアスや誤情報といった緊急かつ測定可能な問題を覆い隠す可能性があると主張しています。

AISIは2023年11月に設立され、AI行政命令で定められた商務省の責任を果たすための機関です。米国上院多数派党首のチャック・シューマーは最近、AISIに最大1000万ドルの資金提供を発表し、その重要性を強調しました。しかし、最近の報道では、NISTが研究助成金の適切性や競争プロセスに関して不透明さを示していると批判されています。また、技術業界や効果的利他主義の影響力のある人物に結びついたRAND社への可能性のある助成金についても懸念が示されています。

カウシク氏は、この任命に関わらず、NISTがその使命を守り続けることが重要であると述べています。「我々は、一般目的モデルからの仮想的リスクを評価する未知の領域を航行しています」と彼は語り、商務省のリーダーシップに科学的誠実性を優先するよう求めました。

彼は、「スーパースター科学者」をこのような任命でも失うことがあれば、それは悪影響を及ぼすと警告しました。カウシク氏は、AISIの活動を監視する議会委員会が、研究所がその強みを効果的に利用できるようにし、その核心的な使命を損なわないことを願っています。最近、彼はXにおいて、適時の任命が必要であるとの希望を表明し、プロアクティブな採用が行政命令のスケジュールに照らして前向きに捉えられるべきだと繰り返し述べました。

メディアからは商務長官ジナ・ライモンド、AISIのエリザベス・ケリー所長、ポール・クリスティアーノ宛に追加のコメントが求められており、回答が得られ次第、最新情報が提供される予定です。

LLM（大規模言語モデル）の西洋文化偏見に関する重要な調査結果発表

研究者、ジャーナリスト、アーティストのためのAI技術評価を支援する法律的「セーフハーバー」の必要性を専門家が提言

Most people like

SnapEdit.App

3.9M

SnapEdit.Appのご紹介。AIの力を利用した無料のオンライン写真編集ツールで、画像から不要なオブジェクトや人物を簡単に取り除き、全体的な品質を向上させます。SnapEditの直感的な機能で、写真編集の未来を体験してください。

写真編集 Photo & Image Editor

Paperclips

36.9K

Paperclipsを紹介します。AIの力を活用して、コースノートやオンラインコンテンツを簡単に魅力的なフラッシュカードに変換する革新的なウェブアプリです。学習者のために設計されたこの最先端ツールで、学習プロセスを簡素化し、記憶の定着を高めましょう。

フラッシュカード AI Product Description Generator

Lindy.ai

138.6K

コーディング不要で自分だけのAIエージェントを簡単に作成！プログラミング知識がなくても、パーソナライズされたAIエージェントを構築して、人工知能の力を最大限に引き出しましょう。ビジネスオーナー、開発者、またはAIに興味がある方であれば、私たちのプラットフォームを利用して、特定のニーズに合わせたインテリジェントなエージェントを設計・展開できます。コーディング不要のソリューションの世界に飛び込み、簡単にAIアイデアを実現しましょう！

AI AI Customer Service Assistant

SpeechGen.io

SpeechGen.ioの高度なテキスト読み上げAI技術を使って、魅力的なボイスオーバーを簡単に作成し、驚くべきリアリズムとクオリティを実現します。

テキスト読み上げ AI Speech Synthesis

Find AI tools in YBX