AI安全の対決：ヤン・ルカンがカリフォルニアのSB 1047を批判し、ジェフリー・ヒントンが新規制を支持

Meta社のチーフAI科学者、ヤン・ルカンが水曜日にカリフォルニアのAI安全法案SB 1047の支持者に対して公然と批判を行いました。この発言は、前日にはジェフリー・ヒントンが法案を支持する意向を示したことを受けたものです。AIの先駆者たちの間でのこの対立は、AI規制の未来に関するコミュニティ内の大きな分断を浮き彫りにしています。

カリフォルニア州の立法府はSB 1047を可決し、現在はガビン・ニューサム州知事の署名を待っています。この法案は、適切な安全対策が整っていない大規模AIモデルが引き起こす壊滅的な損害に対して、開発者に責任を課すことを提案しています。特に、トレーニングに1億ドル以上かかるモデルとカリフォルニア州内で運用されるモデルを対象としています。カリフォルニア州は世界で5番目に大きな経済圏です。

AIの巨人たちの対決：ルカン対ヒントンのSB 1047

深層学習の主要人物であるルカンは、法案の支持者たちがAIの能力を“歪めた視点”で捉えていると主張しています。「彼らの誤解は、その未熟さや、直面する課題に対する無知、そして自身の組織の進展を過大評価していることから生じている」と彼はX（旧Twitter）に投稿しました。

ルカンの発言は、OpenAIやGoogle DeepMindなどの著名なAI企業の現役及び元社員が署名した公開書簡のヒントンの支持へ直接応じたものです。この書簡は9月9日にニューサム知事に提出され、強力なAIモデルからの深刻なリスク、特に生物兵器や重要インフラへのサイバー攻撃の利用可能性について警告を発しています。

ルカンとヒントンのこの公然の対立は、急速に進化する技術の規制に関する複雑さを示しています。昨年Googleを退社したヒントンは、AIのリスクに懸念を表明しており、AIシステムが存在を脅かす恐れを生む可能性を信じる人々を代表しています。一方で、ルカンはそのような不安が早計であり、オープンな研究を阻害するものであると反論しています。

SB 1047の内部：AI規制を再構築する物議を醸す法案

SB 1047を巡る議論は、伝統的な政治的アライメントを揺るがしています。著名な支持者には、法案の著者スコット・ウィーナー州上院議員に過去に批判的だったElon Muskが含まれています。対照的に、反対者にはナンシー・ペロシ元下院議長やサンフランシスコ市長ロンドン・ブリード、そして主要なテクノロジー企業やベンチャーキャピタリストが名を連ねています。

AI企業Anthropicは、初めは法案に反対していましたが、改正後に立場を変え、「この法案の利益はコストを上回る可能性が高い」と述べています。この変化は、法案の進化と立法者とテクノロジー業界との間の継続的な交渉を示しています。

批評家たちはSB 1047がイノベーションを抑制し、小規模企業やオープンソースプロジェクトに不利になる可能性があると主張しています。DeepLearning.AIの創設者アンドリュー・ングはTIME誌で、「この法案は一般目的技術ではなく、その応用を規制するという基本的な誤りを犯している」と主張しました。

しかし、支持者たちは、無規制のAI開発から生じる潜在的なリスクがこれらの懸念を遥かに上回ると考えています。彼らは、1億ドルを超えるモデルに焦点を当てることで、堅固な安全対策を確立できる資金力のある大企業に限って影響が及ぶことを保証できると信じています。

Siriコンバレーの対立：SB 1047がテクノロジー界を分断する

この法案に反対する企業の現役社員の関与は、イノベーションと安全性のバランスを巡る内部の意見の相違を明らかにします。ニューヨーク知事がSB 1047に署名するかどうかを考える中で、彼はカリフォルニア州内および米国全体のAI開発の進行方向を形作る可能性のある選択を迫られています。欧州連合がAI法案を進める中、カリフォルニア州の決断は、米国がより積極的なアプローチを採用するか、手を引くかに影響を与えるかもしれません。

ルカンとヒントンの対立は、AIの安全性と規制に関する広範な議論の縮図です。これは、政策立案者が技術進歩を妨げることなく安全への懸念に効果的に対処する法案を作成する際の課題を浮き彫りにしています。

AI分野が急速に進化する中、このカリフォルニアの立法闘争の結果は、社会が進んだ人工知能システムの約束と危険をどのように管理するかに関する重要な前例を設定する可能性があります。テクノロジー業界の観察者や政策立案者、一般市民は、今後数週間の間にニューヨーク知事の決定に注目しています。