Meta社の最高AI科学者、ヤン・ルカン氏は、AIが人類に存在的脅威をもたらす可能性を恐れるAIリーダーたちによる規制の提唱に対して強い批判を表明しています。特に、今週イギリスで初めて開催されるグローバルAIサミットを控えたこの状況において、ルカン氏はX（旧Twitter）でこのような終末的なシナリオを根拠のないものであると一蹴しました。「あなたたちが広める終末の恐れはばかげています。明確な目的に従った強力なAIシステムは、適切なガードレールと結びつけられれば安全で制御可能です」と述べています。
ルカン氏は、現在の自己回帰型言語モデル（LLM）がそのような指針を欠いていることを指摘し、現在の限界を将来のAIシステムにまで延長することに対する慎重さを促しています。また、オープンAIのCEOSam Altman氏、Google・DeepMindのCEOデミス・ハサビス氏、AnthropicのCEOダリオ・アモデイ氏に対して、AI業界の規制枠組みを確保するために企業ロビー活動を行っていると非難しました。「アルトマン、ハサビス、アモデイは、AI業界における規制枠組みを狙った激しい企業ロビー活動の最前線にいます」と述べています。
さらに、彼は他のチューリング賞受賞者であるMITのマックス・テグマーク教授、ジェフ・ヒントン氏、ヨシュア・ベンジオ氏に対しても、オープンAI研究と開発に対する制限を推進する側に無意識に力を与えていると主張しました。ルカン氏は、Meta社のアプローチがオープンソースの取り組みに基づいていることを強調し、代表的な大型言語モデル「ラマ2」を例に挙げ、オープンAI研究の重要性を訴えています。
アメリカ政府がオープンソースのAIが悪意のある行為者を助長する懸念を持っている一方で、ルカン氏はAIモデルへのアクセスを制限することは逆効果になると主張しています。「恐怖に基づくキャンペーンが成功すれば、特定の企業によるAIの集中管理を招き、最終的には大惨事を引き起こすことになります。私たちの学界の大多数は、オープンAI研究を圧倒的に支持しています。あなたが提唱する終末論的なシナリオを支持する者はほとんどいません」と述べています。
彼は、オープンなAIプラットフォームが多様な貢献と民主的な参加を促すための標準であるべきだと主張し、「AIシステムが人類の知識と文化を体現する未来において、プラットフォームはオープンソースであり続ける必要があります。このオープンさは、これらのプラットフォームが人間の経験と洞察の全体を正確に反映するために不可欠です」と説明しました。「貢献はウィキペディアのようにクラウドソーシングで行われるべきであり、それはオープンプラットフォームなしには実現不可能です。」
ルカン氏は、厳格な規制がオープンソースのAIを抑制し、数社の米国西海岸と中国の企業によるAIプラットフォームの独占を招く可能性があると警告しました。「これは民主主義や文化的多様性にどのような影響を与えるのか？それが私の真の懸念です」と述べています。
ルカン氏の批判的なコメントは、今後の英国サミットがAIのリスクに主に焦点を当てるという報告がある中でのことです。この懸念に応える形で、彼はツイッターで「イギリスの首相が『AIによる存在的致命的リスクの幻想病（EFRAID）』に感染したかもしれない」と冗談を交え、他の世界の指導者に感染しないことを願ったと述べました。彼はサミットに招待されたものの、自らの発言はテグマーク氏との間で議論を引き起こし、さらなるディスカッションを促しました。
この議論は、AIの「教父」とも称されるヒントン氏が10月27日に、企業が近い将来に指数関数的に計算能力を利用するモデルを開発する計画があると警告したことにより、さらに激化しました。これに対してルカン氏は、将来のAIシステムが既存のアーキテクチャに従うなら、知識のレベルは高くても推理や独創性、物理的世界の理解には欠ける可能性があると応じました。「将来のシステムは、目的に沿った枠組みを持つ革新的なアーキテクチャを採用しなければならない」と主張し、「これにより、安全性と制御が確保され、どのような支配の意図も防ぐことができる」と述べています。彼は、高度なAIシステムが必ずしも人類を支配しようとするという考えには強く反対し、そのような信念には根本的な誤りがあると主張しました。
ランキング
