先週、OpenAIの広報担当者から「集団調整」チームの発足が知らせられました。このチームの使命は、AIモデルの振る舞いを形成するために公共の意見を取り入れた「プロトタイピングプロセス」を開発し、民主的なAIガバナンスを目指すことです。この取り組みは、OpenAIの「民主的インプットによるAI」助成プログラムの10人の受賞者の活動に基づいています。
ここで思わず笑ってしまったのは、その皮肉な現実です。OpenAIは「人類全体に利益をもたらす安全なAGIを創造する」という高尚な理想を掲げつつ、APIの販売やGPTストアの拡張、著作権訴訟への対応といった現実的な課題に直面しています。AIガバナンスに関する公共の合意形成は、人類の最も複雑な問題の一つに思えます。
今、AIエージェントの登場は時期尚早なのでしょうか？アメリカの民主主義は前例のない注目を集めており、AIシステムはディープフェイクや偽情報に対する懸念の中心に位置しています。特に2024年の選挙を控える中で、主観的な概念である公共の意見が、商業AIの領域で現在主導権を握る企業からのAI規制にどう影響を与えるのでしょうか。
それでも、OpenAIの集団調整チームの存在は希望の光を示しています。人間のインサイトに導かれたより民主的なAIの創造を目指すこの取り組みは、確かな意義があります。ただし、このイニシアティブが真剣な努力なのか、単なる広報戦略なのか、考えさせられます。
集団調整チームのインサイト
さらに深掘りするため、私はチームのメンバーであるティナ・エルアウンド氏（社会への技術的影響に焦点を当てる研究者）とテディ・リー氏（責任あるAI展開のための人間データラベリングの経験を持つプロダクトマネージャー）に話を聞きました。彼らは、OpenAIの人間データチームと密接に協力できる研究エンジニアや科学者を新たに加えることを目指しています。
エルアウンド氏にAIガバナンスのための民主的プロセスの策定における課題を尋ねると、彼女は多くの人々がそれを「ムーンショット」と見なしていると認識しました。「民主主義そのものは複雑で混沌としています。常に運営方法に関する交渉が必要です。」と彼女は説明しました。
リー氏は、AIシステムに民主主義を組み込むという困難な課題を強調しました。「我々の助成プログラムの目的は、この分野での他の革新者がどのような取り組みをしているかを探究することです」と述べました。「 intimidatingですが、多くの糸口や洞察が待っています。」
助成プログラムの進展
最近のOpenAIのブログによれば、「民主的インプットによるAI」助成プログラムは、1,000名近くの応募者の中から10チームに10万ドルを授与しました。これらのチームは、AIガバナンスのための民主的手法を設計・テストしていますが、多様な参加者を巻き込むこと、代表的な成果を確保すること、透明性を高めることという課題に直面しています。
各チームは、AIモデルのクラウドソース監査プラットフォームやユニークなビデオ審議インターフェースなど、革新的なアプローチでこれらの問題に取り組んでいます。しかし、世論は急速に変化し、極端に分極化したグループ間での合意形成が難しいことがわかりました。
それでも、OpenAIの集団調整チームはその使命に対して揺るぎない決意を持っています。市民集会—特定の公共の問題を審議するために無作為に選ばれたグループ—に関与する社会科学の専門家と密に相談しています。
民主的プロセスへのコミットメント
リー氏は「我々は知らないことを知らない」と語ります。助成を受けた研究者たちは様々な分野から来ており、そのプロジェクトには新しい活気が注がれています。「この熱意と技術を調和させる必要があります。」と彼は述べました。
チームの目標は実現可能なのでしょうか？「民主主義そのものと平行しています。」とリー氏は説明します。「これは継続的な努力です。公共の意見が進化し、これらのモデルとの相互作用が変わるにつれ、我々の作業も変わります。」
エルアウンド氏も同様に、「全力を尽くすつもりです」と語りました。
PR施策としてみるかどうかは別として、AI意思決定における民主的プロセスを強化しようとするあらゆる試みは賞賛に値します。特にそのプロセスが危うい時期においては、OpenAIの努力を心より歓迎します。
ランキング
