OpenAIが明らかにするモデル仕様：AIの望ましい行動に関する洞察

OpenAIは、AI分野における「オープン性」の約束を果たすことに尽力しています。新しいモデルはオープンソースにはしていないものの、同社はAIが社会に与える影響、特に偽情報やディープフェイクといった課題に積極的に取り組んでいます。今週、OpenAIは「Model Spec」を発表しました。これは、APIやChatGPTを通じてアクセス可能なAIモデルの振る舞いをガイドするためのフレームワーク文書です。この文書に対する一般からのフィードバックを、5月22日までの間、ウェブフォームで募集しています。

OpenAIの共同創設者兼CEO、Sam Altman氏はX（旧Twitter）で「私たちは意見を聞き、議論を重ね、時間をかけて適応していきますが、何がバグで何が決定であるかを明確にすることは非常に役立つでしょう」と述べています。

モデルスペックの目的

Model Specの導入は、AI技術がユーザーにとって安全かつ有益に機能することを保証するというOpenAIの使命と整合しています。しかし、この目標を達成することは簡単ではなく、技術と社会に関する長年の哲学的な議論と交差しています。OpenAIはブログ投稿で、「たとえモデルが広く有益であることを目的としていても、実際の利用は対立する可能性があります」と指摘しています。例えば、セキュリティ企業がフィッシング防止ツールを開発するために合成データを使用する一方で、同じ能力が詐欺師に悪用される可能性があります。

この初稿を共有することにより、OpenAIはAI開発における倫理的および実践的な側面についての議論に一般の参加を呼びかけています。ユーザーはOpenAIのフィードバックフォームを通じて、2週間以内に意見を提出できます。この期間の後、OpenAIはModel Specの変更、ユーザーからのフィードバックに対する応答、今後1年間のモデルの行動に関する進捗について更新を発表する予定です。

Model SpecがAIの行動にどのように影響するのか、またその原則がモデル調整のための「システムプロンプト」に組み込まれるのかは未定ですが、大きな影響が予想されます。

AI行動のフレームワーク

Model Specは、AIとの相互作用を効果的かつ倫理的に導くための3つのコアコンポーネントで構成されています：

- 目的: 開発者やユーザーを支援するための広範な原則を示します。これには、ユーザーの目標を効率的に実現し、多様な利害関係者の影響を考慮し、コミュニティの福祉を向上させることが含まれます。

- ルール: AIとのインタラクションを適切に進めるための明確なルールを定めます。これにより、法律の遵守、知的財産の尊重、プライバシーの保護、安全でないコンテンツの禁止が保証されます。

- デフォルト行動: 良い意図を前提として最大限の支援を行い、必要に応じて明確化を求める重要性が強調されます。このアプローチは、ユーザーの多様なニーズをバランスよく考慮することを目指しています。

AIインフルエンサーでありウォートン校の教授でもあるイーサン・モリック氏は、これらの原則をアイザック・アシモフのフィクション「ロボット工学三原則」に例えています。しかし、モデルスペックの実施に関しては、特にAIの応答に与える影響について批判が寄せられています。テックライターのアンドリュー・カラン氏は、「AIアシスタント」が地球が平らであるというユーザーの誤った主張に異議を唱えない例を挙げました。

継続的なエンゲージメントと開発

OpenAIは、Model Specが現行の実践を反映した生きた文書であり、継続的な研究と公的意見に基づいて適応していくことを認識しています。組織は特に政策立案者や専門家など、さまざまな視点を収集することを目指しています。寄せられたフィードバックはModel Specの改良と将来のAI開発に大きく影響するでしょう。OpenAIは、このフィードバックループから得られた知見や変更について、一般の人々に情報を提供し続けることを目指しています。

今後の展望

Model Specを通じて望ましいAIの行動を明確に示し、国際的なコミュニティからの意見を求めることによって、OpenAIはAIによるポジティブな社会的影響の創出に努めています。これは、データにおけるアーティストの同意に関する法的な精査や批判がある中でも、AIの責任ある開発へのコミットメントを再確認することを意味しています。