OpenAIは最新の「フロンティアモデル」のトレーニングを開始し、新たに安全性とセキュリティ委員会を設立したことを発表しました。この委員会は取締役のブレット・テイラーが議長を務め、他にはアダム・ダンジェロ、ニコール・セリグマン、現CEOのSam Altmanなどの著名なメンバーが参加しています。
新しいフロンティアモデルのトレーニング開始
OpenAIは最近のブログ記事で次のように述べています。「OpenAIは次のフロンティアモデルのトレーニングを始め、人工一般知能(AGI)に向かう能力の向上を目指しています。業界をリードする性能と安全性のモデルを提供することに誇りを持ちながら、この重要な局面でオープンな議論を奨励します。」
90日間の評価期間
委員会の即時の責任が明確にされました。「安全性とセキュリティ委員会の最初の任務は、次の90日間でOpenAIのプロセスと安全策を評価し、改善することです。この期間が終わった時点で、委員会は全取締役会に推奨事項を報告します。その後、OpenAIは安全性とセキュリティのプロトコルに従って採用された推奨事項を公表します。」
これは、新しいフロンティアモデル、通称GPT-5が少なくとも90日間は発表されないことを示しています。委員会には、既存のプロセスと保護策を評価する十分な時間が与えられます。そのため、取締役会は2024年8月26日までに推奨事項を受け取ることになります。
なぜ90日間なのか?
OpenAIはこのタイムラインの理由を明言していませんが、90日という期間は評価とフィードバックにおいて一般的なビジネス慣行であり、短すぎず長すぎないバランスの取れた期間です。
委員会の独立性への懸念
新委員会の形成には批判が寄せられています。委員会のメンバーは主にOpenAIの経営陣で構成されており、安全評価の独立性に疑問が生じています。
OpenAIの取締役会の構成も過去に論争を引き起こしてきました。2023年11月17日、非営利持株会社の前取締役会はアルトマンを「一貫して率直ではない」として解任しましたが、これに対して従業員の大規模な反発と、Microsoftなどの主要投資家からの批判があり、アルトマンは4日後に復職しました。その取締役会は男性ばかりの構成に対する非難を受け、再編成されました。
今年3月8日には、新しくスー・デスモンド・ヘルマンやフィジ・シモなどのメンバーが加わり、リーダーシップの多様性を進める努力が続けられています。
OpenAIの課題と機会
OpenAIは最近、最新のAIモデルGPT-4oを発表しましたが、このリリース後に批判が寄せられています。女優スカーレット・ヨハンソンは、映画「Her」での役に関連して彼女に似たAI音声を使用したことを公然と非難しました。OpenAIは問題の声は独自に依頼されたものであり、ヨハンソンを模倣する意図はなかったと説明しました。
また、最高科学責任者イリヤ・スツケバーの辞任やスーパアラインメントチームの共同リーダーの辞任は懸念を引き起こしています。後者は「魅力的な製品」を安全性よりも優先する傾向があると警告しました。スーパアラインメントチームは最終的に解散されました。
これらの課題にもかかわらず、OpenAIは主流メディアとの新たなパートナーシップを築き、トレーニングデータの確保に成功しています。また、生産の効率を高めるためにAIを活用しようとするエンターテインメント業界からの関心も集めています。
OpenAIがこの困難な状況を乗り越える中で、新たに設立された安全性とセキュリティ委員会の効果は利益関係者、特に規制当局や潜在的なビジネスパートナーの懸念に対応する上で重要となります。