OpenAIのスーパーアラインメントチーム、2人の主要メンバー離脱後の生き残りの危機とは？

Home AIニュース OpenAIのスーパーアラインメントチーム、2人の主要メンバー離脱後の生き残りの危機とは？

イリヤ・サツケバーは、オープンAIの元最高科学者で共同創設者ですが、彼の退任は昨日の同社からの主要な離脱の一例に過ぎません。すぐに、オープンAIの「スーパーアラインメント」チームの共同リーダーであるヤン・ライクも退職を発表しました。「辞職しました」とXに投稿しました。

ライクは2021年初めにオープンAIに加わり、特にGPT-3を人間の好みに合わせる報酬モデリングの取り組みに対して熱意を示していました。彼は2022年12月には自身のSubstackアカウント「Aligned」でオープンAIのアラインメント戦略に期待を寄せるコメントを発表しました。それ以前は、GoogleのDeepMindにて専門性を活かしていました。

この二人のリーダーの退職は、オープンAIの先進的なAIシステムの制御に関する野望、特に経済的に価値あるタスクにおいて人間の能力を超えると定義される人工一般知能（AGI）の達成について、X上での議論を引き起こしました。

スーパーアラインメントとは？

オープンAIのGPT-4oや、GoogleのGemini、MetaのLlamaなどの大型言語モデル（LLM）は、複雑な動作をします。これらのモデルが信頼性を持って機能し、有害または無意味な応答を生成しないようにするためには、開発者が「望ましい行動」に合わせて調整する必要があります。この調整には、強化学習や近似方策最適化（PPO）などの機械学習技術が使われます。

スーパーアラインメントは、現在のものを超えた将来のAIモデル（超知能）を調整するための強化された取り組みを表しています。オープンAIは2023年7月にスーパーアラインメントチームを設立し、AIの開発とガバナンスに伴うリスク管理の緊急性を強調しました。

課題は、超知能AIシステムが人間の意図に従うことを確実にする方法です。現在のアラインメント技術は人間の監視に依存しており、人間の知性を超えるシステムには効果的にスケールできない可能性があります。オープンAIはこの問題を認識し、スーパーアラインメントの取り組みに20%のコンピューティングリソースを割り当て、Nvidiaやその他のハードウェアからの貴重なGPUを活用することを約束しました。

スーパーアラインメントの今後は？

サツケバーとライクの退職に伴い、スーパーアラインメントの未来について重要な疑問が浮かび上がります。オープンAIはこのプロジェクトに約束した20%のコンピューティングパワーを引き続き配分するのでしょうか、それとも新たな方向にシフトするのでしょうか。観察者たちは、サツケバーを「ドゥーマー」と見なしていたこと、特にAIに対する存在的危機に関して、CEOのSam Altmanやその他の人々がこれらの脅威に対してあまり焦点を当てていないように見えることを指摘しています。

私たちはスーパーアラインメントチームの将来についてオープンAIに確認を取り、回答が得られ次第、最新情報をお伝えします。

OpenAI社長、GPT-4oが生成した初の画像を発表

Anthropic、Instagram共同創設者をCPOに迎え、OpenAIとの競争を加速

Most people like

GoPDF

67K

GoPDFでPDF管理を革新し、手間いらずのPDFタスクを実現しましょう。

PDFエディタ AI PDF

Pixcap

395.9K

アプリのUX/UIとランディングページをカスタマイズ可能な3Dデザインツールで革新しましょう。この革新的なプラットフォームは、ユーザーを魅了する美しいビジュアルを作成し、全体的なユーザー体験を向上させる力を与えます。創造性を解放し、今日からデジタルプレゼンスを高めましょう！

3Dデザインツール AI 3D Model Generator

Composio

56.7K

AIエージェントと大規模言語モデル（LLM）のために特別に設計された革新的な統合プラットフォームを紹介します。この最先端のソリューションは、API接続を効率化し、データ交換の効果を高めるとともに、開発者がAI駆動アプリケーションをシームレスに接続できるようサポートします。

API統合 AI Developer Tools

ShareID

8.2K

最先端のリユース可能なデジタルアイデンティティソリューションを紹介します。このソリューションにより、ユーザーはリアルタイムでの検証と個人情報のシームレスな共有が可能になります。この革新的な技術はアイデンティティ管理を効率化し、セキュリティとユーザーコントロールを強化し、オンラインでのスムーズなやり取りを実現します。

デジタルアイデンティティ Large Language Models (LLMs)

Find AI tools in YBX