马斯克对OpenAI领导层提出AGI方向诉讼
亿万富翁企业家埃隆·马斯克,OpenAI的联合创始人之一,已对首席执行官山姆·奧特曼和董事会主席格雷格·布罗克曼提起诉讼。诉讼指控二人背离了OpenAI最初的使命,即为人类利益发展通用人工智能(AGI),而是通过与微软的合作优先追求盈利。
违反创始协议的指控
在提交给旧金山高级法院的诉状中,马斯克称他、奥特曼和布罗克曼最初达成共识,要在非营利模式下创建AGI——一种在经济价值任务上超越人类的人工智能。该模式强调开放源代码技术,以促进安全和透明。
然而,马斯克离开后,诉状声称OpenAI已转向追求利润,实际上成为微软的封闭式子公司。马斯克认为,这一转变违反了他们的创始协议。
对AI风险的共同担忧
马斯克指出,他与奥特曼早在2015年就对先进人工智能的风险表示了重大担忧。奥特曼曾警告,超人类机器智能(SMI)可能是人类生存面临的最大威胁之一。这种共同的忧虑促使两位创始人成立OpenAI,以抵消谷歌等科技巨头的影响,确保人工智能的发展以人类福祉为重。
最初,OpenAI遵循其创始承诺,包括发布GPT-3模型,并详细共享其内部工作原理。然而,在2020年与微软合作并独家授权GPT-3后,该组织对透明度的承诺随之减弱。
OpenAI战略的转变
到2023年,诉状称OpenAI在发布GPT-4这一具备卓越推理能力的高级模型时,违反了创始原则,因为未公开其底层技术。虽然OpenAI以安全性为理由保持秘密,马斯克则认为这是商业利益驱动的。
他声称,微软研究人员将GPT-4称为AGI的早期版本,该技术已被整合进微软的付费Office套件,超出了初步的2020年协议。
诉状揭示,在2023年11月,OpenAI董事会因对奥特曼的透明度和领导力表示担忧而解雇他。然而,由于微软的影响,他迅速被 reinstated,许多董事会成员也被更换。这些新成员据称缺乏评估何时实现AGI的专业知识。
呼吁坚持原有使命
马斯克的诉讼旨在迫使OpenAI回归其原始使命,即为人类利益而非利润发展AGI。这一法律行动并非马斯克首次批评OpenAI;他曾将其描述为微软的棋子,一个“无情的企业垄断”,失去了其基础的非营利精神。
此外,马斯克已经启动了自己的人工智能项目xAI,旨在创造安全和伦理的AI。该项目致力于开发基于理解的人工智能,包含一个名为Grok的聊天助手。马斯克相信这种方法可以最大程度降低AI带来的生存风险。
尽管xAI仍处于早期阶段,但已吸引了来自OpenAI、DeepMind、谷歌研究、微软研究、特斯拉和多伦多大学的人才,彰显了马斯克对推动负责任的人工智能发展的承诺。