前OpenAI超对齐负责人批评公司：‘安全文化与流程被忽视’

Home AI News CN 前OpenAI超对齐负责人批评公司：‘安全文化与流程被忽视’

本周早些时候，OpenAI的联合创始人及前首席科学家伊利亚·苏茨凯弗（Ilya Sutskever）与关键研究员简·莱克（Jan Leike）相继宣布辞职，这一事件引起了广泛关注。这不仅因为他们担任高级职位，还因为他们领导的超级对齐团队专注于开发管理超级智能AI模型的系统，这些模型的智力水平已超越人类。

在这两位高管离开后，媒体报道称OpenAI的超级对齐团队已被解散，最近《连线》杂志的一篇文章对此进行了强调，而我的妻子正好是该刊的主编。

今天，莱克在个人社交媒体上对OpenAI及其领导层提出了批评，指责他们将“炫目的产品”置于安全之上。他表示：“在过去几年中，安全文化和流程被淹没在了光鲜的产品之下。”

莱克于2021年初加入OpenAI，他承认与公司领导层存在分歧，可能指的是首席执行官山姆·奧特曼（Sam Altman）、总裁格雷格·布罗克曼（Greg Brockman）以及首席技术官米拉·穆拉提（Mira Murati）。他提到：“很长一段时间以来，我在公司的核心优先事项上与OpenAI的领导层存在分歧，直到我们最终达到了一个临界点。”

他强调了迫切需要解决如何引导和控制那些智力显著超过人类的AI系统的问题。

2023年7月，OpenAI承诺将20%的计算资源，具体而言是其强大的Nvidia GPU集群，分配给超级对齐项目。该项目旨在负责任地开发人工通用智能（AGI），在公司章程中定义为“在大多数经济价值工作中超越人类的高度自主系统”。

尽管有这一承诺，莱克表示失望：“我的团队一直在逆风前行。有时我们在计算资源上挣扎，完成关键研究变得愈加困难。”

对此，奥特曼在回应莱克的帖子时引用了他的观点，感谢莱克对OpenAI对齐研究和安全文化的贡献。他承认还需要更多的努力，并承诺将在未来几天内发布更详细的内容。

这一消息对OpenAI来说无疑是个打击，同时也与周一宣布的新款GPT-4o多模态基础模型，以及ChatGPT桌面版Mac应用的发布形成了对比。这对主要投资者和合作伙伴微软来说也是一大挑战，因为他们正准备附近将举行的Build开发者大会。

我们已联系OpenAI，要求就莱克的评论发表声明，届时将根据情况进行更新。

人工智能在强化网络安全基础设施中的作用：2024年RSAC见解

RenderATL：庆祝亚特兰大多元化视角的科技大会

Most people like

Felo

1.2M

全球多语言AI搜索引擎：获取知识的全新途径在这个信息爆炸的时代，全球知识的获取变得越来越重要。我们的多语言AI搜索引擎致力于通过先进的人工智能技术，帮助用户跨越语言障碍，轻松搜索世界各地的知识资源。无论您是寻找专业领域的深度信息，还是日常生活中的实用建议，我们的搜索引擎都能提供精准、快速的结果。探索前所未有的知识世界，从这里开始。

多语言搜索引擎 AI聊天机器人

SDXL Image Generator

10.5K

引入免费AI图像生成器，您可以轻松创建引人注目的图像，而无需专业技能。这款工具结合了先进的人工智能技术，使每个人都能实现创意愿景，无论是用于社交媒体、营销材料还是个人项目。通过简单的步骤和多种选择，您将在瞬间生成令人惊叹的视觉效果。立即探索这个免费的AI图像生成器，释放您的创造力！

AI 图像生成器文字转图片工具

Deciphr AI

43.7K

Deciphr AI利用尖端的人工智能技术，正在重新定义内容创作的未来。

内容创作语音转写工具

Kink AI

80.7K

引入幻想世界的角色扮演聊天平台，让你沉浸在无尽的冒险中。这里提供了一个充满创意的空间，让用户可以自由地探索各种情境，与志同道合的伙伴互动，创造独特的故事和角色。加入我们，开启属于你的传奇旅程！

幻想聊天 AI角色生成器

Find AI tools in YBX