OpenAI的雄心勃勃计划：将民主融入AI技术，真的是公关噱头吗？

Home AI News CN OpenAI的雄心勃勃计划：将民主融入AI技术，真的是公关噱头吗？

上周，OpenAI的一位发言人向我透露，他们启动了一个名为“集体对齐”的新团队。该团队的使命是开发“原型流程”，借助公众意见来塑造人工智能模型的行为，旨在实现民主化的人工智能治理。这项举措建立在OpenAI“人工智能民主输入”资助计划的十位获奖者的基础之上。

对此，我不禁感到一丝讽刺。OpenAI高喊着“创造对全人类有益的安全通用人工智能”的崇高理想，然而在销售API、扩展GPT商店和应对版权诉讼的现实中游走。达成公众共识以指导人工智能治理这一人类最复杂的问题，似乎是个巨大的挑战。

目前正是AI代理的契机吗？美国民主正面临前所未有的 scrutiny，AI系统在即将到来的2024年选举中，深伪和虚假信息的担忧层出不穷。像公众舆论这样主观的概念，如何影响有着商业主导地位的公司制定的AI规则？

尽管如此，OpenAI的集体对齐团队的存在仍然带来了一线希望。他们希望通过人类智慧创造更加民主的人工智能，这无疑具有重要意义。然而，不禁令人思考，这项倡议究竟是实质努力，还是应对更高问责呼声的公关举措。

集体对齐团队的见解

为了更深入了解，我采访了两位团队成员：关注技术社会影响的研究员Tyna Eloundou和拥有人类数据标签经验的产品经理Teddy Lee。他们计划通过增加一名研究工程师和科学家来拓展团队，以更紧密地与OpenAI的人类数据团队合作，后者负责建立收集人类输入的基础设施。

在问及Eloundou有关制定人工智能治理民主进程的挑战时，她承认许多人将其视为“登月计划”。“民主本身就是复杂和混乱的，”她解释道。“它需要不断的协商。”

Lee强调了在社会技术复杂性中将民主整合进人工智能系统的艰巨任务。“我们的资助计划旨在探索其他创新者在这个领域的努力，”他说。“虽然挑战巨大，但依然有许多容易入手的机会和见解待发掘。”

资助计划的进展

根据最近OpenAI的一篇博客文章，人工智能民主输入资助计划共向近1000名申请者中的十个多元化团队颁发了10万美元的资助。这些团队正在设计和测试建立人工智能治理的民主方法，面临如吸引多样化参与者、确保代表性输出和促进透明度等挑战。

每个团队都采用创新的方法来解决这些问题，包括众包审计AI模型的平台和独特的视频讨论界面。然而，他们很快碰到障碍；公众舆论变化迅速，极化群体间达成共识十分困难。

尽管面临这些挑战，OpenAI的集体对齐团队依然坚定。在社会科学专家的咨询下，他们特别关注公民大会——这些随机选出的群体专门讨论重大公共问题。

对民主进程的承诺

Lee表示：“我们不知道我们所不知道的。”这些资助获奖者来自不同领域，为项目注入了激情和活力。“我们需要将这种热情与我们的技术相结合，”他说。

团队的目标能够实现吗？“这与民主本身相似，”Lee解释道。“这是一项持续的努力。随着公众观点的演变和对这些模型的互动方式的改变，我们的工作也会随之调整。”

Eloundou对此表示赞同，称“我们一定会全力以赴。”

无论是被视为公关举措，还是其他，这一增强人工智能决策中民主进程的努力都是值得赞赏的，尤其在这样的时刻，相关进程显得脆弱。因此，OpenAI，我期待你们的努力。

网络安全与人工智能的交汇：2024年不可错过的重要预测

在浩瀚的数据中寻找珍珠：企业识别实用生成式AI应用场景的安全策略

Most people like

BrainyBear AI Chatbots

33.9K

AI聊天机器人平台为用户提供了便捷的工具，帮助您轻松创建和训练智能聊天机器人。这些平台不仅提升了用户交互体验，还能有效优化业务流程，使企业能够更好地满足客户需求。随着人工智能技术的发展，选择合适的聊天机器人平台变得尤为重要，为您的业务赋能，实现更高的效率和满意度。

AI 聊天机器人平台 AI聊天机器人

Guidde

204.9K

Guidde是一个AI平台，专为企业打造便捷高效的视频文档制作工具。

人工智能平台 AI 内容生成器

Ocrolus Document AI Platform

32.7K

在当今快速发展的金融行业，金融文档自动化软件成为提高工作效率和准确性的关键工具。这类软件不仅能够简化数据处理流程，还能显著减少人为错误，为企业节省时间和成本。随着数字化转型的加速，越来越多的金融机构开始认同自动化在文档管理中的重要性。无论是电子文档的生成、审核，还是存档，金融文档自动化软件都在改变传统工作方式，并推动行业的创新发展。

文档自动化 AI文档提取

科学摘要

239.8K

借助人工智能驱动的平台，使用科学摘要功能，快速提炼和理解科学文章的核心内容。

人工智能文本摘要工具

Find AI tools in YBX