OpenAI与Anthropic达成协议：美国政府将对新AI模型进行早期安全评估

Home AI News CN OpenAI与Anthropic达成协议：美国政府将对新AI模型进行早期安全评估

OpenAI与Anthropic签署AI安全合作协议

近日，知名人工智能公司OpenAI与Anthropic宣布与美国人工智能安全研究所达成重要合作协议。根据这份谅解备忘录，双方承诺在新AI模型公开发布前，向美国政府提供新模型的早期访问权限，以便进行安全评估。这一合作标志着AI技术安全发展的重要进展。

根据协议，OpenAI和Anthropic将在其AI模型公开发布前后，向美国政府提供访问权限。该措施旨在帮助识别并降低潜在的安全风险。美国政府表示，这一合作将增强对AI技术的理解和监管，确保其安全可控的发展。

OpenAI的首席战略官杰森·权（Jason Kwon）对此表示强烈支持，他强调与美国人工智能安全研究所合作制定最佳实践和安全标准的重要性。权认为，这一合作将加强美国在负责任的AI发展方面的领导地位。

Anthropic的联合创始人兼政策负责人杰克·克拉克（Jack Clark）对此伙伴关系也表示乐观，他强调确保AI技术的安全性和可靠性对于其带来积极影响的重要性。通过这次合作，双方旨在更好地识别和降低与AI相关的风险，推动负责任的AI发展。

这一消息恰逢全球对AI监管政策高度关注之际。在各级立法机构探索如何平衡创新与必要的安全规制时，OpenAI与Anthropic的合作为行业树立了标杆。最近，加利福尼亚州通过了“高级AI模型安全创新法案”（SB 1047），该法案要求AI公司在训练高级模型前采取特定的安全措施。尽管该法案还需州长签字，但已引发广泛关注与讨论。

白宫正在积极寻求领先AI公司在安全措施方面的自愿承诺。一些顶级企业已表达非约束性承诺，致力于网络安全和公平研究，并承诺对AI生成内容进行水印处理以提高安全性。

美国人工智能安全研究所所长伊丽莎白·凯利（Elizabeth Kelly）表示，尽管这些新协议只是一个开始，但它们标志着管理AI负责任发展的重要里程碑。她致力于推动AI技术的安全发展，以确保其对社会的益处。

OpenAI、Anthropic与美国政府之间的合作为AI技术的安全发展注入了新动力。随着AI的不断进步及其应用的多样化，确保AI的安全性和可信性将成为全球关注的焦点。通过增强合作与监管，AI技术预计将在推动社会进步和发展中发挥越来越积极的作用。

克拉纳裁员一半：利用人工智能推动业务增长战略

OpenAI AGI安全团队近半数成员离职，AI安全问题引发日益担忧