加州州长纽森否决SB 1047法案：旨在防范人工智能灾难的提案

Home AI News CN 加州州长纽森否决SB 1047法案：旨在防范人工智能灾难的提案

加州州长加文·纽瑟姆（Gavin Newsom）已经否决了SB 1047法案，该法案旨在防止人工智能（AI）被误用，从而对人类造成“重大伤害”。加州众议会于8月28日以41票赞成、9票反对的结果通过了这项法案，但像商会这样的组织却呼吁州长拒绝该提案。

在9月29日的否决信息中，纽瑟姆承认该法案虽然“出于良好初衷”，但未能考虑到一些关键因素，例如AI在高风险环境中的部署和敏感数据的处理。他指出，该法案对大型系统中使用的基本AI功能施加了过于严格的标准。

SB 1047旨在让AI模型开发者为实施安全协议负责，以防止灾难性后果。要求的安全措施包括严格的测试、外部风险评估和一项“紧急停止”功能，初次违规的罚款从1000万美元起，后续违规罚款可高达3000万美元。然而，修订版删除了州检察长在没有发生灾难事件情况下起诉AI公司因疏忽导致的能力，限制了潜在的法律行动，只有在灾难发生时才可进行禁令救济。

该法案意图监管最低运营成本达到1亿美金、训练能力达到10^26操作浮点运算每秒（FLOPS）的AI模型。同时，法案也会影响那些第三方投资超过1000万美元的项目。在加州运营的任何公司如果满足这些标准，都需要遵守该法案的要求。

纽瑟姆表示他对法案狭窄聚焦于大型AI系统的担忧，称“我认为这不是保护公众免受技术真实威胁的最佳方法。”他警告称，这种强调可能会造成误导性安全感，因为规模更小、专门化的模型同样可能造成等同甚至更大的风险，同时也抑制了对公众有益的创新。

SB 1047的早期版本提议成立一个“前沿模型部门”以监管AI技术，但该法案后来被修改为将监管职责放在政府运营局的“前沿模型委员会”下，成员由州长和立法机构任命。

该法案由加州州参议员斯科特·维纳（Scott Wiener）主导，遭到了技术界的强烈反对。知名AI研究员杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）支持这一倡议，表达了对AI潜在危险的担忧。维纳强调了采取前瞻性措施的重要性，表示：“我们不能等到坏事发生。”

在否决信息中，纽瑟姆重申了加州对安全的承诺，坚称“加州不会放弃其责任。必须采取安全协议，并且必须对不良行为者施加清晰的后果。”他提倡建立一个与AI进步共同发展的监管框架。

该法案遭到了技术领袖和组织的大力反击，包括研究员李飞飞（Fei-Fei Li）和Meta首席AI科学家扬·勒库恩（Yann LeCun），他们批评该法案可能会抑制AI创新。主要科技公司的贸易组织，如亚马逊、苹果和谷歌，警告称SB 1047可能会扼杀加州科技领域的新发展。此外，风险投资公司安德森·霍洛维茨（Andreessen Horowitz）及多家初创企业也对AI创新的财务影响表示关注，导致在8月15日加州拨款委员会上推进的SB 1047修订版本中进行了调整。

谷歌改进Gmail：新增优化摘要和“即将发生”标签，提升用户体验

OpenAI预计未来五年内将ChatGPT订阅价格提高至44美元

Most people like

Kuki AI

128.7K

AI大脑娱乐是一种创新的娱乐形式，融合了人工智能技术与互动体验，旨在为用户提供独特而引人入胜的乐趣。借助先进的AI系统，用户可以参与各种智能游戏、挑战和创意活动，从而提升思维能力和娱乐体验。这种新兴趋势不仅为个人提供了全新的放松方式，同时也在社交和教育领域开辟了新的可能性。通过结合娱乐和学习，AI大脑娱乐正在成为现代生活中不可或缺的一部分。

人工智能娱乐 AI聊天机器人