加州AI法案否决:支持小型开发者与模型发展的新机遇

加州州长加文·纽森最近否决了SB 1047法案,该法案被广泛认为可能对州内及全国的人工智能(AI)发展产生重大影响。这项否决于周日宣布,使AI公司有机会展现其在保护用户免受AI相关风险方面的主动承诺。

SB 1047原本要求AI公司为其模型实施“紧急停止开关”,建立正式的安全协议,并在模型训练前聘请第三方安全审计机构。此外,该立法还旨在授权加州检察长访问审计报告,并对AI开发者提起诉讼。

一些行业资深人士对此法案表示担忧,认为它可能阻碍AI发展,许多人对纽森的否决表示感谢,认为这有助于未来保护开源开发。Meta的首席AI科学家扬·勒昆在社交媒体X(前身为Twitter)上称赞这一决定“明智”。

知名AI投资人马克·安德森将纽森的否决视为对“加州活力、经济增长与计算自由”的支持。其他行业领袖也表达了类似的观点,主张应制定不限制小型开发者和模型的法规。

Qlik首席执行官迈克·卡彭强调,“核心问题不在于AI模型本身,而在于它们的具体应用”。他呼吁关注具体情境和用例,而非技术本身,并要求建立确保安全与伦理使用的监管框架。

Coursera联合创始人安德鲁·吴也称赞这一否决为“有利于创新”,认为这将保护开源项目。

尽管如此,反对声音也存在。乔治梅森大学Mercatus中心的AI和科技政策专家迪恩·巴尔表示,否决对加州和美国至关重要。他指出法案中的模型规模阈值已经过时,无法涵盖如OpenAI等新型模型。

伊利诺伊大学的副教授拉夫·瓦尔希尼批评该法案惩罚原创开发者,因为其技术的下游使用。他提议建立一种共享责任模式,以促进开源创新。

此项否决为AI开发者提升安全政策和实践提供了机会。多米诺数据实验室的AI战略负责人凯尔·卡尔松呼吁公司积极应对AI风险,并在整个AI生命周期内建立强有力的治理。

AI治理平台Credo AI创始人纳夫里娜·辛格指出,有必要对所需法规有更深入的理解,倡导将治理作为创新的核心,同时在市场中保持信任与透明。

然而,并非所有反应都是积极的。科技政策团体对这项否决表示谴责,Accountable Tech的联合创始人妮可·吉尔表示,这一决定偏向大科技公司,忽视了公共安全。她指出,否决巩固了现状,让大型企业在缺乏问责的情况下获利。

AI政策研究所的执行董事丹尼尔·科尔森对这一决定表示担忧,称其为“错误和轻率”。

当前,加州作为美国大多数AI公司的总部,缺乏与公众监督需求相符的强有力法规。目前,针对生成式AI的联邦规定几乎不存在,拜登总统的行政命令是最接近的规范。该命令 outlines 了各机构使用AI的框架,鼓励公司自愿提交模型进行评估。

拜登政府还计划监测开放权重模型的潜在风险,突显了有关AI安全与监管的持续讨论。

Most people like

Find AI tools in YBX