加利福尼亚州州长加文·纽瑟姆(Gavin Newsom)最近正式否决了备受争议的《边疆人工智能模型安全创新法案》(SB 1047),引发了科技行业和决策者的广泛关注。
该法案旨在为大型人工智能模型的开发设定安全标准,特别是针对训练成本超过1亿美元的开发者。SB 1047要求开发者在部署前采取多项预防措施,包括测试、模拟网络攻击、安装网络安全保护措施,并提供举报者保护,以确保人工智能模型的安全性。
然而,纽瑟姆指出法案中存在几个问题。他承认,虽然SB 1047的初衷良好,但未能考虑到在高风险环境中部署的AI系统或涉及关键决策的模型。他认为,对大型系统的严格要求未必能够有效保护公众,反而可能阻碍技术的进步。
纽瑟姆担忧,该法案可能会给公众带来虚假的安全感。他强调,较小的专用模型可能带来的风险与SB 1047所针对的模型相等或更大。他认为,促进创新与确保公共安全并非互相排斥,州政府应制定更细致和针对性的政策,以应对人工智能技术带来的挑战。
Meta的公共事务经理杰米·拉迪斯(Jamie Radice)对纽瑟姆的决定表示欢迎,认为该法案将阻碍AI创新,并对商业发展和就业机会产生负面影响,并呼吁出台更合理的人工智能监管政策。
自今年2月提出以来,SB 1047已引起显著争议。尽管在8月份进行了修订,但仍未获得纽瑟姆的支持。科技界对该法案的看法分歧,一些科学家和人工智能公司担心这会扼杀创新,而另一些人则倡导更严格的安全标准。
纽瑟姆对SB 1047的否决标志着加利福尼亚州人工智能监管政策的一个重要时刻。未来,如何平衡人工智能的创新与安全将成为亟需关注的关键议题。