2023年12月8日,欧洲议会与27个成员国达成了一项历史性协议,正式建立全球首个全面监管人工智能(AI)的框架。这一重要成果是在激烈谈判后实现的,涵盖了执法部门面部识别技术的使用以及生成式人工智能的监管等关键议题。
欧盟内部市场专员蒂埃里·布雷顿(Thierry Breton)对此次里程碑事件表示祝贺,他在社交媒体上写道:“历史性时刻!欧盟成为全球首个为AI使用设定明确规则的地区。AI法案不仅是一本规则手册,更是欧盟初创企业和研究者在全球AI竞争中胜出的跳板。”该法案在严格条件下允许生物识别系统的应用,并禁止利用个人脆弱性进行社会评分。重要的是,它赋予消费者提出投诉的权利,并要求提供有关影响个人的AI决策的“有意义”解释。
违反该法案的企业将面临高达3500万欧元(约合3800万美元)或全球收入7%的罚款,最低罚款为750万欧元(约合800万美元)或收入的1.5%,这显示了强有力的合规执法机制。欧洲议会在一份声明中强调,该法律旨在保护个人基本权利、民主、法治和环境可持续性,防范高风险AI应用,同时促进创新,以巩固欧洲在AI领域的领导地位。新规根据AI系统的潜在风险和影响程度进行分类。
接下来,欧洲议会将进行正式投票,预计将在明年初进行。Meta的首席AI科学家扬·勒昆(Yann LeCun)对此协议表示支持,称赞法国、德国和意大利政府对开源模型的承诺。这项新规为开源项目提供了广泛的豁免,这对全国的创新者是重要的发展。
OpenUK的首席执行官阿曼达·布罗克(Amanda Brock)对此表示谨慎乐观:“如果这是真的,将是开源社区的一次重大胜利。”
在达成协议的前几天,谈判异常紧张,超过了最初设定在12月6日的EU AI法案截止日期。争议的焦点包括生成式AI系统(如ChatGPT)的监管及AI在生物识别监控中的应用。有报道称,立法者们进行了超过20小时的辩论,以达成共识。蒂埃里·布雷顿在社交媒体上感慨这些紧张讨论:“新的一天,同样的三方会谈。”
AI法案的前景标志着AI技术监管的一次重大进展,旨在平衡安全与创新。根据拟议的立法,生物识别系统被视为“高风险”,对其在公共场所的使用仍在讨论中。一些成员国倡导国家安全和军事背景下的例外情况。
新规将基础模型纳入监管,尤其是像GPT-4和Gemini这样的先进系统,彰显了欧洲AI治理进程的持续演变。12月6日的截止日标志着欧盟理事会首次采纳该法案立场满一周年,最终协议代表了在塑造Responsible AI未来的监管努力中的重大共识。