英国已启动人工智能安全峰会,邀请国家元首、AI先驱和全球专家齐聚一个具有历史意义的乡村庄园。此次峰会旨在建立一个国际框架,以确保人工智能的安全发展。活动开始不久,英国政府便宣布通过了以布莱切利公园命名的“布莱切利宣言”,该地是现代计算的发源地,也是艾伦·图灵在第二次世界大战期间进行密码破解工作的所在地。
布莱切利宣言包含了一系列承诺,确保人工智能的设计、开发和应用遵循以人为本的原则,强调可信性与责任感。来自28个国家(包括美国和中国)以及欧盟的签署国承诺在现有国际论坛中合作,解决人工智能风险。这项宣言承认,各国可能根据其独特法律框架和社会背景对风险进行分类。
此外,该协议显示出进一步组织人工智能安全峰会的承诺,强调全球对话的重要性。首相里希·苏纳克表示,这一共识具有重要意义,称“这是一个重要成就,全球主要的人工智能强国一致认同理解人工智能风险的紧迫性,有助于保障我们子孙后代的长期未来。”
科技大臣米歇尔·多奈兰补充道,峰会标志着确保人人都能享受到人工智能技术益处的漫长旅程的开始。尽管这些宣言令人鼓舞,但牛津大学马丁人工智能治理倡议的主任罗伯特·F·特拉杰警示称,这项协议缺乏具体细节,未能明确各国如何有效合作。“峰会似乎只达成了一项原则性宣言,未能建立国际合作的清晰路线图,”他指出。
美国商务部长吉娜·雷蒙多宣布计划在国家标准与技术研究所(NIST)内设立一个人工智能安全研究所。这个新机构将专注于制定评估人工智能风险的指南、工具和最佳实践,同时为监管机构提供关于透明度与人工智能生成内容水印的技术指导。雷蒙多还呼吁行业和学界积极参与这一倡议,强调合作伙伴关系在这一关键任务中的必要性。
查尔斯三世国王在一段预录讲话中强调了国际合作在解决人工智能安全问题上的重要性,敦促采取迅速和统一的行动来保护隐私和生计。他对与会者表示感谢,称赞他们为建立持久共识奠定了基础,强调人工智能应为社会带来积极贡献。
为了增强人工智能领域的人才储备,英国政府最近宣布投资1.18亿英镑(约1.43亿美元)用于人工智能技能发展的资金。其中包括建立12个新的人工智能博士培训中心,以培养全球顶尖人才,最大化人工智能的变革性益处。该基金还包括100万英镑的“人工智能未来基金”,旨在吸引人工智能研究人员来到英国。
为期两天的人工智能安全峰会将探讨与高级人工智能模型相关的风险,并探索潜在的减缓策略。与会者将参与各种讨论,以达成对人工智能风险的共同理解,并关注有效的安全评估和治理机制。特别关注“前沿模型”,因为其可能对社会构成重大风险。
此次峰会的与会嘉宾包括联合国、联合国教科文组织和牛津大学、斯坦福大学等知名学术机构的代表,以及OpenAI、英伟达、谷歌DeepMind、IBM和Meta等主要人工智能公司,此外,还将涵盖该领域的先驱初创企业。
尽管峰会吸引了多元化的专家阵容,但有观点认为小型人工智能公司和初创企业的代表性较低。Iris.ai的首席技术官维克托·博泰夫指出,峰会将更有利于扩大声音的范围,尤其是那些在推动人工智能进步方面发挥重要作用的创新小企业。
随着峰会的深入进行,全球领导人将借此机会探讨紧迫的人工智能安全问题,促成合作解决方案,以充分利用人工智能的好处,同时降低其固有风险。