白宫启动新人工智能安全联盟：200多家领先企业携手测试与评估AI模型

Home AI News CN 白宫启动新人工智能安全联盟：200多家领先企业携手测试与评估AI模型

拜登政府成立美国人工智能安全研究所联盟

在任命白宫高级顾问担任新成立的美国人工智能安全研究所（USAISI）主任后，拜登政府揭晓了美国人工智能安全研究所联盟（AISIC），宣称这是“首个专注于人工智能安全的联盟”。

这个合作伙伴关系拥有200多个成员机构，包括谷歌、微软和亚马逊等科技巨头，以及OpenAI、Cohere和Anthropic等领先的大型语言模型（LLM）公司。联盟还涵盖了研究实验室、学术团队、公民社会组织以及各级政府和非营利组织。

根据国家标准技术研究所（NIST）的一篇博客，AISIC代表了迄今为止最大规模的测试和评估团队，旨在建立人工智能安全的基础测量科学。在USAISI的指导下，联盟将支持拜登总统的行政命令中列出的关键倡议，包括制定红队评估、能力评估、风险管理、安全和保密协议以及合成内容水印的指南。

组成细节

联盟公告于2023年10月31日发布，正值拜登总统的人工智能行政命令之际。NIST网站表示，参与资格面向能够提供专业知识、产品、数据或模型的组织。选定的参与者需支付每年1,000美元的费用，并与NIST签署联盟合作研究与开发协议（CRADA）。

人工智能安全指南

联盟成员将关注以下关键指南：

1. 制定安全、可靠和可持续开发与部署人工智能的工具和最佳实践。

2. 确定和评估潜在有害的人工智能能力的指导方针。

3. 推广生成型人工智能的安全开发实践，并处理双用途基础模型，确保隐私保护的机器学习。

4. 提供资源以创建和维护测试环境。

5. 制定有效的红队评估和隐私保护机器学习技术的实践。

6. 设计验证数字内容真实性的工具。

7. 定义人工智能领域所需的技能标准，包括风险识别、管理、测试和验证。

8. 探索社会与技术之间的相互作用，重点关注人们在不同背景下与人工智能的互动。

9. 提供关于管理人工智能实体在其生命周期内相互依赖关系的指导。

资金不确定性

尽管联盟已经成立，关于USAISI的资金问题仍然存在疑问。据报道，自去年11月白宫首次公布消息以来，关于运营框架或资金来源的细节披露较少，尤其是NIST年预算超过16亿美元，面临着已知的资源限制。

在1月份，一组两党的参议员向参议院拨款委员会请求1,000万美元，以支持USAISI的成立，但这一资金请求的状态尚不明确。此外，众议院科学委员会的立法者对NIST的透明度和与新研究所相关的研究经费分配缺乏竞争性流程表示担忧。

谈及资金挑战时，曾在埃森哲和推特工作的人工智能伦理专家Rumman Chowdhury指出，USAISI在未获得资金支持的情况下受行政命令驱动。她理解政治复杂性对立法行动的阻碍，同时强调该倡议面临的资金缺口相当严重。

1.9M

摘要：AIPRM是一个社区驱动的生成式AI提示库，同时也是一个高效的提示管理工具。

提示管理提示

22.4K

轻松打造AI短片：快速生成引人入胜的短视频内容在当今快节奏的数字时代，短视频已成为传播信息和吸引观众的强大工具。利用AI技术，您可以轻松制作出高质量的短片，提升您的内容创作效率。无论是个人项目还是商业用途，我们为您提供简便的方法，帮助您迅速生成引人注目的AI短片。

AI视频生成其他

4.6M

AI驱动的转录与翻译服务，为您提供高效、精准的语言解决方案。无论是音频转文字，还是多语言翻译，我们都能满足您的需求，助力沟通无障碍。让先进的人工智能技术提升您的工作效率，节省宝贵时间。

转录语音转写工具

241.3K

好AI写作是一个基于人工智能的高效写作平台，旨在为用户提供准确、智能的写作解决方案。

论文写作助手 AI检查器文章

Find AI tools in YBX