拜登任命AI安全研究所领导人，缓解NIST资金担忧

Home AI News CN 拜登任命AI安全研究所领导人，缓解NIST资金担忧

今天，拜登政府任命白宫高级顾问伊丽莎白·凯利，作为新成立的美国人工智能安全研究所（USAISI）主任，该研究所隶属于国家标准与技术研究所（NIST）。同时，埃尔哈姆·塔巴西被任命为首席技术官。

NIST是美国商务部的一部分，于2023年1月发布了备受期待的人工智能风险管理框架，并负责根据白宫的人工智能行政令（EO）对人工智能技术进行评估和审计。这项工作包括制定人工智能红队测试的指导方针，以确保安全、可靠和可信赖的人工智能系统的部署。

此次领导层任命是自2023年11月美国人工智能安全研究所成立以来，针对该机构的第一次重大的宣布，旨在支持人工智能行政令中列出的职责。然而，关于该机构的运作和资金情况仍然缺乏细节，尤其是在NIST面临资金挑战的情况下。NIST大约有3400名员工，年预算略超过16亿美元。

一组两党参议员在2024财年的资金立法中请求1千万美元，以在NIST内建立USAISI，但这一请求的状态尚不明朗。此外，众议院科学委员会的成员在12月批评NIST缺乏透明度，并未宣布计划中的USAISI相关人工智能研究拨款的竞争性流程。立法者们对NIST与RAND公司之间的拟议人工智能研究伙伴关系表示担忧，RAND是一家与科技行业及颇具争议的“有效利他主义”运动相关的智库。

在信中，立法者指出人工智能安全研究领域面临的挑战，称“该领域的发现往往是自我引用的，缺乏外部批评带来的质量。”他们强调了人工智能安全研究中的定义和范围存在显著分歧。

前埃森哲人工智能项目负责人、Twitter META团队成员伦曼·乔杜里对USAISI的领导任命发表了看法，她提到，尽管对NIST和USAISI的更新寄予厚望，但由于严谨的审核过程，沟通的速度是比较典型的。乔杜里强调她对NIST公正性的信心：“他们已经从事这种工作很长时间了……他们并非被任命，这并不取决于谁掌握权力。”

不过，她也指出，资金问题仍然是USAISI面临的重要挑战。“这是通过行政令下达的无资金任务，”乔杜里解释道，并指出在两极分化的政治环境中获得立法资金的难度。尽管英国已为人工智能安全分配了1亿美元，美国的资金状况却仍不确定。

关于近期的参议院资金请求，乔杜里表示她了解这一情况，但尚未看到任何资金到位的迹象。她还强调了人工智能安全研究所联盟的成立，该联盟邀请组织在人工智能治理、安全及负责任的人工智能方面贡献专业知识。联盟的会员费为每年1000美元，尽管她不清楚NIST关于研究拨款的具体计划。

对资金的呼吁持续不断，Anthropic早在2023年4月就倡导拨款1500万美元来支持NIST的人工智能测量和标准工作，这被视为政策制定者希望维护美国在关键技术开发中的领导地位的一项直接解决方案。

尽管面临这些挑战，乔杜里对USAISI在NIST的未来仍持乐观态度。“我认为埃尔哈姆是我认识的最冷静的人之一……我们需要一个专注于完成工作的领导者，”她说。同时，她指出USAISI在NIST内的定位发出了优先科学诚信而非政治影响的积极信号。

谷歌DeepMind推出“自我发现”框架，以提升大型语言模型大幅优化GPT-4性能

微软发布Deucalion模型及增强版AI图像功能，提升Copilot体验

Most people like

MusicAI

48.9K

在当今数字时代，AI音乐创作平台正迅速改变音乐制作的方式。这些创新平台利用人工智能技术，帮助艺术家和创作者生成独特的音乐作品。无论你是专业音乐人还是业余爱好者，这些平台都为你提供了无限的创作可能性和灵感。借助AI音乐创作工具，你可以轻松探索不同风格和旋律，提升音乐创作的效率与灵活性。

AI音乐生成器 AI音乐生成器

Poker Bot AI+

23.5K

自动化在线扑克是一种通过策略与技术结合，在在线扑克游戏中实现盈利的有效方式。利用先进的自动化工具和算法，玩家能够优化他们的游戏策略，提高胜率，从而在竞争激烈的扑克环境中脱颖而出。通过深入了解市场动态和利用数据分析，您可以在自动化扑克中获得可观的经济回报。

在线扑克大型语言模型（LLMs）

Tettra

90.6K

探索由人工智能驱动的知识管理系统，开启高效信息组织与获取的新篇章。通过智能化的工具与技术，这些系统帮助企业优化知识共享和决策过程，实现持续创新与竞争优势。利用先进的AI算法，这些解决方案能够自动分类、整理和分析海量信息，为用户提供个性化的搜索体验。快来了解如何通过AI知识管理系统提升您的工作效率。

人工智能驱动 AI产品描述生成器

Stammer.ai

25.7K

白标AI SaaS：构建和转售AI代理的理想解决方案在快速发展的数字时代，白标AI SaaS为企业提供了一种优秀的工具，可以轻松构建和转售AI代理。凭借强大的功能和灵活性，这种解决方案使公司能够无缝集成智能自动化，提高服务效率，同时拓宽收入来源。无论您是初创公司还是成熟企业，白标AI SaaS都是实现AI驱动增长的理想选择。

白标AI平台销售助手

Find AI tools in YBX