NIST员工抗议“有效利他主义者”AI研究人员被任命为美国人工智能安全研究所主任

Home AI News CN NIST员工抗议“有效利他主义者”AI研究人员被任命为美国人工智能安全研究所主任

美国国家标准与技术研究院（NIST）正面临严重的内部危机，因员工和科学家们威胁辞职，原因是保罗·克里斯蒂亚诺（Paul Christiano）可能被任命为新成立的美国人工智能安全研究所（AISI）的关键职位。两位匿名知情人士透露，克里斯蒂亚诺的招聘过程被迅速推进，但未提前通知员工。

NIST隶属于美国商务部，致力于通过先进的测量科学和技术提升创新和工业竞争力。该机构还制定了网络安全标准和框架，其中包括在2023年1月发布的人工智能安全框架。

克里斯蒂亚诺的潜在任命据称受到商务部长吉娜·雷蒙多（Gina Raimondo）的影响，因而在NIST员工中引发了强烈反对。员工们担忧他的有效利他主义（EA）和长期主义背景可能影响研究院的客观性和公信力。

美国科学家联合会新兴技术与国家安全副主任迪万什·考希克（Divyansh Kaushik）强调，克里斯蒂亚诺在拜登总统2023年11月的人工智能行政命令中强调的特定任务方面，具备高度的资格，该命令要求NIST和AISI专注于化学、生物、放射性和核（CBRN）安全等领域。

批评人士认为，有效利他主义被描述为一个通过证据最大化利他主义努力的运动，但在人工智能安全领域已经演变为一个影响力不成比例的派别。反对者称，这种对生存风险的关注会遮蔽当前人工智能应用中偏见和虚假信息等迫切且可测的问题。

AISI于2023年11月成立，旨在履行商务部在人工智能行政命令中规定的职责。美国参议院多数党领袖查克·舒默（Chuck Schumer）近日宣布，为AISI拨款最高达1000万美元，以强调其重要性。然而，近期报告批评NIST未能就与该研究所相关的研究经费适用性及竞争过程保持透明，同时对一个可能授予RAND公司的资助表示担忧，RAND公司与技术行业和有效利他主义的重要人物有联系。

考希克指出，无论任命如何，NIST都应始终致力于其使命。他表示：“我们正在评估通用模型的假设风险，面临未知的挑战。”他呼吁商务部领导层在任命中优先考虑科学诚信。

考希克警告称，因任命而失去“明星科学家”将是有害的。他希望负责监督AISI工作的国会委员会能确保该研究所有效利用其优势而不妨碍核心使命。在最近的一篇社交媒体帖子中，他对及时任命表达了乐观态度，重申应积极看待主动招聘，尤其在执行命令时间表的背景下。

针对此事，媒体已向商务部长吉娜·雷蒙多、AISI主任伊丽莎白·凯利和保罗·克里斯蒂亚诺寻求进一步评论，更新将在收到回复后发布。

研究揭示大型语言模型（LLMs）中的显著西方文化偏见

专家呼吁设立法律“安全港”，使研究人员、记者和艺术家能够评估AI技术