NIST 직원들, '효율적 이타주의자' AI 연구자의 미국 AI 안전 연구소 임명 반대 시위 예정

국립표준기술연구소(NIST)가 내부 위기에 직면해 있으며, 직원들과 과학자들이 새로 설립된 미국 AI 안전 연구소(AISI)의 핵심 직책에 폴 크리스티아노(Paul Christiano)가 임명될 것으로 예상되면서 사퇴를 위협하고 있습니다. 익명의 두 소식통에 따르면, 효율적 이타주의(EA) 운동과의 연관으로 알려진 크리스티아노의 채용 절차가 직원들에게 사전 통보 없이 신속히 진행되었습니다.

NIST는 미국 상무부의 일원으로, 첨단 측정 과학과 기술을 통해 혁신 및 산업 경쟁력을 향상시키는 데 전념하고 있습니다. 이 기관은 2023년 1월에 발표된 AI 보안 프레임워크를 포함한 사이버 보안 표준 및 프레임워크도 개발하고 있습니다.

크리스티아노의 잠재적 임명은 상무장관 지나 레이몬도(Gina Raimondo)의 영향으로 보고되었으며, NIST 직원들 사이에서 상당한 반발을 일으켰습니다. EA 및 장기주의와의 연관성이 연구소의 객관성과 신뢰성에 미칠 영향을 우려하고 있습니다.

미국 과학자 연맹의 신기술 및 국가 안전 업무 부국장인 디비얀시 카우식(Divyansh Kaushik)은 크리스티아노가 2023년 11월 바이든 대통령의 AI 행정명령에서 명시된 특정 작업에 매우 적합하다고 강조했습니다. 이 행정명령은 NIST와 AISI가 화학, 생물학, 방사선, 핵(CBRN) 안전 등 분야에 집중하도록 지시하고 있습니다.

비평가들은 효율적 이타주의가 자선 노력의 극대화를 위해 증거를 사용하는 운동이라고 설명되지만, AI 안전 분야에서 불균형한 영향력을 행사하는 파벌로 변질되었다고 주장합니다. 이러한 존재론적 위험에 대한 집중이 현재 AI 응용 프로그램의 편향 및 misinformation과 같은 긴급하고 측정 가능한 문제를 간과할 수 있다는 지적이 있습니다.

AISI는 2023년 11월에 상무부의 AI 행정명령에 명시된 책임을 이행하기 위해 설립되었습니다. 미국 상원 다수당 원내대표인 척 슈머(Chuck Schumer)는 AISI를 위한 최대 1,000만 달러의 자금을 발표하며 그 중요성을 강조했습니다. 그러나 최근 보고서에서는 연구 지원금의 적합성과 경쟁적 과정에 대한 NIST의 투명성 부족이 비판받고 있으며, 기술 업계의 영향력 있는 인사 및 효율적 이타주의와 관련된 RAND Corporation에 대한 잠재적 지원금에 대한 우려도 제기되었습니다.

카우식은 임명 여부와 관계없이 NIST가 사명에 충실해야 한다고 강조하며, "우리는 일반 목적 모델에서의 가상의 위험 평가를 위한 미지의 영역을 탐색하고 있다"고 말했습니다. 그는 상무부 리더십이 임명 과정에서 과학적 무결성을 우선시할 것을 촉구했습니다.

그는 그러한 임명으로 인해 "스타 과학자"를 잃는 것은 해롭다고 경고하며, 의회 위원회가 AISI의 작업을 모니터링하고 연구소가 핵심 사명을 훼손하지 않고 강점을 효과적으로 활용할 수 있도록 할 수 있기를 희망했습니다. 그는 최근 X에 게시한 글에서 시기 적절한 임명의 필요성에 대한 낙관을 표명하며, 행정명령의 타임라인에 비추어 선제적인 채용이 긍정적으로 평가되어야 한다고 재차 강조했습니다.

상무장관 지나 레이몬도, AISI 이사 엘리자베스 켈리, 폴 크리스티아노에게 추가 의견을 요청하는 언론 문의가 있었으며, 응답이 접수되는 대로 업데이트를 제공할 예정입니다.