효과적 이타주의의 AI 보안에 대한 영향력 확대

미국 AI 정책 전문가는 최근 “효과적인 알트루이즘(EA)의 영향을 탐구하지 않는다면, 중요한 이야기를 놓치고 있다”고 언급했습니다. 이를 되새기며, 저는 지난주 보도에서 중요한 시각을 간과했음을 깨달았습니다.

아이러니하게도, 저는 대형 언어 모델(LLM) 가중치를 확보하는 문제에 관한 제 기사가 괜찮은 성과라고 생각했습니다. 최근 백악관의 AI 행정명령은 기본 모델 기업들이 이중 용도의 기본 모델에 대한 소유권 및 보안 조치를 문서화하도록 요구하고 있어, 이 주제는 시의적절하고 관련성이 높습니다. 제 글에서는 안트로픽의 최고 정보 보안 책임자인 제이슨 클린턴과 인터뷰하여, 안트로픽의 LLM인 클로드 모델 가중치를 확보하는 것이 얼마나 중요한지를 강조했습니다. 그는 범죄자, 테러리스트, 그리고 국가가 이러한 정교한 모델에 접근할 경우의 위험성을 경고하며 “공격자가 전체 파일에 접근한다면 전체 신경망을 제어할 수 있다”고 언급했습니다. 다른 선도 기업들도 이러한 우려를 공유하고 있으며, OpenAI의 새로운 “준비 프레임워크”는 민감한 모델 정보에 대한 접근 제한의 필요성을 다루고 있습니다.

저는 RAND Corporation의 셀라 네보와 댄 라하브와도 이야기를 나누었습니다. 그들은 ‘인공지능 모델 가중치 보안’이라는 중요한 보고서를 공동 저술했습니다. 메셀슨 센터를 이끄는 네보는 AI 모델들이 곧 상당한 국가 안보 문제를 초래할 수 있으며, 생물학적 무기 개발에 악용될 가능성이 있다고 경고했습니다.

AI 보안에서의 효과적인 알트루이즘 연결망

제 글은 효과적인 알트루이즘 공동체와 emergent AI 보안 분야 간의 복잡한 연결을 다루지 못했습니다. EA는 인류를 위한 이익을 중시하고 고급 AI로 인한 존재적 위험을 예방하는 데 강조되는 지적 운동으로, EA의 영향력이 커지고 있다는 점에서 이 간과는 주목할 만합니다. 비판가들은 EA가 이러한 먼 위협에 집중하는 것이 AI 개발의 편향, 잘못된 정보, 사이버 보안 같은 긴급한 문제를 간과하고 있다고 주장합니다.

최근 EA는 OpenAI 이사회가 CEO 샘 알트만을 해고한 사건으로 화제가 되었으며, 이로 인해 고위 의사결정에서 EA의 연결이 부각되었습니다. 저는 안트로픽과 EA의 관계를 잘 알고 있었지만—FTX 창립자 샘 뱅크맨-프리드는 한때 이 스타트업에 5억 달러의 지분을 보유하고 있었습니다—제 이야기에 EA의 함의를 더 깊이 파고들지 않았습니다. 그러나 우연히 다음 날 게재된 Politico 기사를 읽은 후, RAND와 EA 간의 중요한 연결고리와 상당한 자금 관계를 발견하게 되었습니다.

Politico 기사는 RAND Corporation 연구자들이 백악관의 모델 가중치 행정명령을 형성하는 데 중요한 역할을 했으며, 이 기관이 Facebook 공동 창립자 더스틴 모스코비츠가 지원하는 EA 이니셔티브인 Open Philanthropy로부터 1,500만 달러 이상을 받았다고 밝혔습니다. 특히 RAND의 CEO 제이슨 마세니와 수석 과학자 제프 알스토트는 이전에 바이든 행정부와의 연관이 있는 저명한 효과적인 알트루이스트로 알려져 있습니다.

효과적인 알트루이즘 커뮤니티의 통찰

네보와의 후속 대화에서 그는 AI 보안 분야에 EA 옹호자들이 강력하게 존재하는 것이 놀라운 일이 아니라는 점을 지적했습니다. 역사적으로 EA는 AI 안전에 관한 논의의 최전선에 있었으며, 이 분야에 참여한 누구나 EA의 관점을 접했을 것이라고 말했습니다.

네보는 Politico 기사에서의 톤에 실망감을 표시하면서 이 보도가 RAND의 오랜 연구 지원 역할을 강조하면서 부당하게 잘못된 행동을 암시했다고 지적했습니다. 그는 자신도 자신이 이끄는 센터도 행정명령에 관여하지 않았으며, 모델 보안에 관한 조항은 백악관의 자발적으로 구축된 약속이라고 강조했습니다. 메셀슨 센터는 비교적 알려지지 않았지만, 생물 감시와 생물학적 안전과 AI의 교차점에 초점을 맞춘 RAND의 여러 연구 센터 중 하나라는 점도 언급했습니다.

AI 보안에서의 효과적인 알트루이즘의 중요성

EA의 영향력이 정말 중요할까요? 잭 니컬슨의 아이코닉한 대사 “그 벽 위에 나를 필요로 해!”를 떠올리면, AI 보안에 헌신하는 개인들이 있다면 그들의 이념이 중요한가에 대한 질문이 제기됩니다.

AI에서 투명성과 효과적인 정책을 주장하는 많은 사람들에게 그 대답은 “예”입니다. Politico가 보고한 EA의 워싱턴 내 영향력은 이러한 연결이 향후 정책, 규제 및 AI 개발에 큰 영향을 미칠 것임을 강조합니다. 제가 만난 미국 AI 정책 전문가는 정책 분야의 많은 사람들이 AI의 잠재적 이념적 의제를 간과하고 있으며, 그들의 영향을 과소estimating한다고 지적했습니다.