OpenAI 전 수퍼정렬 리더, 회사 비판: ‘안전 문화와 프로세스가 소홀히 여겨졌다’

Home AI 뉴스 OpenAI 전 수퍼정렬 리더, 회사 비판: ‘안전 문화와 프로세스가 소홀히 여겨졌다’

이번 주 초, OpenAI의 공동 창립자이자 전 최고 과학자인 일리야 수츠케버와 주요 연구원인 얀 라이케가 몇 시간 차이로 동시에 사임 소식을 발표했습니다. 이들은 인간 지능을 초월하는 초지능 AI 모델을 관리하기 위한 시스템을 개발하는 슈퍼정렬 팀을 이끌어 왔기 때문에 이 사건은 더욱 주목받고 있습니다.

이들의 퇴사 이후, Wired 기사에 따르면 OpenAI의 슈퍼정렬 팀이 해체된 것으로 보입니다. 그곳에서 제 아내는 편집장으로 활동하고 있습니다. 오늘, 라이케는 자신의 개인 X 계정을 통해 OpenAI와 그 경영진에 대한 비판을 쏟아내며 "안전보다 화려한 제품을 우선시했다"고 주장했습니다. 그는 한 게시물에서 "지난 몇 년간 안전 문화와 프로세스가 화려한 제품 뒤에 숨겨졌다"고 밝혔습니다.

2021년 초 OpenAI에 합류한 라이케는 CEO 샘 올트먼과 다른 고위 경영진들, 즉 대통령 그렉 브록먼과 CTO 미라 무라티와의 의견 차이가 있었음을 인정하며, "OpenAI 경영진과 회사의 핵심 우선사항에 대해 오랜 시간 disagree해왔다"라고 말했습니다. 그는 또한 인간보다 훨씬 더 똑똑한 AI 시스템을 어떻게 조종하고 통제할지를 신속히 다루어야 한다고 강조했습니다.

2023년 7월, OpenAI는 강력한 Nvidia GPU 클러스터의 20%를 슈퍼정렬 프로젝트에 할당한다고 약속했습니다. 이 노력은 "인간보다 대부분의 경제적 가치가 있는 작업을 더 잘 수행하는 고도로 자율적인 시스템"인 인공지능 일반(AGI)을 책임감 있게 개발하는 것을 목표로 하고 있습니다.

그럼에도 불구하고 라이케는 "우리 팀은 역풍을 맞으며 항해해왔다. 때로는 컴퓨팅 자원 부족에 시달렸고, 중요한 연구를 수행하기가 어려워졌다"고 불만을 토로했습니다. 라이케의 트위터에 대한 올트먼의 응답에서, 그는 라이케의 OpenAI의 정렬 연구와 안전 문화에 대한 기여에 대한 감사를 표하며, 앞으로 더 많은 작업이 필요하다는 점을 인정했습니다. 또한 며칠 내에 더 자세한 글을 게시할 것이라고 약속했습니다.

이번 소식은 OpenAI에 그림자를 드리우며, 월요일에 발표된 새로운 GPT-4o 다중모달 기반 모델과 Mac용 ChatGPT 데스크톱 앱 출시와 동시에 발생했습니다. 이는 다음 주 응급(Build) 컨퍼런스를 준비하고 있는 주요 투자자이자 파트너인 Microsoft에게도 도전 과제가 될 것입니다.

우리는 라이케의 언급에 대한 공식 성명을 요청했으며, 새로운 정보가 들어오는 대로 업데이트를 제공할 예정입니다.

AI가 사이버 보안 인프라 강화에 미치는 역할: RSAC 2024의 인사이트

렌더ATL: 애틀랜타에서 다양한 관점을 기념하는 기술 컨퍼런스