OpenAI 전 수퍼정렬 리더, 회사 비판: ‘안전 문화와 프로세스가 소홀히 여겨졌다’

Home AI 뉴스 OpenAI 전 수퍼정렬 리더, 회사 비판: ‘안전 문화와 프로세스가 소홀히 여겨졌다’

이번 주 초, OpenAI의 공동 창립자이자 전 최고 과학자인 일리야 수츠케버와 주요 연구원인 얀 라이케가 몇 시간 차이로 동시에 사임 소식을 발표했습니다. 이들은 인간 지능을 초월하는 초지능 AI 모델을 관리하기 위한 시스템을 개발하는 슈퍼정렬 팀을 이끌어 왔기 때문에 이 사건은 더욱 주목받고 있습니다.

이들의 퇴사 이후, Wired 기사에 따르면 OpenAI의 슈퍼정렬 팀이 해체된 것으로 보입니다. 그곳에서 제 아내는 편집장으로 활동하고 있습니다. 오늘, 라이케는 자신의 개인 X 계정을 통해 OpenAI와 그 경영진에 대한 비판을 쏟아내며 "안전보다 화려한 제품을 우선시했다"고 주장했습니다. 그는 한 게시물에서 "지난 몇 년간 안전 문화와 프로세스가 화려한 제품 뒤에 숨겨졌다"고 밝혔습니다.

2021년 초 OpenAI에 합류한 라이케는 CEO 샘 올트먼과 다른 고위 경영진들, 즉 대통령 그렉 브록먼과 CTO 미라 무라티와의 의견 차이가 있었음을 인정하며, "OpenAI 경영진과 회사의 핵심 우선사항에 대해 오랜 시간 disagree해왔다"라고 말했습니다. 그는 또한 인간보다 훨씬 더 똑똑한 AI 시스템을 어떻게 조종하고 통제할지를 신속히 다루어야 한다고 강조했습니다.

2023년 7월, OpenAI는 강력한 Nvidia GPU 클러스터의 20%를 슈퍼정렬 프로젝트에 할당한다고 약속했습니다. 이 노력은 "인간보다 대부분의 경제적 가치가 있는 작업을 더 잘 수행하는 고도로 자율적인 시스템"인 인공지능 일반(AGI)을 책임감 있게 개발하는 것을 목표로 하고 있습니다.

그럼에도 불구하고 라이케는 "우리 팀은 역풍을 맞으며 항해해왔다. 때로는 컴퓨팅 자원 부족에 시달렸고, 중요한 연구를 수행하기가 어려워졌다"고 불만을 토로했습니다. 라이케의 트위터에 대한 올트먼의 응답에서, 그는 라이케의 OpenAI의 정렬 연구와 안전 문화에 대한 기여에 대한 감사를 표하며, 앞으로 더 많은 작업이 필요하다는 점을 인정했습니다. 또한 며칠 내에 더 자세한 글을 게시할 것이라고 약속했습니다.

이번 소식은 OpenAI에 그림자를 드리우며, 월요일에 발표된 새로운 GPT-4o 다중모달 기반 모델과 Mac용 ChatGPT 데스크톱 앱 출시와 동시에 발생했습니다. 이는 다음 주 응급(Build) 컨퍼런스를 준비하고 있는 주요 투자자이자 파트너인 Microsoft에게도 도전 과제가 될 것입니다.

우리는 라이케의 언급에 대한 공식 성명을 요청했으며, 새로운 정보가 들어오는 대로 업데이트를 제공할 예정입니다.

AI가 사이버 보안 인프라 강화에 미치는 역할: RSAC 2024의 인사이트

렌더ATL: 애틀랜타에서 다양한 관점을 기념하는 기술 컨퍼런스

Most people like

uBrand

48.8K

오늘날 빠르게 변화하는 디지털 환경에서 인공지능(AI)을 활용하는 것은 매력적이고 독특한 브랜드를 만들어 내는 데 필수적입니다. AI를 브랜딩 전략에 통합함으로써 프로세스를 효율화하고, 유용한 소비자 데이터를 얻으며, 고객 경험을 향상시킬 수 있습니다. 브랜드의 성공을 위해 AI 기술을 효과적으로 활용하고 경쟁에서 앞서 나가는 방법을 알아보세요.

인공지능 AI Graphic Design

PixVerse

4.1M

다양한 입력을 놀랍도록 아름다운 비디오로 바꾸는 AI 모델을 소개합니다. 이 혁신적인 기술은 인공지능의 힘을 활용하여 시각적으로 매력적인 콘텐츠를 생성하며, 다양한 미디어 형식을 매끄럽게 결합합니다. 창의력을 발휘하고 우리의 혁신적인 솔루션으로 비디오 제작의 무한한 가능성을 탐험해 보세요.

생성형 AI Text to Video

Up Learn

1.4M

A Level에서 A* 성과를 달성하는 비결이 AI와 인지 과학의 강력한 융합 덕분에 그 어느 때보다도 더 쉽게 접근할 수 있게 되었습니다. 이러한 최첨단 분야는 학습과 기억력을 향상시키는 혁신적인 전략과 도구를 제공하여, 학업에서의 뛰어난 성과를 위한 길을 열어줍니다. 이들 통찰력을 활용하면 학생들은 자신의 잠재력을 최대한 발휘하고 학업에서 우수성을 이룰 수 있습니다.

인공지능 AI Course

Drumless

20K

AI 혁신으로 드럼 연주의 예술을 변화시키다.

드럼 연주 Other

Find AI tools in YBX