OpenAI의 슈퍼 얼라인먼트 팀, 두 명의 주요 인력 이탈 후 생존의 위기?

Home AI 뉴스 OpenAI의 슈퍼 얼라인먼트 팀, 두 명의 주요 인력 이탈 후 생존의 위기?

일리야 수츠케버(Ilya Sutskever), 전 OpenAI 수석 과학자이자 공동 창립자는 어제 회사를 떠난 주요 인물 중 하나가 아닙니다. 그의 퇴사 소식 뒤를 이어 제안 라이케(Jan Leike), OpenAI의 '슈퍼정렬' 팀 공동 리더가 X에서 “나는 퇴사했다”고 발표했습니다.

라이케는 2021년 초 OpenAI에 합류했으며, GPT-3를 인간의 선호에 맞추는 보상 모델링 작업에 대한 열정을 표현했습니다. 그는 2022년 12월 자신의 Substack 계정 "Aligned"에서 OpenAI의 정렬 전략에 대한 긍정적인 전망을 공유했습니다. OpenAI에 합류하기 전, 라이케는 구글의 딥마인드 AI 연구소에서 그의 전문성을 기여했습니다.

두 리더의 퇴사는 OpenAI의 고급 AI 시스템 제어야망과 인공지능 일반 지능(AGI) 달성에 대한 논의를 촉발했습니다. AGI는 경제적으로 가치 있는 작업에서 인간의 성능을 초과하는 AI로 정의됩니다.

슈퍼정렬이란 무엇인가요?

OpenAI의 GPT-4o와 구글의 제미니, 메타의 라마와 같은 대형 언어 모델(LLM)은 복잡한 방식으로 운영됩니다. 이러한 모델들이 신뢰성 있게 작동하고 해로운 또는 비논리적인 응답을 생성하지 않도록 하기 위해서는 원하는 행동에 맞춰 "정렬"해야 합니다. 이는 강화 학습 및 근접 정책 최적화(PPO)와 같은 기계 학습 기술을 포함합니다.

슈퍼정렬은 현재의 기술 수준을 넘어 미래 AI 모델, 즉 슈퍼지능에 대한 정렬 노력을 강화하는 것을 의미합니다. OpenAI는 2023년 7월 슈퍼정렬 팀의 창설을 발표하며 AI 개발과 관리에 따른 위험을 관리하는 긴급성을 강조했습니다.

슈퍼정렬의 향후 과제는 무엇인가요?

수츠케버와 라이케가 떠남에 따라 슈퍼정렬 이니셔티브의 미래에 대한 중요한 질문이 제기됩니다. OpenAI는 약속한 20%의 컴퓨팅 파워를 이 프로젝트에 지속적으로 할당할 것인지, 아니면 새로운 방향으로 전환할 것인지 주목해야 합니다. 관찰자들은 수츠케버가 AI에 의해 초래되는 존재적 위험에 대해 "비관론자"로 여겨진 반면, CEO 샘 올트만(Sam Altman)과 다른 이들은 이러한 위협에 덜 초점을 맞추고 있다고 지적합니다.

OpenAI에 슈퍼정렬 팀의 미래에 대한 명확한 답변을 요청했으며, 응답이 오면 업데이트를 제공하겠습니다.

OpenAI 사장, GPT-4o로 생성한 첫 번째 이미지를 공개하다

앤트로픽, 오픈AI와의 경쟁에서 인스타그램 공동 창립자를 최고 제품 책임자로 영입

Most people like

AI Anime Avatars

19.8K

AI 기반의 애니메 방식 아바타를 생성하는 혁신적인 데스크탑 애플리케이션을 소개합니다. 몰입감 넘치는 비주얼과 개인화된 캐릭터로 게임 경험을 더욱 향상시켜보세요.

인공지능 Other

Logo Diffusion

392.3K

A.I. 기술을 이용해 단 몇 초 만에 멋진 맞춤 로고를 제작하세요!

로고 디자인 AI Icon Generator

Suno AI Music Free Online

1.6M

혁신적인 AI 기반 음악 생성기: 창의력을 발휘하세요! 최첨단 AI 음악 생성기로 음악 창작의 미래를 경험하세요. 인공지능의 힘을 활용하여 독창적인 멜로디를 작곡하는 무한한 가능성과 원활한 작곡을 경험할 수 있습니다. 숙련된 음악가든 초보자든, 우리의 혁신적인 도구는 여러분의 음악 여정을 영감을 주고 향상시키도록 설계되었습니다. 오늘 새로운 사운드의 진화를 수용하세요!

AI 음악 생성기 AI Music Generator

uBrand

48.8K

오늘날 빠르게 변화하는 디지털 환경에서 인공지능(AI)을 활용하는 것은 매력적이고 독특한 브랜드를 만들어 내는 데 필수적입니다. AI를 브랜딩 전략에 통합함으로써 프로세스를 효율화하고, 유용한 소비자 데이터를 얻으며, 고객 경험을 향상시킬 수 있습니다. 브랜드의 성공을 위해 AI 기술을 효과적으로 활용하고 경쟁에서 앞서 나가는 방법을 알아보세요.

인공지능 AI Graphic Design

Find AI tools in YBX