OpenAI, AI 안전 법안에 대한 반대 입장으로 비판받다.

Home AI 뉴스 OpenAI, AI 안전 법안에 대한 반대 입장으로 비판받다.

전 OpenAI 직원인 윌리엄 손더스와 다니엘 코코타일로가 캘리포니아 주지사 개빈 뉴섬에게 회사의 AI 개발에 대한 안전 지침을 엄격히 시행하기 위한 주 법안에 반대하는 입장에 실망감을 표현하는 편지를 보냈습니다. 그들은 “우리는 OpenAI에 힘 있는 AI 시스템의 안전을 증진하기 위해 합류했습니다. 그러나 이러한 기술을 안전하고 정직하게, 책임감 있게 개발하겠다는 공약에 대한 신뢰를 잃어 사임했습니다”라고 썼습니다.

전 직원들은 충분한 안전 장치 없이 AI를 발전시키는 것이 대중에게 “예상 가능한 재앙적 피해의 위험”을 초래할 수 있으며, 이는 “전례 없는 사이버 공격이나 생물 무기 생성”으로 나타날 수 있다고 강조했습니다. 또한 OpenAI CEO 샘 올트만의 규제에 대한 상반된 견해를 비판하며, 그는 최근 의회에서 AI 규제를 옹호했지만 실제 규제가 발생했을 때는 반대했다고 지적했습니다. MITRE와 해리스 폴의 2023년 조사에 따르면, 현재 AI 기술을 “안전하고 보안이 갖춰졌다”고 생각하는 참여자는 단 39%에 불과하다고 합니다.

문제가 되고 있는 법안인 SB-1047, 즉 ‘최전선 인공지능 모델을 위한 안전하고 보안 있는 혁신법’은 개발자가 모델 훈련 전에 엄격한 기준을 준수해야 하며, 완전한 시스템 중단을 시작할 수 있는 능력과 종합적인 안전 및 보안 프로토콜을 수립해야 한다고 명시하고 있습니다. OpenAI는 최근 몇 년간 여러 차례 데이터 유출 및 시스템 침입을 경험했습니다.

이에 OpenAI는 연구자들의 “SB-1047에 대한 우리의 입장을 잘못 설명했다”는 주장에 강력히 반대한다고 밝혔습니다. 제이슨 권 전략 담당 부사장은 캘리포니아 주 상원 의원 스콧 위너에게 보낸 편지에서 “조화로운 연방 AI 정책이 지역별로 분산된 법률 접근 방식보다 혁신을 증진하고 미국이 글로벌 기준을 설정하게 할 것”이라고 주장했습니다.

손더스와 코코타일로는 OpenAI의 연방 규제 옹호가 진정성이 없다고 반박하며, “우리는 의회의 행동을 기다릴余裕가 없습니다. 그들은 의미 있는 AI 규제를 시행할 의지가 없음을 분명히 했습니다”라고 썼습니다. “만약 의회가 결국 행동을 취한다면, 그것은 캘리포니아의 입법 노력을 무효화할 수 있습니다.”

흥미롭게도 이 법안은 예상치 못한 지지자로부터 지원을 받았습니다: xAI CEO 일론 머스크입니다. 그는 X에서 “이것은 어려운 결정이며 일부를 불쾌하게 할 수 있지만, 궁극적으로 캘리포니아는 SB-1047 AI 안전 법안을 통과시켜야 한다고 믿습니다. 저는 20년 이상 AI 규제를 지지해 왔으며, 잠재적 위험을 제기하는 기술은 우리가 규제해야 합니다”라고 밝혔습니다. 최근 테네시주 멤피스에서 “세계에서 가장 강력한 AI 훈련 클러스터” 계획을 발표한 머스크는 오히려 캘리포니아의 규제 환경을 피하기 위해 자신의 X(구 Twitter) 및 SpaceX 본사를 텍사스로 이전할 것을 고려한 바 있습니다.

플라우드 노트핀: 2024년 실용적인 기술 혁신을 위한 필수 AI 기기

Grok이 Midjourney보다 우수한가? 두 AI 도구의 종합 비교

Most people like

Cloth2Life

9.7K

혁신적인 AI 플랫폼을 소개합니다. 이 플랫폼은 평면 디자인에서 멋진 패션 모델 이미지를 직접 생성하도록 설계되었습니다. 이 획기적인 도구는 인공지능의 힘을 활용하여 패션 개념을 현실로 변환하며, 의상을 동적이고 매력적인 방식으로 시각화할 수 있게 해줍니다. 디자이너와 소매업체 모두에게 적합한 이 플랫폼은 정적인 이미지를 생동감 넘치고 시선을 사로잡는 모델 비주얼로 변환하여 마케팅 전략을 강화합니다.

AI 패션 모델 AI Photo & Image Generator

Trupeer

96.4K

AI 기반 플랫폼으로 제품 마케팅을 혁신하세요. 스크린 녹화를 매력적인 제품 비디오와 포괄적인 문서로 변환합니다. 콘텐츠 생성 과정을 간소화하고 관객 참여를 이전과는 다르게 향상시켜 보세요.

AI 기반 Other

Kink AI

80.7K

환상 탐험과 몰입형 롤플레잉 채팅을 위한 역동적인 플랫폼을 만나보세요. 모험의 여정을 시작하고, 복잡한 캐릭터를 만들며, 스릴 넘치는 이야기 속으로 참여하는 활기찬 커뮤니티와 소통해 보세요. 경험이 풍부한 롤플레이라면 물론, 처음 접하는 분들도 우리 플랫폼이 제공하는 도구와 자원을 통해 상상 속 환상 세계에서의 경험을 향상시킬 수 있습니다. 오늘 저희와 함께하고 창의력을 발휘해 보세요!

판타지 채팅 AI Character

AI Photo Forge

147.9K

AI 기반의 변환으로 사진을 한층 높여보세요! 인공지능이 어떻게 여러분의 이미지를 더욱 생동감 있고 매력적으로 만들 수 있는지 알아보세요. 오늘 바로 사진의 잠재력을 열어보세요!

텔레그램 봇 AI Photo Enhancer

Find AI tools in YBX