바이든 행정부, 오픈 웨이트 AI 모델 모니터링 제안: 미래 AI 규제에 미치는 의미

Home AI 뉴스 바이든 행정부, 오픈 웨이트 AI 모델 모니터링 제안: 미래 AI 규제에 미치는 의미

바이든 행정부는 향후 규제를 위한 중요한 정보를 수집하기 위해 오픈 가중치 모델에 대한 모니터링을 추진하고 있습니다. 그러나 이 모델들에 대한 구체적인 규제 조치는 아직 명확히 제시되지 않았습니다.

최근 보고서에서 국가통신정보관리청(NTIA)은 공공 AI 모델이 기존 시스템을 방해할 수 있는 위험을 평가해야 한다고 강조했습니다. 이러한 평가는 잠재적인 재앙을 방지하는 데 필수적입니다.

모니터링의 중요성을 인식하면서도 NTIA는 미국이 현재 기초 모델과 관련된 여러 위험을 효과적으로 해결할 수 있는 능력이 부족함을 인정했습니다. 이 격차를 해소하기 위해 NTIA는 세 가지 주요 분야에 집중할 것을 제안했습니다: 위험 모니터링을 위한 모델 능력에 대한 증거 수집, 위험 지표 평가 및 비교, 위험 완화를 위한 맞춤형 정책 개발입니다.

NTIA는 오픈 가중치 모델을 사용자들이 다운로드할 수 있는 공개 가중치 또는 파라미터를 가진 기초 모델로 정의하고 있습니다. 이들은 복제할 수 있도록 운영되는 오픈 소스 모델과는 다릅니다. NTIA는 “한계 위험을 고려함으로써, 유사 시스템과의 이익과 위험을 비교할 때 널리 사용 가능한 가중치를 가진 이중 사용 기초 모델에 불필요하게 엄격한 제한을 두지 않도록 할 수 있다”고 밝혔습니다.

또한 NTIA는 오픈 모델과 폐쇄 모델 모두 위험을 관리해야 한다고 인정했습니다. 그러나 오픈 모델은 위험 감소에 있어 독특한 기회와 도전을 제공할 수 있습니다.

바이든 행정부가 오픈 모델에 중점을 두고 있다는 것은 EU의 AI 법안과 유사한 규제 접근 방식을 시사합니다. 이 법안은 모델 자체가 아니라 사용 사례와 관련된 위험에 따라 AI를 규제합니다. 예를 들어, 얼굴 인식에 AI를 사용하는 기업에 대한 중대한 처벌이 설정되었습니다. EU의 접근 방식을 감안할 때, 미국은 공공 AI 모델의 잠재적 위험을 다루기 위해 유사한 조치를 고려할 가능성이 큽니다.

민주주의기술센터의 AI 거버넌스 수석 고문인 케빈 뱅크스턴은 NTIA의 AI 모델 규제 접근 방식에 대해 긍정적으로 평가했습니다. 그는 이메일에서 “NTIA는 오픈 기초 모델에서 새로운 위험이 발견될 충분한 증거가 부족하다고 올바르게 결론지었다”며 새로운 배급 제한을 정당화하지 못한다고 말했습니다.

현재 AI 모델 개발자들은 NTIA가 포괄적인 사실 조사 작업을 진행 중이므로 과도한 걱정을 할 필요는 없습니다. AI 회사 아콴트의 공동 창립자인 아사프 멜로흐나는 이메일에서 NTIA의 현재 관찰이 모델 개발자들에게 큰 변화를 가져오지 않는다고 언급했습니다. "개발자들은 자신의 재량에 따라 모델 가중치를 계속 공개할 수 있지만, 더 많은 감사를 받게 될 것"이라고 멜로흐나는 설명했습니다. "이 분야는 빠르게 발전하고 있으므로 연방 기관은 새로운 발견에 따라 적응할 필요가 있습니다."

신노시스 창립자 아르트 드 구스, 반도체 산업의 권위있는 평생 공로상 수상

런웨이, Gen-3 Alpha Turbo 공개: 더 빠르고 저렴한 AI 비디오 모델

Most people like

Jarvis

122.7K

AI 코파일럿으로 생산성 향상하기 AI 코파일럿이 어떻게 작업 흐름을 혁신하고 효율성을 극대화할 수 있는지 알아보세요. 이 강력한 도구는 작업을 간소화하여 더 적은 시간 안에 더 많은 성과를 이루고, 협업과 창의성을 증진시킵니다. 생산성의 미래를 받아들이고 AI 코파일럿과 함께 여러분의 잠재력을 최대한 활용해보세요!

AI 코파일럿 AI Chatbot

Orb Plugins

31K

오늘날 급변하는 음악 산업에서 AI 도구들은 작곡가와 프로듀서들이 창작, 협업 및 혁신하는 방식을 변화시키고 있습니다. 이러한 첨단 기술은 아티스트들이 창의적인 과정을 향상하고, 제작 작업 흐름을 간소화하며, 새로운 음악적 가능성을 탐구할 수 있도록 돕습니다. AI를 활용함으로써 뮤지션들은 영감을 발견하고, 독특한 사운드를 생성하며, 프로젝트를 그 어느 때보다 최적화할 수 있습니다. 이 가이드는 음악 전문가를 위한 최고의 AI 도구를 소개하고, 어떻게 이 도구들이 여러분의 작곡 및 제작 작업을 새로운 차원으로 끌어올릴 수 있는지를 탐구합니다.

AI 음악 작곡 Other

SymphonyAI

74.9K

오늘날 빠르게 변화하는 디지털 환경에서 기업들은 운영 효율성을 높이고 혁신을 촉진하기 위해 AI 기반 SaaS(Software as a Service) 플랫폼을 점점 더 많이 활용하고 있습니다. 이러한 플랫폼은 최첨단 인공지능 기술을 활용하여 프로세스를 간소화하고 의사 결정을 개선하며 고객에게 맞춤형 경험을 제공합니다. AI SaaS 솔루션을 통합함으로써 조직은 새로운 수준의 생산성과 경쟁력을 발휘할 수 있으며, 이는 현대 비즈니스 환경에서 성공을 위한 필수 도구가 됩니다. 오늘 AI SaaS가 귀사의 비즈니스 운영을 혁신할 수 있는 방법을 알아보세요.

AI SaaS AI Analytics Assistant

Pitch N Hire

99.8K

Pitch N Hire는 최첨단 도구와 기능을 통해 채용 프로세스를 최적화하도록 설계된 혁신적인 AI 기반 소프트웨어입니다. Pitch N Hire의 지능형 자동화는 채용을 단순화하고 후보자 평가를 향상시키며, 고용주를 위한 전반적인 효율성을 높여줍니다.

지원자 추적 시스템 AI Recruiting

Find AI tools in YBX