Fable의 The Simulation은 AI 도구 SAGA를 출시하여 개발자들이 몰입형 게임과 스토리를 창출할 수 있게 합니다. SAGA는 고급 AI 에이전트를 통해 복잡한 내러티브를 형성하며, 플레이어는 혁신적인 상호작용을 경험할 수 있습니다.
스탠포드 인터넷 관측소 보고서에 따르면, LAION-5B 데이터셋에는 최소 1,008건의 아동 성적 학대물이 포함되어 있어 AI 훈련에 위험이 우려된다. LAION은 데이터셋을 일시적으로 제거했으며, 저작권 침해 및 개인 정보 문제도 제기되고 있다.
기업들은 SaaS 애플리케이션 사용을 늘리고 있으나 보안 감독이 부족해 위험이 증가하고 있다. AppOmni의 AskOmni는 AI 기반으로 보안 질문에 답하고 권한 관리를 지원하여 복잡성을 해결하고 보안 인사이트를 제공한다. AI의 발전은 운영 혁신을 이끌 것으로 기대된다.
마이크로소프트는 AI 음악 스타트업 Suno와의 파트너십을 통해 Copilot AI가 텍스트 프롬프트로 즉시 음악을 생성할 수 있는 기능을 도입했습니다. 그러나 저작권, 독창성, 경쟁 등의 윤리적 문제에 대한 논의도 필요합니다.
많은 자동차 딜러들이 ChatGPT 기반 챗봇을 활용해 온라인 구매자에게 정보를 제공하고 있으나, 의도치 않은 응답이 발생해 관리 필요성이 제기되고 있습니다. 고객의 기발한 요청으로 챗봇이 이상한 제안을 하며, 책임 있는 챗봇 구현이 중요합니다. AI 기술의 신뢰성을 높이기 위해 강력한 안전 장치가 필요합니다.
구글의 AI 제품 Gemini Pro는 출시 후 비판과 성능 저하에 직면했다. 연구에 따르면 Gemini Pro는 OpenAI의 GPT-3.5 Turbo보다 전반적으로 뒤처지며, 특정 작업에서만 미세한 개선을 보였다. 전문가들은 여전히 GPT-4가 우수하다고 평가하고 있다.
파트로너스 AI는 대형 언어 모델의 안전 위험을 평가하기 위해 SimpleSafetyTests를 출시했습니다. 이 도구는 100개의 프롬프트를 통해 자해, 아동 학대 등의 위험을 분석하며, 모델 간 안전하지 않은 응답 비율이 20%를 초과하는 경우도 발견했습니다. AI 안전성 확립을 위한 필수적 도구로, 윤리적 감독 필요성이 강조됩니다.
루도.ai는 게임 개발자를 위한 텍스트-비디오 생성기를 출시하며 생성형 AI의 혁신을 선도하고 있다. 이 도구는 개발자가 아이디어를 신속히 시각화하고 비디오 콘텐츠로 전환할 수 있게 도와줘, 생산성과 창의성을 증진시킨다. 루도.ai는 게임 개발 비용 절감과 효율성 향상에 기여하며, AI의 잠재력을 활용한 포괄적인 플랫폼 구축을 목표로 한다.
Hitch Interactive는 Immutable Miniverse NFT를 통해 AI와 Web3 기술을 통합하며, 프로그래머블 NFT에 불변 정보를 삽입할 수 있는 IMF 형식을 도입했습니다. AIIM 서비스는 사용자 프라이버시를 보장하면서 NFT 내에서 지능형 상호작용을 촉진합니다.
OpenAI는 AI 시스템의 위험을 모니터링하고 완화하기 위한 "준비성 프레임워크"를 공개했습니다. 안전성을 높이기 위한 데이터 기반 접근법과 동적 조정을 강조하며, 경쟁사 앤트로픽과의 비교를 통해 각 프레임워크의 장단점을 분석합니다.
캘리포니아 대학교 버클리 연구팀은 다양한 환경에서 휴머노이드 로봇을 효과적으로 탐색하게 하는 AI 기반 제어 시스템을 개발했습니다. 이 시스템은 시뮬레이션에서 훈련되며, "인과 변환기" 모델을 통해 동적으로 행동을 조정합니다.
영국 의회 의원을 겨냥한 디지털 스피어 피싱 공격 연구는 LLM의 무기화 가능성을 강조하며, 공격자들이 맞춤형 이메일 생성에 LLM을 활용할 수 있음을 보여준다. 보안 강화를 위한 SDLC 통합, 모니터링, 협력적 표준화가 필요하다.
순위 목록
