게임비트 서밋 2024: 게임에서 플레이어 안전 강화를 위한 AI 활용

최근 GamesBeat Summit에서 게임 개발에서 AI의 역할에 대한 Will Wright의 논의가 특히 주목받았습니다. 또 다른 주요 대화에서는 Microsoft의 게임 신뢰 및 안전 부문 부사장인 Kim Kunes가 플레이어 안전을 위한 AI의 활용에 대한 통찰을 공유했습니다.

Kunes는 AI가 인간 모더레이터를 지원하는 데 도움을 줄 수 있지만, 그들을 완전히 대체할 수는 없다고 강조했습니다. "AI는 잠재적 피해를 완화하는 데 도움을 줄 수 있어, 모더레이터들이 일상적인 업무에 압도당하지 않고 중요한 문제에 집중할 수 있게 합니다."라고 설명했습니다.

Xbox의 안전 프로토콜은 현재 사전 예방 및 반응적 모더레이션 기능을 통합하고 있습니다. 최신 투명성 보고서에 따르면, 정해진 패턴에 기반하여 유해한 콘텐츠를 식별하고 필터링하는 AI 기반 도구인 이미지 패턴 매칭과 자동 레이블링이 도입되었습니다.

AI와 인간의 감독 통합에 대해 Kunes는 AI가 모더레이터가 더 안전한 환경을 조성하는 데 전문성을 집중할 수 있도록 한다고 언급했습니다. "이전에는 모더레이터가 반복적인 콘텐츠를 선별하는 데 너무 많은 시간을 소모했으며, 이는 그들의 건강에도 영향을 미쳤습니다. 이제 AI가 일상 업무를 처리하고 유해한 콘텐츠에 대한 노출을 줄입니다."라고 강조했습니다.

Kunes는 안전 작업에서 인간의 존재가 필수적이라고 단호히 결론지었습니다. "우리는 인간 모더레이터가 불필요한 단계에 이르는 상황에 결코 도달하지 않을 것입니다. 안전은 지속적인 인간의 참여를 요구합니다. 이는 ‘설정하고 잊기’ 프로세스가 아닙니다. 모더레이션과 안전 분야의 전문가는 항상 최전선에 있어야 합니다."

Most people like

Find AI tools in YBX