AI 지원 세계에서 효과적인 게임 관리의 필요성이 그 어느 때보다 중요해졌습니다.

최첨단 모더레이션 도구에도 불구하고, 플레이어가 생성하는 콘텐츠와 커뮤니케이션의 양은 계속해서 증가하며, 온라인 논의는 더욱 뜨거워지고 있습니다. 최근 GamesBeat Next 패널에서는 Modulate의 게임 산업 전도사인 Hank Howie가 Schell Games의 제품 관리 이사 Alexis Miller, ActiveFence의 솔루션 전략 부사장 Tomer Poran과 함께하며 다양한 규모와 인구통계를 가진 게임 커뮤니티의 모더레이션 최선 사례를 논의했습니다. 이들은 행동 강령, 전략, 기술 등을 폭넓게 다루었습니다.

최근 프라이버시, 안전 및 신뢰 규제가 중요해짐에 따라 이 논의는 더욱 시의적절합니다. Poran은 AI의 발전이 유해 콘텐츠를 탐지하는 데만 그치지 않고, 이를 생성하는 데도 필수적이라고 강조했습니다. AI의 이러한 진화는 역사적으로 소셜 미디어에 비해 뒤처졌던 게임 콘텐츠 모더레이션 전략을 업데이트하는 데 중요합니다.

“아동 안전과 사용자 안전은 게임의 기초가 되며, 소셜 미디어보다 먼저 시작되었습니다. 그러나 게임은 콘텐츠 모더레이션에서 여전히 소셜 미디어를 따라잡고 있습니다,”라고 Poran은 설명했습니다. “우리는 사전 예방적 접근 방식으로의 전환을 목격하고 있으며, 기업들이 ActiveFence와 Modulate와 같은 고급 콘텐츠 모더레이션 기술에 투자하고 있습니다.”

불과 몇 년 전만 해도 음성 콘텐츠를 모더레이션하는 것은 거의 불가능했습니다. Howie는 기술이 마침내 등장했을 때 막대한 비용이 들었다고 언급했습니다. 하지만 Modulate가 저렴한 솔루션을 제공함에 따라 개발자들은 자신의 게임 내 모든 음성 콘텐츠에 접근할 수 있게 되었습니다.

“우리가 협력한 모든 기업에서 ‘상황이 안 좋다는 것은 알았지만, 이 정도인 줄은 몰랐다’고 말하곤 했습니다,”라고 Howie는 회상했습니다. “온라인 상호작용에서 발생할 수 있는 잠재적 피해는 상당하지만, 이제 이를 완화할 수 있는 기술이 있습니다.”

모더레이션 기술이 향상됨에 따라 개발자들은 자신만의 전략을 맞춤화할 수 있습니다. Miller는 “다양한 게임에 걸쳐 다양한 청중을 인식하는 것은 큰 기회를 제공합니다. 예를 들어, 우리의 청중은 주로 젊은 층이라 이를 반영하여 경고해야 할 내용이 다릅니다. 이는 카지노 도박 게임과는 많이 다릅니다.”라고 언급했습니다.

안전한 디자인

"안전한 디자인" 접근 방식을 구현하면 보호 조치를 최우선으로 하여 필수 제품 기능을 결정하고 모니터링 및 집행 지침을 설정합니다.

“단순히 무엇이 잘못될 수 있는지를 묻는 것을 넘어, 해를 끼치려는 사람이 이 기능을 어떻게 악용할 수 있을지를 고려해야 합니다,”라고 Poran은 말했습니다. “특정 게임에 대한 고유한 위험을 식별하는 것이 중요합니다.”

ActiveFence는 “안전 레드 팀”을 통해 안전한 디자인에 기여하며, 나쁜 행위자의 행동을 시뮬레이션하여 출시 전 게임을 테스트하고 잠재적으로 악용될 수 있는 기능을 식별합니다.

행동 강령 구현

“커뮤니티가 특정 행동이 용납되지 않음을 이해하면, 그들이 얼마나 빨리 적응하는지 놀랄 것입니다,”라고 Howie는 말했습니다. 게임 커뮤니티를 모더레이션에 참여시키면 유해한 플레이어를 제거하는 데 도움이 됩니다.

“우리 데이터에 따르면, 독성을 줄이면 신규 및 재방문 플레이어의 이탈률을 15-20% 감소시킬 수 있습니다,”라고 그는 덧붙였습니다. “플레이어가 안전하고 존중받고 있다고 느끼면, 더 오래 머무르고 더 많이 플레이하며, 더 많은 소비를 하게 됩니다.”

Miller는 행동 강령이 예상치 못한 도전에 대응하기 위해 시간이 지남에 따라 진화해야 한다고 추가했습니다. Schell Games 팀은 게임 커뮤니티의 어린 청중을 고려하며 부정행위 및 아동 위험 문제를 해결하기 위해 모더레이션 이슈를 신중하게 다룹니다. 그들은 처음에 ToxMod와 같은 도구를 베타 환경에서 테스트했지만, 실제 조건이 더 어려웠습니다.

“우리의 베타 커뮤니티는 라이브 게임 참가자들과 상당히 다르게 행동하여 모더레이션 정책을 수정해야 했습니다,”라고 Miller는 설명했습니다. “우리는 라이브 환경이 예상보다 더 큰 도전 과제를 제시한다는 것을 배웠습니다.”

Poran은 행동 강령의 적응 중요성을 강조했습니다. “커뮤니티 문제에 적용되지 않는 방대한 행동 강령을 만드는 데는 아무 의미가 없습니다,”라고 그는 말했습니다. “정책은 커뮤니티 피드백과 모더레이터로부터의 통찰을 바탕으로 지속적으로 진화해야 합니다.”

“급진화, 모집, 인종차별, 여성혐오와 같은 문제들은 서로 연결되어 있습니다,”라고 Howie는 결론지었습니다. “우리는 이러한 문제를 효과적으로 해결할 수 있는 기술을 보유하고 있습니다. 이제 모든 플레이어를 위한 더 나은 환경을 조성하기 위한 노력을 강화할 때입니다.”