GamesBeat Summit 2024: Aproveitando a IA para Aumentar a Segurança dos Jogadores nos Games

No recente GamesBeat Summit, a discussão sobre o papel da IA nos jogos teve destaque especial na fala de Will Wright sobre o futuro da IA no desenvolvimento de jogos. Outra conversa importante contou com Kim Kunes, vice-presidente de Gaming Trust & Safety da Microsoft, que compartilhou insights sobre a aplicação da IA na segurança dos jogadores.

Kunes enfatizou que, embora a IA possa aprimorar o suporte para moderadores humanos, nunca substituirá completamente sua função na proteção dos usuários. "A IA pode ajudar a mitigar danos potenciais," explicou, "permitindo que os moderadores se concentrem em questões significativas em vez de se sobrecarregarem com tarefas rotineiras."

Os protocolos de segurança do Xbox atualmente incorporam recursos de moderação proativos e reativos. O mais recente relatório de transparência revela a introdução de ferramentas impulsionadas por IA, como Image Pattern Matching e Auto Labeling, voltadas para identificar e filtrar conteúdo tóxico com base em padrões estabelecidos.

Ao discutir a integração da IA com a supervisão humana, Kunes observou que isso capacita os moderadores a concentrar sua experiência na criação de ambientes mais seguros. "Antes disso, os moderadores gastavam muito tempo analisando conteúdo repetitivo, o que também afetava sua saúde. Agora, a IA cuida das tarefas mundanas e reduz sua exposição a materiais tóxicos," afirmou.

Kunes concluiu firmemente que a presença humana é essencial nas operações de segurança. "Nunca chegaremos ao ponto em que os moderadores humanos sejam obsoletos. A segurança requer um engajamento humano contínuo; não é um processo de ‘configurar e esquecer’. Especialistas em moderação e segurança devem permanecer na linha de frente."