O Último Relatório de Transparência da Xbox Revela Insights sobre Implementação de IA para Aumentar a Segurança dos Jogadores

Relatório de Transparência da Xbox: Melhorando a Segurança do Jogador e Combatendo a Toxicidade

A Xbox divulgou seu quarto Relatório de Transparência, destacando seu compromisso com a segurança dos jogadores e as estratégias adotadas para combater a toxicidade nos jogos. Um ponto central deste esforço é o investimento da empresa na "aplicação responsável de IA" para uma detecção aprimorada de comportamentos prejudiciais. O relatório ressalta a eficácia das novas ferramentas de segurança, incluindo um recurso de denúncia por voz que empodera a comunidade.

Entre os primeiros investimentos em IA da Xbox estão o Auto Rotulagem e o Reconhecimento de Padrões de Imagens. O Auto Rotulagem identifica palavras e frases que podem ser prejudiciais, ajudando os moderadores a gerenciar relatórios falsos de forma eficiente. O Reconhecimento de Padrões de Imagens utiliza bancos de dados e técnicas avançadas para detectar imagens nocivas, permitindo a remoção mais rápida de conteúdo inadequado.

O relatório também apresenta métricas que ilustram o sucesso dessas ferramentas de segurança. Por exemplo, a ferramenta de denúncia por voz gerou 138.000 gravações. Notavelmente, 98% dos jogadores denunciados que receberam uma Advertência de Reforço não mostraram comportamento repetido e não enfrentaram novas advertências. Desde o lançamento do sistema de Advertências de Reforço em agosto de 2023, 88% dos jogadores que receberam uma advertência não cometeram outra infração. A maioria das advertências foi relacionada a trapaças ou ao uso de contas inautênticas.

Olhando para o futuro, a Xbox está inovando suas ferramentas de segurança, incluindo o Kit de Ferramentas para Famílias, que orienta os pais sobre como utilizar os recursos de segurança e as funcionalidades voltadas para famílias da Xbox. A empresa também convida os jogadores a fornecer feedback por meio de sua Pesquisa Global de Segurança Online e introduziu uma lição de segurança voltada para crianças, chamada CyberSafe: Good Game, dentro do Minecraft Education.