Последний отчет прозрачности Xbox раскрывает информацию о внедрении ИИ для повышения безопасности игроков.

Четвёртый отчет о прозрачности Xbox: Повышение безопасности игроков и борьба с токсичностью

Xbox опубликовал свой четвёртый отчет о прозрачности, в котором изложены обязательства компании по обеспечению безопасности игроков и стратегиям борьбы с токсичным поведением в играх. Ключевым элементом этого усилия является инвестиция компании в «ответственное использование ИИ» для улучшения обнаружения вредоносного поведения. В отчете подчеркивается эффективность новейших инструментов безопасности, включая функцию голосовой отчетности, которая наделяет сообщество полномочиями.

Среди первых инвестиций Xbox в ИИ — автоматическая маркировка и сопоставление изображений. Автоматическая маркировка выявляет слова и фразы, которые могут быть опасными, помогая модераторам эффективно справляться с ложными жалобами. Сопоставление изображений использует базы данных и современные методы для обнаружения вредоносных изображений, что позволяет быстрее удалять неподобающий контент.

В отчете также представлены метрики, иллюстрирующие успех этих инструментов безопасности. Например, функция голосовой отчетности зафиксировала 138 000 голосовых обращений. Примечательно, что 98% игроков, получивших Страйк за нарушение, не повторили своего поведения и не получили дополнительных наказаний. Кроме того, с момента запуска системы Страйков в августе 2023 года 88% игроков, получивших страйк, больше не нарушали правила. Большинство нарушений были связаны с читерством или использованием неаутентичных аккаунтов.

В будущем Xbox продолжает развивать инструменты безопасности, включая Семейный набор, который предоставляет советы родителям о том, как использовать функции безопасности и семейные опции Xbox. Компания также приглашает игроков давать отзывы посредством Глобального онлайн-опроса по безопасности и представила урок по безопасности для детей под названием CyberSafe: Good Game в Minecraft Education.