Несмотря на наличие продвинутых инструментов модерации, объем контента и коммуникации, создаваемого игроками, продолжает расти, что приводит к все более напряженным обсуждениям в сети. На недавней панели GamesBeat Next Хэнк Хоуи, евангелист игровой индустрии компании Modulate, вместе с Алексис Миллер, директором по управлению продуктами в Schell Games, и Томером Пораном, вице-президентом по стратегическим решениям в ActiveFence, обсудили лучшие практики модерации игровых сообществ различного размера и демографии. Они затрагивали коды поведения, стратегии, технологии и многое другое.
Эта дискуссия особенно актуальна в свете возрастающих требований к конфиденциальности, безопасности и доверию. Порана подчеркнул, что растущие возможности ИИ важны не только для обнаружения вредоносного контента, но и для его создания. Эта эволюция в ИИ критична для обновления стратегий модерации контента в играх, которые исторически отставали от социальных сетей.
«Безопасность детей и пользователей — основа игровой индустрии, даже предшествующая социальным сетям. Тем не менее, игры все еще догоняют соцсети в модерации контента», — объяснил Порана. «Мы наблюдаем сдвиг к проактивным подходам, и компании инвестируют в передовые технологии модерации контента, такие как решения от ActiveFence и Modulate».
Всего несколько лет назад модерация голосового контента была практически невозможна, отметил Хоуи. Когда технология, наконец, стала доступна, она была слишком дорогой. Однако с появлением доступных решений от Modulate разработчики получили возможность контролировать весь устный контент в своих играх.
«Каждая компания, с которой мы работали, говорила: «Я знал, что ситуация плохая, но не думал, что она настолько плоха», — вспоминает Хоуи. «Потенциальный вред от онлайн-взаимодействий значителен, но теперь у нас есть технологии, которые помогают его свести к минимуму».
С улучшением технологий модерации разработчики могут настраивать свои стратегии. Миллер отметила: «Признание разнообразия аудиторий в разных играх открывает большие возможности. Например, наша аудитория в основном молодая, что влияет на то, что следует помечать — это совсем другое по сравнению с казино».
Безопасность по дизайну
Применение подхода «безопасность по дизайну» подразумевает приоритет защитных мер с самого начала, определяя ключевые функции продукта и устанавливая параметры мониторинга и контроля.
«Это связано не только с вопросом, что может пойти не так, но и как кто-то, стремящийся причинить вред, может воспользоваться этой функцией?» — сказал Порана. «Идентификация уникальных рисков для наших игр имеет решающее значение».
ActiveFence вносит вклад в безопасность по дизайну через «тестирование на красные угрозы», где они симулируют поведение плохих актеров для тестирования игр перед запуском и выявления потенциально уязвимых функций.
Внедрение кодов поведения
«Как только ваше сообщество понимает, что некоторые поведения неприемлемы, вы будете поражены тем, как быстро они адаптируются», — заявил Хоуи. Взаимодействие с игровым сообществом в процессе модерации помогает избавиться от токсичных игроков.
«Наши данные показывают, что снижение токсичности может сократить текучесть на 15-20% как для новых, так и для возвращающихся игроков», — отметил он. «Когда игроки чувствуют себя в безопасности и с уважением, они с большей вероятностью останутся, будут играть дольше и тратить больше».
Миллер добавила, что коды поведения должны со временем развиваться, чтобы справляться с непредвиденными проблемами. Команда Schell Games тщательно рассматривает, как решать вопросы модерации, такие как мошенничество и угроза детям, особенно учитывая их молодую аудиторию. Они сначала испытали инструменты вроде ToxMod в бета-режиме, но обнаружили, что реальные условия оказались более сложными.
«Наше бета-сообщество вело себя совершенно иначе, чем участники в живой игре, что побудило нас пересмотреть наши политики модерации», — объяснила Миллер. «Мы узнали, что живая среда представляет неожиданные проблемы, которые были хуже, чем мы ожидали».
Порана подчеркивает важность адаптации кодов поведения. «Нет смысла разрабатывать обширный код поведения, если он не решает проблемы вашего сообщества», — сказал он. «Политика должна постоянно эволюционировать на основе отзывов сообщества и инсайтов модераторов, которые выявляют актуальные проблемы».
«Такие вызовы, как радикализация, вербовка, расизм и мизогиния взаимосвязаны», — заключил Хоуи. «У нас есть технологии для эффективного решения этих вопросов. Сейчас самое время усилить наши усилия по созданию лучшей среды для всех игроков».
Рейтинг
