GamesBeat Summit 2024: Использование ИИ для повышения безопасности игроков в играх

На недавнем саммите GamesBeat особое внимание было уделено роли ИИ в игровой индустрии, в частности, обсуждению Уилла Райта о будущем ИИ в разработке игр. Еще одной важной темой стала беседа с Ким Кунес, вице-президентом Microsoft по безопасности и доверию в игре, которая поделилась своими взглядами на применение ИИ для обеспечения безопасности игроков.

Кунес подчеркнула, что хотя ИИ может улучшить поддержку человеческих модераторов, он никогда полностью не заменит их в защите пользователей. "ИИ может помочь снизить потенциальный ущерб," - объяснила она, "что позволяет модераторам сосредоточиться на значительных проблемах, а не перегружаться рутинными задачами."

Протоколы безопасности Xbox уже включают проактивные и реактивные функции модерации. Последний отчет о прозрачности раскрывает внедрение инструментов на основе ИИ, таких как распознавание изображений и авторазметка, направленных на идентификацию и фильтрацию токсичного контента на основе установленных шаблонов.

Говоря о сочетании ИИ и человеческого контроля, Кунес отметила, что это дает возможность модераторам сосредоточиться на создании более безопасной среды. "Ранее модераторы тратили слишком много времени на обработку повторяющегося контента, что также негативно сказывалось на их здоровье. Теперь ИИ справляется с рутинными задачами и сокращает их контакт с токсичным материалом," - сказала она.

Кунес уверенно заключила, что человеческое присутствие необходимо в операциях по обеспечению безопасности. "Мы никогда не достигнем момента, когда человеческие модераторы станут ненужными. Безопасность требует постоянного участия человека; это не процесс «установил и забыл». Эксперты в области модерации и безопасности должны оставаться на переднем плане."