GamesBeat Summit 2024: Aprovechando la IA para Mejorar la Seguridad de los Jugadores en el Gaming

En la reciente cumbre de GamesBeat, el papel de la inteligencia artificial en los videojuegos fue especialmente destacado por la charla de Will Wright sobre el futuro de la IA en el desarrollo de juegos. Otra conversación clave contó con la participación de Kim Kunes, vicepresidenta de Gaming Trust & Safety de Microsoft, quien compartió perspectivas sobre la aplicación de la IA en la seguridad de los jugadores.

Kunes enfatizó que, aunque la IA puede mejorar el apoyo a los moderadores humanos, nunca los reemplazará por completo en la protección de los usuarios. "La IA puede ayudar a mitigar posibles daños," explicó, “permitiendo que los moderadores se concentren en cuestiones significativas, en lugar de verse abrumados por tareas rutinarias”.

Los protocolos de seguridad de Xbox actualmente incorporan características de moderación proactivas y reactivas. El último informe de transparencia revela la introducción de herramientas impulsadas por IA, como el reconocimiento de patrones de imágenes y el etiquetado automático, destinadas a identificar y filtrar contenido tóxico basado en patrones establecidos.

Al hablar sobre la integración de la IA con la supervisión humana, Kunes señaló que esto empodera a los moderadores para que enfoquen su experiencia en crear entornos más seguros. "Antes, los moderadores pasaban demasiado tiempo revisando contenido repetitivo, lo que también afectaba su salud. Ahora, la IA se encarga de las tareas mundanas y reduce su exposición a material tóxico," afirmó.

Kunes concluyó con firmeza que la presencia humana es esencial en las operaciones de seguridad. "Nunca llegaremos a un punto en el que los moderadores humanos sean obsoletos. La seguridad requiere un compromiso humano continuo; no es un proceso de ‘configurar y olvidar’. Los expertos en moderación y seguridad deben permanecer en la vanguardia.”