GamesBeat Summit 2024: Nutzung von KI für verbesserte Spielersicherheit im Gaming

Beim kürzlich stattgefundenen GamesBeat Summit stand die Rolle der KI im Gaming besonders im Fokus, insbesondere durch Will Wrights Diskussion über die Zukunft der KI in der Spielentwicklung. Ein weiterer wichtiger Beitrag kam von Kim Kunes, Vizepräsidentin für Gaming Trust & Safety bei Microsoft, die Einblicke in den Einsatz von KI zur Gewährleistung der Spielersicherheit gab.

Kunes betonte, dass KI zwar die Unterstützung menschlicher Moderatoren verbessern kann, sie diese jedoch niemals vollständig ersetzen wird. „KI kann potenzielle Schäden mindern“, erklärte sie, „und ermöglicht es Moderatoren, sich auf wesentliche Probleme zu konzentrieren, anstatt mit Routineaufgaben überlastet zu werden.“

Die Sicherheitsprotokolle von Xbox integrieren derzeit proaktive und reaktive Moderationsfunktionen. Der jüngste Transparenzbericht zeigt die Einführung KI-gestützter Werkzeuge wie Image Pattern Matching und Auto Labeling, die darauf abzielen, toxische Inhalte basierend auf festgelegten Mustern zu identifizieren und herauszufiltern.

Bei der Diskussion über die Integration von KI mit menschlicher Aufsicht bemerkte Kunes, dass dies Moderatoren ermächtigt, ihr Fachwissen zur Schaffung sichererer Umgebungen zu nutzen. „Zuvor verbrachten Moderatoren zu viel Zeit mit repetitiven Inhalten, was sich auch negativ auf ihre Gesundheit auswirkte. Jetzt übernimmt die KI die Routineaufgaben und reduziert ihre Exposition gegenüber toxischem Material“, so Kunes.

Kunes zog das klare Fazit, dass menschliche Präsenz in Sicherheitsoperationen unerlässlich ist. „Wir werden niemals einen Punkt erreichen, an dem menschliche Moderatoren obsolet sind. Sicherheit erfordert kontinuierliches menschliches Engagement; es ist kein 'stellen und vergessen'-Prozess. Experten für Moderation und Sicherheit müssen an vorderster Front bleiben.“