AI時代には、効果的なゲームモデレーションの重要性がますます高まっています

プレイヤーが生成するコンテンツとコミュニケーションの量は増加し続けており、それに伴いオンラインでの議論もますます活発化しています。最近行われたGamesBeat Nextのパネルディスカッションでは、モデュレートのゲーム業界エバンジェリストであるハンク・ハウイー氏、シェルゲームズのプロダクトマネージメントディレクターであるアレクシス・ミラー氏、アクティブフェンスのソリューション戦略VPであるトマー・ポラン氏が参加しました。彼らは、規模や属性にかかわらず、ゲームコミュニティを効果的にモデレートするためのベストプラクティスについて話しました。行動規範、戦略、テクノロジーなどが議題となりました。

プライバシー、安全性、信頼性の規制が重要視される今、市場のニーズに応える内容です。ポラン氏は、AIの進化が有害なコンテンツの検出だけでなく、生成にも欠かせないと強調しました。このAIの進化は、歴史的にソーシャルメディアに遅れを取っていたゲームのコンテンツモデレーション戦略を更新するために重要です。「子供の安全やユーザーの安全は、ソーシャルメディアよりも前からゲームの基盤でした。しかし、ゲームは今でもコンテンツモデレーションの面で遅れています。」とポラン氏は説明しました。「事前対策への移行が進んでおり、企業はアクティブフェンスやモデュレートなどの先進的なコンテンツモデレーション技術に投資しています。」

数年前は、音声コンテンツのモデレーションはほぼ不可能でした。ハウイー氏によれば、技術が登場した時は高額でしたが、モデュレートの手頃なソリューションによって、開発者はゲーム内の音声コンテンツ全てにアクセスできるようになりました。「私たちが協力した企業は皆、『悪いとは思っていたけど、ここまでひどいとは思わなかった』と言っています。」とハウイー氏は振り返ります。「オンラインでの相互作用からの潜在的な危害は大きいですが、今やそれを軽減するための技術があります。」

モデレーション技術が向上する中、開発者は戦略をカスタマイズできます。ミラー氏は、「異なるゲームにおける様々なオーディエンスを認識することは大きなチャンスです。例えば、私たちのオーディエンスは主に若年層であり、それが FLAG するべき内容に影響を与えます。カジノギャンブルのゲームとは大きく異なります。」と述べました。

安全設計の重要性

「安全設計」のアプローチを実施することで、初めから保護措置を優先し、製品の必須機能を決定し、監視や施行のガイドラインを確立します。「『何が悪くなる可能性があるか』だけでなく、どのように悪用されるかを考えることが重要です。」とポラン氏は述べました。特定のゲームにおけるユニークなリスクを特定することが重要です。

アクティブフェンスは、「安全レビューチーム」を通じて、悪意のある行動をシミュレートし、ゲームを発売前にテストして、悪用可能な機能を特定しています。

行動規範の実施

「コミュニティが特定の行動を容認しないことを理解するだけで、彼らがどれほど早く適応するかに驚かされるでしょう。」とハウイー氏は述べました。ゲームコミュニティをモデレーションに関与させることで、有害なプレイヤーを排除する手助けができます。「私たちのデータによると、毒性を減らすことで新規および復帰プレイヤーの離脱率を15-20%も減少させることができます。」と続けました。「プレイヤーが安全で尊重されていると感じれば、長くプレイしてくれる可能性が高いです。」

ミラー氏は、行動規範は予期しない課題に対応するために進化する必要があると付け加えました。シェルゲームズのチームは、特に若いオーディエンスを考慮し、チートや子供の危険からの保護などのモデレーション問題に取り組む方法を慎重に検討しています。彼らは最初にToxModのようなツールをベータ環境でテストしましたが、現実の条件は予想以上に難しかったと述べました。「私たちのベータコミュニティは、本番のゲーム参加者とはかなり異なる行動を示し、モデレーションポリシーの見直しを余儀なくされました。」とミラー氏は説明しました。「ライブ環境では予期しない厳しい課題がありました。」

ポラン氏は、行動規範を適応させる重要性について同意しました。「コミュニティの問題に適用されない詳細な行動規範を作成することには意味がありません。」と彼は語ります。「ポリシーは、コミュニティのフィードバックやモデレーターの洞察に基づいて、継続的に進化する必要があります。」

「過激化、リクルート、レイシズム、ミソジニーといった課題は相互に結びついています。」とハウイー氏は結論づけました。「これらの問題に効果的に対処するための技術は今あります。すべてのプレイヤーにとってより良い環境をつくる努力を強化するべき時です。」