Rec Roomの信頼と安全チームは、人気のあるソーシャルゲームプラットフォームにおいて、過去18ヶ月間でトキシシティ（有害行動）を大幅に削減するという驚くべき成果を上げました。このVB Spotlightでは、プレイヤーの幸福感向上、エンゲージメントの促進、ゲーム体験の変革に寄与した指標、ツール、戦略について探ります。
ゲーム開発者にとって、プレイヤーの体験と安全性の向上は最重要課題です。最近のVB Spotlightでは、Modulateのアカウントマネージメントディレクターであるマーク・フラムキン氏と、Rec Roomの信頼と安全の責任者であるヤスミン・フセイン氏が、プレイヤーをトキシシティから守るための効果的な戦略について議論しました。彼らは、Rec RoomがToxModという機械学習を活用したボイスチャットのモデレーションソリューションと連携していることを共有しました。
2016年にサービスを開始したRec Roomは、1億人以上のユーザーを誇ります。プレイヤーは、PC、モバイル、VRヘッドセット、コンソールなどのさまざまなプラットフォームでカスタマイズ可能なアバターを使いながら、テキストとボイスチャットを通じてリアルタイムで交流しています。
フセイン氏は「Rec Roomは、私たちだけでなくプレイヤーによっても作られた無数の世界と部屋で満たされた空間を目指して設計されました。信頼と安全はそのビジョンに欠かせません」と述べました。
しかし、リアルタイムの音声交流では、不適切な行動をとるプレイヤーも避けられません。開発者は、コミュニティスタンダードを守らないプレイヤーの行動をどう変えることができるのでしょうか？
フセイン氏によると、Rec Roomは過去1年間でトキシシティの発生を約70%削減することに成功しましたが、この進展は一朝一夕には達成されませんでした。
トキシシティへの段階的アプローチ
最初のステップは、全ての公共ルームにおける継続的な音声モデレーションの実施でした。これによりプレイヤーの行動に対する明確な期待が設定されました。次に、チームは不適切行動に対して最も効果的な対応策を見つけることに集中しました。彼らは、ミュートやバンの長さ、または厳格な警告とポジティブリインフォースメントを提供する警告の二種類のテストを行いました。
実験の結果、即時の検出と1時間のミュートが悪行を著しく減少させることが分かりました。この即時フィードバックは、プレイヤーに対してトキシシティが許容されないことを強く印象付け、即時の違反を減少させつつプレイヤーのエンゲージメントを維持しました。
このアプローチはトキシシティを完全に排除するものではありませんでしたが、顕著な進展をもたらしました。調査の結果、少数のプレイヤーが大多数の違反に関与していることが明らかになりました。このグループにどのように効果的に対処すれば良いのでしょう？
フセイン氏は「特定のプレイヤーが多数の違反を引き起こしている明確な関連性がありました。これがさらなる実験を設計するきっかけとなりました」と説明しました。「最初のミュートや警告を行い、その後のミュートを続けることで、学びを促進する累積的な効果を創出することを目指しています。この戦略からは有望な結果が得られています。」
信頼と安全の実験を実施
フラムキン氏は、モデレーション戦略を洗練するために特定の指標を追跡することの重要性を強調しました。主要なデータポイントには、プレイヤーが発言している内容、違反の頻度、リピートオフェンダーのプロフィールが含まれます。
事前に明確な仮説を立てることが重要です。「仮説が鍵です」とフセイン氏は述べました。「違反を減らすための異なる介入を試す際、それは特定のプレイヤー行動を変えるための試みとは異なります。」
戦略の学習と洗練には反復が重要ですが、実験は意味のあるデータを収集し、プレイヤーの行動に影響を与えるために十分な期間実施されなければなりません。
フセイン氏は「プレイヤーにはコミュニティスタンダードを守り、ポジティブな貢献者となることを望んでいます。それには、時間をかけて発展した行動の解除が必要です。通常、プレイヤーが新しい通常に適応するには3〜6週間がかかります」と付け加えました。
それでも、課題は残ります。一つの領域で進展があると、新たな問題が生じることがあり、モデレーション技術の継続的な調整が求められます。リアルタイム音声モデレーションは複雑ですが、Rec Roomチームは自分たちの介入とプレイヤーの安全感向上に自信を持っています。
フセイン氏は「違反を大幅に減らし、約90%のプレイヤーがRec Roomで安全で歓迎されていると感じています。公正が実行されるだけでなく、プレイヤーがこの変化を目にすることでコミュニティスタンダードが守られていることを確認することが不可欠です」と述べました。
AIによる音声モデレーションの未来
Rec Roomをより安全で楽しい環境にするために、ToxModはポリシー違反やプレイヤーのインタラクションに関連するデータを継続的に分析しています。モデレーションは、トキシシティ行動を抑制するだけでなく、プレイヤー体験を向上させる行動を促進するよう進化する必要があります。
フラムキン氏は「プロソーシャル行動を特定するための能力を開発しています。サポートを提供したり、緊張感のある状況を和らげるのが得意なプレイヤーを認識することで、コミュニティ内のロールモデルをハイライトできます。ポジティブな影響を強調することは、環境を大きく向上させる可能性があります」と話しました。
音声モデレーション、特にリアルタイムオーディオには considerable な課題が存在します。しかし、AIを活用したツールはモデレーション戦略を革新し、開発チームの能力を拡大しています。
フセイン氏は「この進展により、私たちは目標を高く設定できるようになりました。昨日まで不可能に思えたことが、今は達成可能です」と述べました。「機械学習技術の効率性と有効性が大きく向上しており、コミュニティの安全性を優先する新たな機会が生まれています。」
ランキング
