Rec Room如何成功将玩家语音聊天中的有毒言论降低70%

在社交游戏平台Rec Room，信任与安全团队在过去18个月中显著减少了游戏内的毒性行为。在本期VB聚焦中，我们将探讨他们所采用的指标、工具和策略，这些措施改善了玩家的快乐感和参与度，彻底改变了游戏体验。

提升玩家体验和安全性应是游戏开发者的首要任务。在最近的VB聚焦中，Modulate的客户管理总监Mark Frumkin和Rec Room的信任与安全负责人Yasmin Hussain讨论了保护玩家免受毒性行为影响的有效策略。他们分享了Rec Room与ToxMod合作的经验，这是一种基于机器学习的语音聊天管理解决方案。

自2016年推出以来，Rec Room累计用户已超过1亿。玩家通过文本和语音聊天，在PC、移动设备、VR头显和游戏主机等多个平台上进行实时互动，同时使用可自定义的虚拟角色。

Hussain提到：“Rec Room旨在创造一个充满我们和玩家共同创作的无数世界和房间的空间。信任与安全对这一愿景至关重要。”

然而，实时语音互动不可避免地吸引了一些行为不当的玩家。开发者该如何改变这些不遵守社区标准的人的行为呢？

据Hussain介绍，过去一年中，Rec Room成功将毒性语音聊天的发生率降低了约70%，尽管这一成果并非一朝一夕之功。

逐步应对毒性行为

起初，团队在所有公共房间实施了持续的语音管理，为玩家的行为设定了明确的期望。接下来，他们专注于确定应对不当行为的最佳措施，进行了多项测试，尝试不同时长的禁言和封禁，以及两种警告类型：严格警告和积极强化。

研究发现，及时检测和一小时的禁言显著减少了不当行为。这种即时反馈向玩家明示了毒性行为不可容忍，减少了违规行为的发生，同时保持了玩家的参与感。

虽然这种方法并未完全消除毒性行为，但成效显著。团队发现，少数玩家造成了大部分违规行为。如何有效应对这一小群体？

Hussain解释说：“我们发现少数玩家与大量违规行为之间存在明显关联，这促使我们设计了进一步的实验。通过调整我们的干预措施，例如首次禁言或警告后再进行后续禁言，我们旨在创造一个累积效果，引导玩家学习。这个策略展现了良好的效果。”

信任与安全中的实验实施

Frumkin强调，追踪特定指标以优化管理策略至关重要。关键数据点包括玩家的言论、违规频率和重复违规者的特征。

建立明确的假设至关重要。Hussain指出：“假设是关键。当我们测试不同的干预措施以减少违规行为时，这与我们改变特定玩家行为的努力是不同的。”

迭代对于学习和优化策略是必不可少的，但实验必须足够长，以便收集有意义的数据并影响玩家行为。

Hussain补充道：“我们希望玩家遵循社区标准，成为积极贡献者。这通常需要放弃长期形成的行为。通常需要三到六周的时间让玩家适应这种新常态。”

不过，依然面临挑战。某一领域的进展可能导致新问题的出现，因此需要持续调整管理技术。尽管实时语音管理复杂，Rec Room团队对其干预措施的准确性以及玩家逐渐增强的安全感充满信心。

Hussain表示：“我们在减少违规行为方面取得了显著进展，约90%的玩家表示在Rec Room中感到安全和受欢迎。确保公正的执行和玩家目睹这些变化同样重要，以强化我们的社区标准。”

AI驱动的语音管理的未来

为了打造一个更安全、更愉快的环境，ToxMod不断分析与政策违规和玩家互动相关的数据。管理策略必须演变，不仅需要阻止毒性行为，还要促进提升玩家体验的积极行为。

Frumkin提到：“我们正在开发识别积极社交行为的能力。识别支持他人或善于缓解紧张局势的玩家，能够让我们在社区中突出这些榜样。放大积极影响能极大提升环境氛围。”

实时语音管理，尤其是音频方面，面临着相当大的挑战。然而，AI驱动的工具正在革新管理策略，扩展开发团队的能力。

Hussain评论道：“这一进步使我们能够提升目标。从前看来不可能的事情现在变为可能。我们在机器学习技术的效率和有效性方面看到显著改善，这为优先考虑社区安全提供了新机会。”