在人工智能时代，游戏管理的有效性需求空前高涨

Home AI News CN 在人工智能时代，游戏管理的有效性需求空前高涨

Updated on 十一月 6 2023

即使在先进的内容审查工具的帮助下，玩家生成的内容和交流量依然在持续增长，导致在线讨论愈发激烈。在最近的 GamesBeat Next 讨论会上，Modulate 的游戏行业推广大使 Hank Howie 与 Schell Games 的产品管理总监 Alexis Miller，ActiveFence 的解决方案策略副总裁 Tomer Poran 一起探讨了各种规模和类型的游戏社区的最佳审查实践，包括行为准则、策略、技术等。

随着隐私、安全和信任法规的日益重要，这一讨论尤为及时。Poran 强调，AI 技术不断发展的能力不仅为发现有害内容提供支持，同时也可能用于生成此类内容。这种 AI 进化对于更新游戏内容审查策略至关重要，因为游戏行业在这方面一直落后于社交媒体。

“儿童安全和用户安全是游戏的基础，早于社交媒体的出现。然而，在内容审查方面，游戏依然在追赶社交媒体。”Poran 解释道。“我们注意到，企业正在向主动防范的方向转变，投资于像 ActiveFence 和 Modulate 这样的先进内容审查技术。”

几年前，审核语音内容几乎是不可能的，Howie 指出。虽然这项技术最终得以实现，但成本高昂。然而，随着 Modulate 提供可负担的解决方案，开发者们能够全面获取他们游戏中的所有语音内容。

“我们与的每家公司都说，‘我知道情况不好，但没想到会糟糕到这个地步。’”Howie 说道。“在线互动带来的潜在危害是巨大的，而现在我们拥有缓解这一威胁的技术。”

随着审查技术的提升，开发者能够自定义他们的审查策略。Miller 表示：“认识到不同游戏中的多样化受众提供了重要机会。例如，我们的受众主要是年轻人，这影响了应该标记的内容，这与赌场赌博游戏截然不同。”

安全设计理念

实施“安全设计”理念，从一开始就优先考虑保护措施，确定必要的产品功能，建立监控和执行指引。Poran 说：“这不仅包括我们可能遭遇的问题，还要考虑可能利用此功能进行伤害的潜在风险。”识别我们特定游戏的独特风险至关重要。

ActiveFence 通过“安全红队”贡献于安全设计，模拟恶意行为者的行为，以在游戏发布前进行测试，识别可能被利用的特征。

实施行为准则

“当您的社区意识到某些行为不可接受时，您会惊讶于他们适应的速度。”Howie 说道。吸引游戏社区参与内容审查有助于消除毒性玩家。

“我们的数据显示，降低毒性可以使新老玩家的流失率减少15-20%。”Howie 透露。“当玩家感到安全和受到尊重时，他们更有可能留下来，玩得更久并消费更多。”

Miller 补充道，行为准则必须随着时间的推移而进化，以应对意想不到的挑战。Schell Games 团队认真考虑如何解决审查问题，例如作弊和儿童危险，特别是考虑到他们年轻的受众。他们最初在测试环境中使用 ToxMod 等工具，但发现真实环境中的条件更加复杂。

“我们的测试社区与正式游戏参与者的行为差异很大，这促使我们修改审查政策。”Miller 解释道。“我们了解到，真实环境中出现了超出预期的挑战。”

Poran 也强调了适应行为准则的重要性。“制定一套庞大的行为准则，如果不能解决社区面临的问题，那将毫无意义。”他说。“政策必须基于社区反馈和审查人员的见解不断进化，以应对普遍问题。”

“激进化、招募、种族主义和厌女主义等挑战是相互关联的。”Howie 总结道。“我们现在有技术可以有效应对这些问题。是时候增强我们的努力，为所有玩家创造一个更好的环境。”

创新技术揭示一种大型语言模型如何成功绕过另一种模型

OpenAI CEO Sam Altman 驳斥埃隆·马斯克对AI军备竞赛的担忧

Most people like

The Search Control

6.6M

掌握您的搜索引擎！在信息爆炸的时代，能够有效管理自己的搜索引擎变得至关重要。通过优化搜索策略，您将能够快速找到所需的内容，实现高效的信息获取。在这篇文章中，我们将为您提供实用技巧，帮助您充分利用搜索引擎，掌控搜索结果，提高信息获取效率。

搜索引擎 AI广告助手

Img2html

27.4K

AI驱动的图片转HTML工具：轻松将图像转换为网页代码，通过先进的人工智能技术，实现高效且精确的转换。无论您是开发者还是设计师，这款工具都能帮助您快速获得所需的HTML代码，提升工作效率。

人工智能驱动其他

Minvo

89.9K

AI视频编辑工具，使您能够从长视频中轻松制作精彩短片。

AI 视频编辑字幕或标题

Eden AI

299.8K

Eden AI为开发人员和非开发人员提供一个简单易用的API，集成了多种先进的AI技术。

人工智能平台 AI 内容生成器

Find AI tools in YBX