人工智能众包标记游戏骚扰，游戏欺辱行为将不再存在？

在虚构世界里，人们是在闹着玩还是来真的，有时难以辨认。好朋友一起玩游戏，骂骂咧咧很常见，是关系够“铁”的一种表现。

但在陌生人之间，同样的语言可能却很有问题。游戏开发者如果想要打造出一个友好的玩家社区，能分清两者的差异至关重要。

图 | 在游戏中攻击他人的行为会严重影响一般玩家的体验和游戏厂商的营收。

Spirit AI 公司研发了一个侦测和干预欺辱行为的系统，名叫“盟友”（Ally），希望借助它帮助游戏开发商照顾好用户，减少欺辱事件。

Ally 会根据一款游戏或一个社交平台中的历史行为记录来观察玩家间的互动——相互之间怎么说话、怎么互动。它能识别言语骚扰和非语言挑衅，比如一名玩家跟踪另一名玩家扮演的虚拟角色，或者滥用投诉工具。

Ally 的开发者之一鲁克桑德拉·达里斯克尔（Ruxandra Dariescu）说：“我们研究互动模式，同时使用自然语言分类器，而不是依赖个别关键词。骚扰是个很难定义的问题。”

当 Ally 识别出涉嫌欺辱的行为，它会先看看行为者和行为对象之间过去是否曾有过互动。但它和已有的调停软件不一样，不会简单地向游戏开发者发送警示，而是会化身为一个虚拟人物，去和玩家接触。凭借Spirit AI的自然语言工具，它能以这款游戏的语言风格和语气语调来展开对话。

一个 Ally 机器人可能会这样对你说：“我注意到你和42号玩家好像并不认识。他们可能对你说了一些不该说的话，所以我想问问你，你还好吗？”

你回答后，假如确认了可疑的言语只是个友好的玩笑，系统就会把它记录下来，更新自己的侦测标准，下次碰到类似的行为时就不会再干预了。而如果你确实觉得被欺辱了，系统就会去找对方，做出干预。

Ally和所有的网络游戏都兼容。Spirit AI 目前正在研究如何在虚拟现实（VR）游戏中也添加这种“警力”。这个工具可以有各种配置，用不同的方式和玩家互动及采取行动。Spirit AI公司认为，它增强了监督玩家行为的社区管理团队。

Spirit AI于 2016 年正式创建，目前有 15 名员工。它不愿透露正和哪些游戏开发者合作，但这款软件已经在游戏世界里引发关注。“从最简单的层面讲，由人工智能支持的社区管理工具能够扩大管理团队的覆盖面。” 伊姆雷·耶莱（ImreJele）说。

他是“江湖”（Rune Scape）等大量多人网络游戏的资深设计者。“但最让我兴奋的并不是甄别和惩罚违规行为的人工智能系统。这类人工智能团队的终极目标应该不止于维持秩序，而是塑造积极的互动和更健康的社区。”

Spirit的初衷当然不只是在网络游戏中引入数字化警察。“我们已经确认了这项技术的潜力，它不但能防范糟糕的行为，也能够促进好的、友爱的行为。”达里斯克尔说。

这款软件也能广泛地窃听，收集玩家对游戏设计更广泛的意见，为开发者提供提升整体用户体验方面的建议。

不过，耶莱认为，在对付骚扰时，人工智能的干预有其局限性。社区管理和客服团队间的互动需要深切的同情心和同理心。“玩游戏的人花了钱支持开发者，他们理应得到最好的照顾，目前只有人类能提供这个。”

-End-

编辑：刘春华

「DeepTech深科技」招募编辑记者

（人工智能、生物医学、自动驾驶等方向）

工作地点：北京 ● 国贸

申请加入：[e-mail]

热点（点击关键词查看）

人工智能 丨 量子计算 丨 合成生物学 丨 金属氢 丨 时间晶体 丨 区块链 丨 半导体 丨 激光雷达 丨 桌面打印 丨 人造子宫 丨 空中取水 丨 基因编辑 丨 海水淡化 丨 图灵奖 丨 超级高铁 丨 无鸡鸡肉 丨 人兽嵌合体 丨 钢铁骨骼 丨 高熵合金 丨 新固态电池   超级细菌 丨 渗透能 丨 量子纠缠 丨 垂直农场 丨 核聚变

人物

深度