猎云网9月23日报道 （编译：冬冬）
和很多网络虚拟空间一样，英雄联盟这个如今风靡全球的网络游戏，成为了滋生污秽语言和暴力行为的温床。由于网络游戏可以匿名参与，再加上团队比赛激烈的竞争气氛，污秽语言层出不穷，暴力行为愈演愈烈。在这种情况下，Riot Games的创始人不得不出面解决这个问题：该公司现在专门成立了一个由科学家和设计师组成的团队，来想法设法改进游戏玩家之间的互动方式。
在过去的几年间，这个团队试验了很多用机器学习作为技术支撑的系统和方法，主要目的就是监测玩家之间的言语沟通，惩恶扬善，真正响应“弘扬真善美，贬斥假恶丑”的口号。“结果相当惊人”，Riot Games 社会系统的带头设计师Jeffrey Lin这样说道。这个软件监测了数以亿计的可疑暴力行为。92%被查出对他人使用暴力语言的玩家没有再犯过类似的错误。认知神经科学家Lin相信这个技术可以不用局限于游戏界，而运用在其他领域。他认为Riot可能已经找到了网络毒素的解药，将来不管毒性在哪里发作，它都能够治愈。
整个计划在几年前已经启动，那时候团队为了契合游戏的幻想主题，引入了一个管理系统并称之为“审理委员会”。游戏能够自动识别潜在的污秽语言，并且创建一个互动档案库。这些档案之后会在游戏的玩家社区里面公示出来，整个社区预估有6700万玩家，这些玩家将会被邀请回顾游戏中出现的聊天记录并且投票选出他们认为能够接受的语言和行为。“总体说来，这个系统相当精确可靠”，Lin说道。的确如此，98%的投票符合Riot的内部团队计算出来的结果。
这几百万的档案文件都是通过人工整理的，堪称浩大的工程。不久Lin和他的团队开始发现玩家使用的恶言中有一种固定的模式。为了优化整个研究过程，他们决定将机器学习技术运用到数据库里面。“结果出人意料地成功，它顺利地在League支持的15种语言中，将积极词汇和消极词汇区分开来。”Lin说道。
这个新版的系统，现在由技术监管，而不是其他玩家监督，这样一来要想得到反馈并且惩治游戏中不良行为的话，就更加高效便捷了。在此之前，系统把反馈传达给玩家需要1个礼拜，而现在用了不到5分钟，足以见得其效率之高。
Lin认为这个系统极大地改善了公司口中的“改过自新速率”。一个玩家在之前接受了惩罚（短时间内不能参与排名赛），如果在一段时间内没有受到再次惩罚的话，那么他（她）就被认为是改过自新了。他说：“当我们在惩罚中添加更好的反馈，并且包含用以惩罚的证据，比如聊天记录，那么改过自新的速率将会从50%提高到65%。如果机器学习系统更加快速地传达反馈，并用证据加以佐证，那么这个速率将会达到史上最高的92%。”
这个系统遇到的挑战之一就是辨别语境。在任何的团队体育运动中，选手们都会通过相互戏谑，相互嘲讽，以此来建立友谊和战友关系。但这样的行为在其他语境中会被认为是不友好，甚至是挑衅的表现。机器往往不能领会这样的讽刺，这或许也是用机器学习打击网络暴力问题最大的障碍。“相对来说，如果语境信息包含得越少，直白内容表达得越多，机器将会更好地理解语言，当然这样一来，它也能输出更精准的结果。”卡内吉梅隆大学致力于研究自然语言处理的副教授Chris Dyer如此解释道。“有些问题更加棘手：比如有些观点是要结合语境，根据上下文整合信息才能够提炼出来，尤其是讽刺性的语言，更是不能脱离语境来理解，不然会引起很大的误会。”
目前，Lin和他的团队试着运用额外的检查和权衡来解决这个问题。即使系统发现玩家做出不良的行为，其他系统也会进行再次确认。有些时候，其他系统支持原来的结果，但是有些时候却是相悖的。比如说，它会逐个检验玩家提交的每一份报告，以此来验证他（她）历史报告的准确性。“正是因为有了多方的系统通力合作把结果反馈给玩家，我们现在出错率上大大减少：每5000个报告可能只出现1处错误。”
为了更有效地打压网络暴力，Riot想出了各种各样的惩罚措施和阻挠方法来规劝玩家能够纠正自己的行为。比如说，它会限制不良玩家的聊天渠道,或者让他们在能够参与排名较高的游戏前，规规矩矩地打一些毫无技术含量的游戏，相反，对于文明的玩家，公司还会通过一系列的措施来奖励他们。
Lin始终相信他和他的团队从工作中总结的经验和教训影响深远。“调查报告中曾经提到过一个重要的观点：网络游戏中的不良行为未必是来自那些性恶伪善之人，也可能是一些普通大众在经历了糟糕的一天之后进行的情感发泄。” 哈佛大学伯克曼中心的科学家Justin Reich说道，他一直在研究Riot所做的工作。“那就意味着如果我们想要解决网络暴力行为的问题，不能仅仅针对那些’老油条’，还要考虑在互联网匿名制度下，人们享有充足的言论自由，这样一来网民最邪恶的一面就有可能被激发出来。”
不管怎么样，Reich相信Lin前期的工作证明了网络上出现的不良行为不是网络的常态，而是一个可以通过工程开发、实验支持、社区参与通力合作解决的问题。“我们现在在League of Legends看到的挑战在其他网络游戏、平台、社区或者是论坛中也常常出现，这也是我们坚信我们处在网络社区发展的关键时刻。”Lin说道，“正因为如此，我们乐意与其他领域共享我们所得到的数据和研总结的最佳办法，并且诚挚的希望其他的工作室或者公司能够参考一下我们的研究成果，并且相信网络之毒再也不是无药可救的顽疾。”
Source: technology
