猎云网10月20日报道 （编译：Jasmine）
这篇文章向我们呈现了对于人性的审视，让我们看到数字世界背后那些未知的阴暗面，和那些默默无闻的互联网清道夫。
关于一些最常见的性别歧视、种族歧视和同性恋歧视，Alex Chrum几乎是倒背如流，你能听到的最恶毒的咒骂，她也都清楚，这一年里，她每一天都在一遍又一遍反复地阅读这些资料。
Chrum今年刚刚25岁，之所以年纪轻轻就对这些负面信息如此了解，还得从她的工作说起。Chrum在Debate.org网站担任审核专员一职，这家网站主要是邀请用户讨论争议话题，这些网评许多包含着大量负面信息，于是Chrum不得不去涉足这些黑暗的泥沼。每一天，她都要筛选出50-200条不等有问题的帖子，然后通过认真阅读分析，决定哪些可以发表，哪些需要消失。
Chrum在采访中曾说过：“这是我做过的最心塞的一份工作，简直让人精疲力竭。”
坐在美国伊利诺斯州Swansea的办公桌前，她在对工作的享受和厌恶中反复来回，网站上有许多关于时事政治的正面讨论，这些辩论积极热烈，充满正能量，让Chrum的情绪也高涨起来，但是，作为一个版主，她还必须实时监控一些负面言论，像是恶意诽谤，以及基于性别、种族、性取向的人身攻击。
Chrum学生时代主修的是英国文学，同时辅修了性别研究。虽然在性别研究中偶尔也会因为歧视问题，充满了挫败感，但是一直到从事这项工作之前，她从未想过到现在这个时代居然还有许多人相信撒旦创造了同性恋，女性是上帝为男性创造的。这个现实让Chrum充满震惊，她根本无法接受这个现实。
但是她的工作要求她深入思考每一条攻击言论，每一句污言秽语，甚至让她分析这些言论背后的隐藏的侮辱性意味。
我们当中大多数人其实是看不到这些负面评论的，除非你就是那些所谓的“喷子”的攻击目标，因为想要屏蔽这些糟粕还是很简单的。你可以右上角点叉，离开那些喷子帖，把那些满嘴喷粪的好友取消关注，或者远离那些掐架网站。喷子们为了追求快感，一味刷新基本道德下限，而Chrum的角色，就是在无辜用户和那些喷子之间形成一个缓冲带，把他们隔绝开来。但是保护了其他的无辜用户，Chrum等人自己却成了牺牲品，每天不得不忍受着这些肮脏思想的轰炸。
Chrum吐槽道：“让一个人从早到晚每天每天去做这种事情，太不科学了好么！简直累觉不爱！”
各大社交媒体网站一直或多或少被这些窘境困扰着，最近更是不得安生，几乎每一周都有引人注目的事件发生，经常有人匿名在社交平台上肆意骚扰别人。
打个比方，8月的时候，已故喜剧巨星罗宾·威廉姆斯之女泽尔妲·威廉斯（Zelda Williams）卸载了Twitter和Instagram这两款应用，据报道是因为其用户合成罗宾·威廉姆斯尸体照片四下传播。
很抱歉，我想我本应更加超脱一点，但是我没能做到。我已经把Twitter和Instagram卸载了，可能是很长一段时间，也可能永远都不会再使用它们。希望时间能平复一切，再见了。
—泽尔妲·威廉斯(@zeldawilliams) 2014年8月13日
无独有偶，不过几周后，加拿大籍知名女性游戏评论家安妮塔·萨克伊西恩（Anita Sarkeesian）在她最新一集评论播出后，再一次受到了强奸和谋杀的威胁，然而这一次，很显然一个在线攻击者发现了她家的位置， Sarkeesian立刻联系了有关部门。
我和家人受到了非常可怕的威胁，我正在联系有关部门。
— 女权主义频段 (@femfreq) 2014年8月27日
一直致力于女性新闻的掴客网Jezebel平台，最近也受到了匿名用户的攻击，他们在评论中不断上传暴力色情图片，这个问题困扰网站长达数月，直到最近才被解决。
我们并不知道那些审查互联网内容的人有着怎样的内心世界，他们努力地让我们免受负面信息的伤害，我们却觉得理所应当，我们根本没有考虑过这种工作对他们的幸福和心理健康造成了多大的影响。
他们调节网络上的作用在很大程度上是被低估了。版主是推动网络发展的一部分力量，我们建造的网络安保基础设施，最多只能算是一个有前途的即兴创作，往糟糕了想，或许根本不堪一击。短短几周内，Williams、 Sarkeesian 以及Jezebel接连受到攻击，更能说明这一点。
虽然我们知道网络攻击和恶意破坏的伤害是巨大的，但是我们根本就不懂他们一次一次、日复一日面对这些冲击的时候，是什么样的感觉，心理受到了怎样的影响。
美国布里奇沃特州立大学心理学教授Elizabeth Englander一直在致力于研究网络欺凌。她发表看法说，人们之所以不懂，是因为目前为止根本没有专门的机构，来研究调解人在处理网络辱骂言行的时候，会是什么样的感受。有一种比喻可能比较形象，数字世界的版主们就类似于现实世界的警察和急诊护士。虽然他们并不直接目睹血腥或是死亡，但他们的工作性质让他们不得不直面那些一般人避之唯恐不及的人性黑暗面。
他们的工作包括在网络上鉴别儿童色情作品、评估强奸或死亡恐吓等，随着时间的过去，许多老手开始学会把工作和生活割裂开来，不让他们看到的这些东西进到心里，渐渐地，他们甚至变得麻木起来。
现在有大量的研究，探究并描述了第一目击者经历的精神创伤，以及治疗措施。但是没有任何针对调解人的指导，没有人去订立一个标准，明确哪种人可以承担得了这种责任，或者从业之前需要接受怎样的培训。
尽管一向很少被关注，但这样一类技术工作人员确确实实存在着，上述这个一直没有解决的问题直接影响到他们的生活。比如说Facebook每周都会收到大约100万含有侮辱性内容的报告，门洛帕克、加利福尼亚、伦敦和海德拉巴、印度各地的管理人员，几乎是一天二十四小时都在调查这些内容。Instagram图片上传量达到每天6000万张，公司不得不雇佣版主来确保这些应用并没有被用来“诽谤、跟踪、欺凌、辱骂、骚扰或者恐吓”其他用户，Twitter还拥有一个“信任和安全”团队审核用户的攻击行为。
在社交新闻站点Reddit上，有许多志愿者自愿担任版主，监督管理网站的各个社区，他们当中有许多都因此成为了骚扰的目标。最近，那些经常受到恐吓信和死亡威胁的版主们为此发起了一个帖子，在跟帖里集思广益，提出了好几十个对策。有许多版主很乐意和喷子们周旋，不过这个团队已经开辟了自己的下级网站，来让他们分享自己的故事。
在Debate.org上，这样一个主意正在试行——增加一个意见区，不是让用户们正式评议些什么，而是让他们可以很轻松地讨论自己的观点。为此，当时网站的社区经理Chrum接受了一些基本训练，开始强力执行一套行为准则，对某些类型的行为进行严厉杜绝：不准骚扰或是跟踪；不准辱骂或是出口成脏；不准对其他成员进行人身攻击；不准就种族、性别或是宗教进行诽谤；不准以任何形式的暴力相威胁。
【这是Chrum必须要审查的真实的评论。你先投票，然后把进度条拉到文章末尾,看看你是不是和她做出了相同的决定。】
随着意见区日趋成熟，各种评论铺天盖地而来， Chrum两台电脑一起开着工作都HOLD不住了，这时候她会戴上耳机，听着音乐，然后潜水。至于是听齐柏林飞艇乐队（Led Zeppelin）还是李尔·韦恩（Lil Wayne）的音乐，这就要看她当时的心情了。
通过网站的行为准则，她可以很快地鉴定出其中一部分评论，但是有些评论性质相当模糊，正好介于煽动性言论和攻击性言论之间。打个比方，如果一个用户发表一个状态说，如果没有同性恋，世界会变得更美好。这可以界定为暴力威胁或是诽谤么，或者仅仅是一个道德观点呢？如果一个人问，男人打女人应该么？有人回答说，女人就是欠收拾。这个难道能被认为是“理智且发人深省的谈话”么？
绞尽脑汁诠释用户意图的过程让Chrum精疲力竭，因为她是在试图探究一个陌生人的内心世界。Chrum偶尔会瞥一眼显示器下方粘着的小卡片，这张小卡片写道：“时刻保持冷静，友善待人。”小卡片点缀着紫色和绿色这样柔和的颜色，多少能起到一些安抚的作用。
这个标语很快成了Chrum的口头禅，但是有时候这简单的一句话并不那么容易执行。无论有时候她多么想直接骂回去，她都必须克制。日复一日仔细研读这些负面评论的结果显然并不美好，阴暗面越积越多，就像日蚀一样，给她的生活蒙上了阴影。
她说道：“其实大多数从事我这种工作的人还是很乐观的，我看到的消极面更多，是因为我必须亲自下判断，很多时候哪怕是下班回到家，我还是会一直处于抑郁的状态。”
上班的时候，这些评论搅得她心烦意乱，回到家之后还在不遗余力消磨她的精力。工作日自不必说，甚至休息日如果工作需要她也要去网站看看。她不得不想一些法子改善这种情况，比如说休息的时候努力让自己不去想这些评论，上班的时候看到那些让人忍无可忍的评论，赶紧跟几个同事吐槽。
她说：“我们在一起，或多或少可以分担一些痛苦。他们安慰我说，有时候人们在网上说的这些话，永远不会在现实中当面对任何人说。”
这似乎就是问题的症结所在：虽然我们无语容忍这些污言秽语在工作场所或是学校餐桌上出现，但是很大一部分人坚定地认为，在网上出口成脏不过是发表言论的一种形式，这种权力应该受到保护。
Whitney Phillips是美国洪堡州立大学传媒讲师，作为数字文化方面的行家，她并不赞成上述看法。如果就这么冠冕堂皇地替骚扰行为做辩护，容忍这种伤害行为，那么很快受害人的声音就会被压制，那些受害人通常都是女性和一些长期被边缘化的群体，对加害人的容忍，无疑是对这些弱势群体的二次加害。
她问道：“你要站在哪一边？”
“你是要站在侵略者那一边么？还是和那些对社区做了更多贡献的人站在一起呢？”
深思这些问题的同时，Chrum还注意到她的个人观点有可能对她的决策产生着微妙的影响。她承认自己是反种族主义者、女权主义者，并且是女同、男同、变性人和同性恋社区的声援支持者。
因此她也表示自己很清楚：“那些可能让我感到不愉快的内容，并不一定同样冒犯了别人。”另一方面，她还担心用户可能因为看到一些边缘型评论，像是侮辱女性、排斥同性恋或种族歧视等等，受到刺激，进而自残或是伤害别人。
在哲学和伦理的鞭挞下，Chrum愈发坚持，这些评论必须在某种程度上促进一些“意味深长，发人深省”的辩论，她常常自问：“有多少人本质上就是个喷子，只是想得到人们的关注，去刺激别人？如果你不能为大家带来一些正能量，你的评论可能不能通过我们的准则，并会因此得不到发表。”
Chrum估算了下，仅仅因为明确违反了网站的行为准则而被她否掉的评论，就达到了半数，这还不包括那些难以界定的，性质模糊的评论。
做决策时情绪和心理上的紧张持续发酵，一成不变的决策模式把Chrum死死钉在了这份工作上，让她分身乏术。
去年，网站采取了一个调节适应模型，这个模式是它的姊妹公司众包网站CrowdSource.com发明的。
CrowdSource的客户包括美国知名在线购物网站Overstock、 Klip以及美国办公用品零售和分销商史泰博（Staples），公司通过雇佣合同工来处理劳动密集型工作，并且建立一种算法来监督决策质量。这家公司大量募集那些接受过培训、有经验的人员，然后公司会用一些样例对他们进行入职测试，对比公司最信赖的外包人员的回应，公司会对他们判断的准确性进行打分并排名。通过入职测验审查的，才能够上岗。
通常会有好几个外包人员对同一个客户进行审核，所以是否发表，做决策的不是某某人，而是算法。CrowdSource的工作人员还可以选择工作范围，拒绝审核色情文字或是煽动性言论。
有了算法的帮助，版主们的负担虽然大大减轻，但是对公司而言，如何提供可预测性，最好地保护他们的用户不受攻击，依然是亟待解决的问题，
CrowdSource.com首席执行官Stephanie Leffler说道：“很少会有顾客会向我们提供一些专业的，或是可行度高的方针准则。”
对于这种改革，Chrum相当欢迎，她把判断骚扰的准则告诉外包人员们，然后告诉他们辩论通常都会白热化。目前Debate.org还没有使用算法，不过正在遵循多数原则进行决策，好几个版主评估同一个帖子，然后投票决定它是否可以发表。
现在Chrum每周仅仅需要花费5-10小时在网站上，她得以腾出手来，去处理其他相对轻松的工作，她说：“现在我结束一天的工作回到家的时候，心情愉快多了。”
这只是一个网站的一个解决方案而已，这并不能完全反映Debate.org的核心团队的所做的工作，这个由50-100个专业人员所组成的团队管理核心，会在用户踩到行为准则底线的时候，对用户发出警告。
Chrum认为,网站必须首先向会员明确指导方针，道明自己的要求，那些没有遵守规则的用户在必要的时候应该进行审查，甚至彻底驱逐。
但是，由于成员来自全球各地，又因为网络的特殊性，想要通过封号等手段震慑喷子们还是太天真了。打个比方，Twitter月活跃用户数量有2.71亿之多，并且因喷子数量庞大和攻击性行为发生频率惊人而闻名。尽管有些用户因为行为不当被告发，遭到封号，他们还是可以很轻易地披个马甲重新回来——这个也是大多数社交网站面临的糟心问题之一。
尽管问题很多，但是大家都相信办法总比问题多，一些网站就开始采用新的策略，努力试图创造一个别具一格的网络文化。8月的时候，Fark.com把厌女症作为人身攻击的一种，加入了删除理由队列，同时，Ask.com注册了国际问答网站Ask.fm，并很快开始改革其骚扰政策。
Chrum知道，新规则不一定就意味着版主就能够少看到那些糟糕的内容，这就是为什么保护工作人员免受潜在危害被顺理成章提上了日程。
Chrum也知道，这份工作给她带来了不可估量的影响，在这场名为“工作”的让人精疲力竭的旅途中，她发现了自己作为版主的意义所在。
“总的来说，这提高了我作为一个人的素养，因为我学会了不要把负面的东西太放在心上，”她说：“我会在回家后，仔细思考一些评论，正面地思考它们，而不是仅仅看到它的阴暗面。我们需要的是一个有意义的话题，并且把它继续下去。”
然而，这种成长却是苦乐参半。
“有些评论会让你控制不住自己的情绪，这种人家侮辱了你，你还不知道人家是谁的感觉，简直让人抓狂，”她说。“一个你不知道名字，不知道长相，什么都不知道的人，一次次对你进行言论攻击，有时候这会让你对人性失去信心。”
Souce:Mashable
