【猎云网（微信号：ilieyun
）】9月9日报道（编译：柠萌）
编者注：本文作者Renee DiResta是《连线》杂志的一名撰稿人，是New Knowledge的研究主管，也是Mozilla的媒体、错误信息和信任研究员。她隶属于哈佛大学伯克曼·克莱恩中心和哥伦比亚大学数据科学研究所。多年来，她一直在研究虚假信息是如何在平台上传播的。在本文中，作者将带领我们互联网媒体铺天盖地的推荐内容背后的算法及其运作方式，还有现在采取的一些针对性修复措施。
控制我们在线查找信息方式的算法再次出现在新闻中，但你必须非常仔细才能留意到它们。
《纽约时报》8月28日的头条标题为“特朗普指责谷歌等网站在操纵搜索结果，压制了保守派的声音。”这篇文章最明显的特点就是一个夸夸其谈的总统，一连串尖刻的措辞，以及对审查制度的严厉指责。在这篇文章里还提到了“算法”，但是直到第12段才出现。
特朗普——和许多其他政客和专家一样——发现搜索和社交媒体公司是网络言论自由和审查制度辩论中方便攻击的目标。特朗普最近在推特上写道：“他们在操纵搜索结果，针对我，也针对其他人，几乎所有展现出来的内容都是坏消息。”他补充说道：“他们既控制着我们能看到的东西，也控制着我们看不到的东西。这是一个非常严重的情况，一定会得到解决的!”
在一定程度上，特朗普是对的。的确是这样的，他们既控制着我们能看到的东西，也控制着我们看不到的东西。但“他们”并不是指领导谷歌、Facebook和其他科技公司的高管。“他们”是一种不透明的但是有影响力的算法，它决定着数十亿互联网用户接下来会阅读、观看和分享什么内容。
这些算法是看不见的，但它们对塑造个人用户在线体验和整个社会有着巨大的影响。事实上，YouTube的视频推荐算法每天能激发7亿小时的观看时间，而且甚至在传播错误信息，扰乱选举和煽动暴力方面也有刺激作用。像这样的算法就需要修正。
我们现在应该进行的对话是我们要如何修正算法？采取何种方式？但在这一刻，这种对话却被政客和权威人士所利用和扭曲，他们抱怨审查制度，将内容节制错误地认为是在线言论自由的终结。一个很好的做法就是提醒他们言论自由并不意味着可以毫不受限，毫无顾忌。他们没有将算法放大的权利。事实上，这正是需要解决的问题。
要了解这种算法放大的工作原理，只需看看RT，或“今日俄罗斯”（Russia Today），这是一家俄罗斯国有的宣传机构，也是YouTube上最受欢迎的网站之一。RT在22个频道的浏览量超过60亿次，超过MSNBC和福克斯新闻的总和。根据YouTube首席产品官Neal Mohan的说法，YouTube上70%的浏览量来自于视频推荐。因此，该网站的算法在很大程度上放大了RT数亿次的宣传效果。
他们是怎么做到的呢？RT的大多数观众并不是为了观看宣传视频来浏览网站的。吸引观众的视频是RT充满噱头的标题和内容，比如高耸的海啸、流星撞击建筑、鲨鱼袭击、游乐园事故。在这些视频中，其中一些是几年前拍摄的，但一小时前还有观众评论。因此，YouTube的算法可能认为其他RT的相关内容值得向观看者推荐。结果就是，很快，一个美国YouTube用户在寻找新闻时发现自己看到了俄罗斯对希拉里·克林顿、移民和时事的报道。这些视频与来自合法新闻机构的内容一起出现在自动播放列表中，通过关联增加了RT本身的合法性。
社交网络是由算法来调节的：推荐引擎、搜索、趋势、自动完成，以及其他能够预测我们接下来想要看到的内容的机制。算法不会对什么是宣传，什么不是，什么是“假新闻”，什么是事实核查进行区别。他们的工作就是展示相关内容，当然是与用户相关的，而且他们做得非常好。事实上，制作这些算法的工程师有时会感到困惑：“就连创造算法的人也不能时时刻刻明白为什么算法推荐这个视频而不是另一个视频。”曾在YouTube网站上工作的工程师Guillaume Chaslot说。
这些不透明的算法有一个独特的目的——“持续观察”——再加上数十亿用户，形成了一个危险的组合。近年来，我们看到了后果是多么可怕。像RT内容这样的宣传方式十分流行，目的是让两极分化更加严重，尤其是在民主选举期间。Zeynep Tufekci最近在《泰晤士报》上写道，YouTube的算法还可以通过提出“白人至上主义、否认大屠杀和其他令人不安的内容”来使人们激进。“YouTube可能是21世纪最强大的激进工具之一。”
不过，这个问题并不局限于YouTube。在谷歌搜索中，危险的反疫苗的错误信息可能霸占搜索结果。在Facebook上，仇恨言论可以滋生并助长种族灭绝。联合国关于缅甸种族灭绝的一份报告写道：“社交媒体的作用非常重要。对于那些试图传播仇恨的人来说，Facebook一直是一个有用的工具，在这种情况下，对大多数用户来说，Facebook就代表了整个互联网。Facebook的帖子和信息在多大程度上导致了现实世界的歧视和暴力，这一点必须独立地、彻底地加以审查。”
那么我们能做些什么呢？解决方案不是取缔算法排名，也不是制造噪音，通过立法来保证谷歌的搜索结果。算法是一种非常有用的工具，可以帮助我们理解网络上浩瀚的信息世界。有大量的内容可以满足任何人的提要或搜索查询；算法排序和排名是必要的，而且从来没有证据表明搜索结果显示了系统性的党派偏见。也就是说，在任何算法中无意识的偏见都是一个值得关注的问题；这就是为什么自从2016年Facebook趋势新闻事件发生后，科技公司一直在调查保守的偏见指控。虽然没有找到任何可信的证据，但也存在信任问题，而且缺乏对排名如何工作的理解，这让恶意政治活动获得了动力。最好的解决方案是提高透明度和互联网素养，让用户更好地理解他们为什么会看到他们看到的东西，并建立这些强大的策展系统，让他们产生责任感。
目前在这方面已经采取了积极的措施。上述危害的例子引发了国会的调查，旨在了解科技平台如何影响我们的对话和媒体消费。在下周即将举行的参议院听证会上，参议院情报委员会将要求Twitter的首席执行官Jack Dorsey和Facebook的首席运营官Sheryl Sandberg提供一份报告，说明他们具体是如何采取措施应对计算机算法宣传的。
我们必须关注解决方案，而不是政治。我们需要在这些初步调查的基础上继续努力。我们需要就算法管理、算法奇怪的动机以及偶尔出现的不幸结果进行更细致的讨论和教育。我们需要让科技公司承担责任——为不负责任的科技负责，而不是无证据的审查指控——并要求他们的算法和调控政策的运作具有透明度。通过关注这里的真正问题，我们可以开始解决那些正在破坏互联网和民主的真正问题。
