融到E轮的AI独角兽,启动IPO
融到E轮的AI独角兽,启动IPO
雷军投资的手机回收公司,冲刺IPO
雷军投资的手机回收公司,冲刺IPO
奔驰彻底退出,比亚迪全面接管,腾势身份变了
奔驰彻底退出,比亚迪全面接管,腾势身份变了
深耕康养机器人赛道,如身机器人完成数千万元天使轮融资
深耕康养机器人赛道,如身机器人完成数千万元天使轮融资
立即打开APP
汤圆圆
私信
0

自诩“邻里监督者”,亚马逊旗下家庭安全公司却为种族歧视推波助澜

2019-02-12
全民执法?这权利是哪来的呢?

【猎云网(微信号:ilieyun)】2月12日报道 (编译:一晌贪欢)

亚马逊旗下的家庭安全系统公司Ring运营的一款“邻里监督”应用,名叫Neighbors,你可以在这款社交媒体平台上看到这样的帖子:“偷我包裹的人抓到了!!!” 

这篇帖子并排展示了两张人像:一张是家庭安全摄像机拍摄到的,另一张是大头照,似乎两者是同一人。

帖子中写道:“这名男子在2019年1月14日偷了我和邻居的包裹,我在此激动地告诉大家该小偷在2019年2月3日被纽约警察局逮捕”。帖子下面的评论纷纷称赞公布此贴的人。

Neighbors自诩为“新的邻里监督者”。但在更实际的层面上,如果Neighbors的帖子只是关于犯罪或“可疑活动”的报告,那Neighbors就像NextDoor(美国当地社区的邻里社交平台)。NextDoor长期面临着种族主义问题,Neighbors也逃不开这个问题。每个Neighbors的帖子都有以下标签之一:犯罪、安全、可疑、陌生人、宠物丢失。Ring相机拍下的片段,如果与警方共享,可能提供线索从而帮助破案。

Neighbors不仅仅是一款社交媒体应用,它更是一项服务,旨在与Ring security camera安防摄像头一起协作使用,Ring是一家基于Wi-Fi联网的家庭安全公司,去年2月以10亿美元被亚马逊收购。收购三个月后,Neighbors于2018年5月正式上线。如果用户原本有Ring安全摄像机,那就可以直接从相机上传视频内容到Neighbors。如果用户下载了Neighbors并邀请了一个朋友加入这个应用程序,则两人都可以得到10美元的折扣券用于购买Ring安全产品,包括门铃视频摄像头、泛光灯摄像机和家庭安全摄像机。

除了打造一个“新的邻里监督者”,亚马逊和Ring公司正在使视频监控变得常态化,甚至导致邻里彼此对立。社区学院Macomb Community College英语系教授Chris Gilliard致力于研究机构技术政策,他表示:这种以“犯罪和安全”为重点的平台可能加剧种族主义问题。

Gilliard说:“过往的事例让我们了解到,即使住在某个特定的社区,黑人的白人邻居通常也不会把他们当成邻居或者不认为他们属于这里。所以黑人在某些情况下被视为外来人。诸如Neighbors的系统应用如果加剧了这种歧视,这实在非常恼人。”

亚马逊版的“邻里监督者”平台上,轻微犯罪受到了严格监管,种族主义也很常见。视频帖子中涉及有色人种的比例颇高,描述还经常带有种族歧视的语言,或是对视频中的人做出种族主义假设。在许多方面,Neighbors和Ring生态系统就像一个虚拟的门控社区:人们可以通过下载Neighbors来选择加入,并且通过Ring相机,用户可以将邻居框定为威胁因素。

外媒做了一项调查,把所谓“家庭”地址设置在位于布鲁克林Williamsburg的一间办公室,并保留默认的5英里半径的社区,这意味着其范围包括曼哈顿南部、布鲁克林大部分地区、皇后区和霍博肯的部分地区。然后在Neighbors应用程序中就这一地区察看了100多篇用户提交的帖子(日期从12月6日到2月5日),结果发现,大多数报告为“可疑”的人都是有色人种。

1.jpg

截图来自Neighbors应用,展示了下文描述的“6名帮派成员走向屋顶”的帖子。

位于公寓门外的摄像机拍下的一段视频显示:六个年轻人(都是有色人种)正走向楼梯间,一些人背着背包。这段视频于1月2日晚上8点13分发布,标题为“6名帮派成员走向屋顶”。在没有证据支持的情况下,帖子底下的评论竟然鼓动帖子发布者报警,说这几个年轻人吸毒。外媒就此事询问Ring公司之后,这段视频被删除。

Neighbors描述犯罪的视频帖子几乎都是轻罪。经查看,75%的“犯罪”是偷盗包裹。但在对这些视频的评论中,人们很快就开始进行人身攻击和谩骂。

Neighbors播放列表上有一个置顶帖(由Ring员工人工置顶)显示了一个黑人从门前偷了一个包裹。然后这个帖子底下的评论极尽恶毒的话语。

威胁生命的行为,可能因社交平台而加剧

2.jpg

外媒调查时设置的Neighbors app地域范围

根据Ring社区准则,Neighbors禁止“对任何个人进行直接威胁、恐吓、骚扰”,也禁止“任何贬低、诽谤或歧视的帖子”,但该应用没有审查机制,全靠用户报告违规帖子。准则还声称:只允许“犯罪和安全相关内容”。可是社区准则并没有定义何为“安全”,而只是鼓励用户“发现让你产生怀疑的行为,也不管这种怀疑是否合理”。

准则指出:“在描述个人时,重点是提供足够数量的相关细节,以将这个人与可能具有类似特征的其他人区分开来。仅仅报告嫌疑犯的肤色并没有多大用处,其它细节信息才更有用:比如嫌疑犯的头发颜色和发型、穿着的衣服、佩戴的珠宝、年龄、其它显著特征、纹身、伤疤等等。”

外媒询问Ring公司,是否对Neighbors的有关种族歧视的内容或评论进行了调整。该公司的一名发言人却说:“Neighbors允许用户与邻居分享交流安全信息,在一定情况下把实时的犯罪和安全信息共享给当地执法部门,我们旨在促进这种社区内部的合作。”

Neighbors用户经常鼓励其他用户根据共享视频片段报警。当Neighbors贴出有诸如盗窃包裹等犯罪时,Ring公司员工会评论说:“如果你已报警,请在下面分享案件编号和警官的联系信息。一旦我们有了案件编号,Neighbors团队也许可以利用你的视频帮助执法部门破案。”

电子前哨基金会(Electronic Frontier Foundation)基层宣传总监Shahid Buttar表示:报警可能会给有色人种的邻居带来致命的后果,可是Neighbors的用户通常都明确支持尽快报警。

Buttar说:“在美国,警察暴力执法(而不受惩罚)的情况客观存在,且主要针对有色人种。所以在某些情况下,上述报警行为可能威胁到不相关第三方人士的生命,这些人可能只是在工作或生活在自己的社区。而社交媒体应用平台加剧了这种威胁因素。”

3.jpg

2018年12月Neighbors应用上的一篇帖子

在twitter上,Gilliard预测Ring将被用来向警方报告为亚马逊送货的有色人种快递员的情况。事实上,Neighbors上抱怨快递员的帖子总是涉及有色人种,说他们的快递服务不够好。如此一来,Ring安防摄像机就不仅仅是邻里监视工具,而成为了监视人们正常工作的设备。

2月3日的一篇帖子写道:“快递员只会扔东西。快递到了也不按门铃通知,对于易碎物品没有小心轻放,遇到这些情况我就会发帖报告这个快递员。”

Ring公司的产品也延伸到现实的执法领域。美国多个警察局(比如科罗拉多州奥罗拉警局、加州洛杉矶警局、海沃德警局等)在购买Ring产品时都享有折扣。甚至在加州海沃德,整个镇上的居民都享有购买折扣。某些警察部门(比如科罗拉多州奥罗拉警局)还把Ring 摄像头应用于“门廊海盗行动”,他们把装满石头、用亚马逊胶带密封的诱饵包裹盒留在装有Ring摄像头的门廊上。奥罗拉警局发言人Matthew Longshore说:亚马逊提供箱子,Ring公司提供摄像机。据Ring公司发言人称,该公司在预算范围内向城市警察部门提供退税或补贴。

Twitter上的一篇帖子写道:门廊海盗行动,注意了!GPS追踪器就放在你家门口的包裹里,Ring摄像头正盯着你!偷快递前,三思而后行!感谢亚马逊的帮助!

Buttar说:“公共补贴或平台推广是非常强大的工具。仅就管理而言,在市政当局支持这些社交平台之前,应该对它们进行严格的审查。而且,如果这些平台导致人们无端面临来自警察执法的严重威胁(甚至危及生命),那这样的平台工具就不应该被推广。”

Ring公司传递了一个非常特殊的信息:你不必信任你的邻居,但是你可以让亚马逊来帮助监督你的社区。Neighbors应用程序是免费的。但装了这款应用之后,用户反而觉得周围并不安全,因此更倾向于花钱购买Ring家庭安防系统产品。

Neighbors具有广告作用,因对危险的恐惧,且为同伴压力所驱动,从而吸引用户使用亚马逊的摄像机系统。但实际上,该应用强化了用户的种族主义偏见,并在使用Neighbors的社区中将有色人种置于危险境地。

4.jpg

2019年1月Ring公司专利公开

将来,Ring公司可能会将面部识别技术整合到亚马逊的Ring/Neighbors生态系统中。 2018年12月,Ring申请了公开专利,这表明公司希望利用面部识别技术,将摄像头拍摄到的内容与“可疑人员数据库”进行比对。

面部识别技术在识别有色人种,尤其是有色女性人种方面准确率相当低。根据美国公民自由联盟(ACLU)进行的一项测试,亚马逊的面部识别软件Rekognition在2018年错误地识别了28位国会议员照片。其中有色人种的国会议员识别错误率高的不成比例。Ring的一位发言人解释说:“这项专利不等于实施应用”,但他没有说专利中描述的技术将永远不会应用。

Gilliard对外媒表示:“我必须强调,监控是否能让社会更安全,这取决于监视的对象是谁,不应该把这种监视用在已经被边缘化的人群身上。难道真要监视在社区内散步、跑步的有色人种吗?又或者要监视那些快递员、抄表员吗?”

猎云网APP阅读全文

体验更加

猎云网

微信扫码关注猎云网

  1. 猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权;
  2. 转载时须在文章头部明确注明出处、保留官方微信、作者和原文链接,如:转自猎云网(微信号: lieyunjingxuan )字样;
  3. 猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
  4. 联系猎云,请加微信号:jinjilei
猜你喜欢
长按图片可以分享给好友
×