苏州,将迎一个半导体检测IPO
苏州,将迎一个半导体检测IPO
高开180%市值超130亿,“宁王”收获一个IPO
高开180%市值超130亿,“宁王”收获一个IPO
特斯拉再降1万!Model Y迎全球最低价,新款蠢蠢欲动
特斯拉再降1万!Model Y迎全球最低价,新款蠢蠢欲动
较劲的Q3:乐观者李斌,“史上最强”何小鹏,李想开上法拉利
较劲的Q3:乐观者李斌,“史上最强”何小鹏,李想开上法拉利
立即打开APP
Apollo
私信
7

传Palantir在新奥尔良秘密测试犯罪预测技术,最神秘的独角兽再陷隐私风波

2018-03-02
“特别令人不安的是,这种对普通居民生活的侵入性研究居然是一个机密。”

【猎云网(微信号:ilieyun)】3月2日报道(编译:福尔摩望)

在2013年的5月和6月,当新奥尔良的谋杀率升至全美第六时,奥尔良教区的地区检察官对两个城区暴力贩毒团队(3NG和110ers)的几十名成员发起了具有里程碑意义的敲诈勒索指控。两家帮派成员都被指控犯下了25起谋杀案,以及数起企图杀人和武装抢劫案。

随后,由美国酒精、烟草、枪支和炸药局(ATF)、联邦调查局(FBI)以及当地机构进行的调查进一步提出了有关RICO的起诉,其中包括一名22岁的39ers帮派男性成员Evans “Easy” Lewis,他被指控涉及了毒品交易和数次谋杀案。

根据当时的部门负责人Ronal Serpas的说法,新奥尔良警察局用来识别3NG和39ers等帮派成员的工具之一来自于硅谷公司Palantir。该公司向一个秘密的NOPD(新奥尔良警局)项目提供软件,追踪人们与其他帮派成员的关系,概述犯罪历史,分析社交媒体,并预测个人可能会实施暴力或成为受害者的可能。作为Lewis案件中发现过程的一部分,政府交出了超过6万页的文件,这些文件详细记录了通过秘密线人、弹道学和其他来源收集的证据。但是据一位知晓39ers案件的人士透露,这些文件并没有提及NOPD与Palantir的合作关系。

该项目开始于2012年,从那时起,新奥尔良警局就在与Palantir Technologies进行了合作,Palantir Technologies是一家由CIA风险投资公司的种子资金创立的数据挖掘公司。根据媒体获得的采访和文件,这基本上是一个预测性警务项目,类似于芝加哥用于预测哪些人会成为暴力的驱动者或受害者的“热门名单(heat list)”。

这项合作关系已经获得了三次延长,第三次延长已于2018年2月21日到期。新奥尔良市和Palantir尚未就有关该项目目前状况的问题作出回复。

预测性警务技术无论在哪里实施,都会受到高度争议,但是在新奥尔良,这一项目却避开了公众的视线,部分原因是Palantir通过市长Mitch Landrieu为该市建立了慈善关系。鉴于其慈善地位,以及新奥尔良“强权市长”的政府模式,这一协议从未通过公共采购程序。

事实上,重要的市议会成员和检察官都不知道该市与Palantir存在任何关系,也不知道Palantir在新奥尔良利用这一项目,将其服务推广到另一家执法机构,以获得价值数百万美元的合同。

即使是推动Palantir与NOPD进行合作的政治活动家James Carville也表示,这一项目并没有对公众公开。“据我所知,新奥尔良甚至没有人知道这件事,”Carville说。

在与新奥尔良的合作关系开始之后的五年多时间里,Palantir已经获得了至少一种犯罪预测系统的专利,并向国外情报机构销售了类似的软件,以预测个人实施恐怖主义的可能性。

即使在执法部门内部,也有人担心Palantir在新奥尔良开发的那种个性化预测对公民自由的影响,以及它是否适合美国的刑事司法系统。

“他们正在制定一个目标清单,但我们并不是在跟踪叙利亚的基地组织,”一位前执法官员说,他已经亲自观察了Palantir的工作以及该公司的预测性警务的销售情况。这位前任官员不愿透露姓名,但对数据挖掘以及预测性警务表达了他们的担忧。这位前官员表示:“在Palantir可能有些应用的技术工具上花钱绝对是荒谬的,它也不是地方和州执法部门可以使用的正确工具。”

六年前,作为世界上最隐秘和最强大的科技公司之一,Palantir在新奥尔良开发了一个颇有争议的情报产品,这座城市自卡特里娜飓风之后,一直都是新自由主义的实验室。由于该项目从未公开过,所以有关其基本功能、偏见风险和整体合规性的重要问题从未得到过回答。

在Alexander Karp和Peter Thiel于2004年共同创办了Palantir Technologies之后,这家公司迅速晋升为硅谷最具价值的私人公司之一,并收获了来自五角大楼、美国情报机构和国外安全机构利润丰厚的合同。近几年来,Palantir一直在努力将其数据融合和分析业务扩展到私营部门,并取得了大大小小的成功。

对于Palantir来说,预测并不是一个全新的领域。至少从2009年以来,五角大楼就在阿富汗和伊拉克使用Palantir来预测简易爆炸装置的位置,这是一个涉及战时风险评估的项目,不需要考虑个性化预测性警务所带来的公民自由问题。据报道,其商业软件平台Metropolis使用预测分析来帮助企业开发消费者市场并简化投资。但在2012年推出新奥尔良项目之前,并没有任何公开的记录显示Palantir在研发预测性警务。

有关预测性警务技术的兴趣和投资在2009年之后迅速增加,当时,国家司法研究所开始为犯罪预测试点项目拨款。这些补助支持了芝加哥和洛杉矶一些最知名和最详细的预测性警务工作。虽然这些项目各不相同,算法也往往是专有的,但它们都是利用大量数据,比如地理、犯罪记录、天气和社交媒体历史等,对可能涉及犯罪的个人或地点进行预测。在接下来的几年里,许多创企都一直在努力将这种打击犯罪的方法商业化。其中最著名的要属加州创企PredPol,该公司在2010年初进行初步宣传之后,合同授权就已经失败了。

随着越来越多的部门和公司开始尝试预测性警务,政府资助的研究对其有效性产生了怀疑,而独立学者发现它可能对贫穷或有色人种的社区产生不同的影响。2016年的一项研究逆向工程了PredPol的算法,发现它继承了对过度管制的有色人种社区的“系统性偏见”,而历史犯罪数据也未能准确预测未来的犯罪活动。研究人员之一、密歇根州立大学的博士候选人William Isaac以前从未听说过新奥尔良与Palantir的合作关系,但他意识到数据映射模型是这一项目的核心。“我认为他们使用的数据存在着严重的预测能力问题。我们几乎看不到它能够预测暴力犯罪的能力,”Isaac说。

根据媒体获得的采访和文件,Palantir于2012年首次通过知名的中间人James Carville接触了新奥尔良市政府。Carville是一名民主党的权力掮客,也是比尔克林顿1992年成功竞选总统的缔造者。Carville是Palantir的有偿顾问,他与这一数据挖局公司的合作至少可以追溯到2011年。

Carville在接受采访时表示,正是他推动了Palantir和新奥尔良的合作。“我是该项目的唯一推动力。这完全是我的想法,“Carville说,他还补充说自己和Palantir的首席执行官Alex Karp曾飞到新奥尔良,会见了Landrieu市长。“对我而言,这是一种道德的体现。年轻人正在相互射击,而公众也没有像他们应该干涉的那样参与进来。”

概述Palantir与新奥尔良合作关系的这些文件将该公司描述成一种“无偿、慈善”的角色。2015年,Palantir在其年度慈善报告中提到了其在新奥尔良的工作,并将这一工作定义为帮助执法部门和其他城市利益相关者的“网络分析”。

Carville四年前在湾区公共广播电台的讲话阐明了Palantir与新奥尔良之间的合作关系是如何产生的。2014年1月,在KQED论坛脱口秀节目中,Carville和他的妻子Mary Matalin宣称Palantir在新奥尔良的工作是该城市谋杀率连续两年呈现下降的主要推动力。

“一家名为Palantir的公司的首席执行官,一个叫Alex Karp的人,说他们想做一些慈善工作,问我觉得如何?我说,我们新奥尔良的犯罪率非常可怕,“Carville告诉KQED论坛的主持人Michael Krasny,但并没有提及他与Palantir之间的专业关系。“所以他来到新奥尔良,和我们的市场会晤,他们都一直认为,对年轻人之间相互射击没有采取任何行动,是绝对不道德的。而我们能够不花钱,通过整合数据并预测和干预这些冲突将会发生的地方。自从这个项目开始以来,我们已经看到谋杀率大概降低了三分之一。”

Matalin也是一名政治顾问,他向Krasny明确表示,这家来自帕洛阿尔托的公司对NOPD所做的预测工作既是一种原型,也有可能伤及无辜的人。

“我们是一个原型,”Matalin说。“除非你是某个毒贩的堂兄,否则是没有问题的。”

在2010年至2014年8月期间担任新奥尔良警察总监的Ronal Serpas回顾了自己在Landrieu市长办公室发起的一次会议期间与Palantir工作人员的初步接触。“他们过来谈论他们在战场上所做的工作,以及在世界其他地方所做的工作,”Serpas在他位于洛约拉大学的办公室接受采访时说。“我的印象是Palantir也有兴趣开发能够预测犯罪的产品。”

新奥尔良与Palantir之间的合作于2012年2月23日正式开始,当时Landrieu市长签署了一项协议,授权新奥尔良免费访问该公司的公共部门数据集成平台。根据对洛杉矶县警长局的审计,Palantir执法平台的执照和技术支持每年可耗费数百万美元。

2013年1月,新奥尔良还允许Palantir为其LexisNexis Accurint产品使用执法账户,这一产品由数百万可搜索的公共记录、法庭文件、许可证、地址、电话号码和社交媒体数据组成。该公司还可以免费获得城市犯罪和非犯罪数据,以便对犯罪预测软件进行训练。新奥尔良的居民和负责监督市政数据使用的主要市议会成员都不知道Palantir有权访问他们的数据。

Palantir有着保密的历史,而新奥尔良也并非是该公司通过相关的非营利组织与政府机构开展业务,从而避免公共采购流程的唯一案例。

Palantir为洛杉矶警察局提供数据分析和整合,但这项安排是通过洛杉矶警察基金会而非LAPD本身进行的。在纽约,该公司的合同处于安全理由没有被披露,也从未被带到市议会进行批准。Palantir与纽约警察局的合作仅在与该州最大警察部队的合作关系存在问题时,才被泄露给BuzzFeed的编辑William Alden。

而在新奥尔良,Landrieu市长办公室、市检察官和NOPD似乎是唯一知道这一项目的单位。市议会的主要成员甚至不知道Palantir在新奥尔良的工作。

Palantir的合作关系如果在预算中被列出,可能会受到市议会更多的审查,但这一项目并不需要议会的批准。新奥尔良市政府的结构是建立在一个“强权市长”模式之上的,即市议会对城市警察局的合同或政策没有批准权。

最近,全美各地城市开始着手解决城市是否和如何规范数据共享和隐私的问题。像西雅图和奥克兰这样的一些城市已经通过立法委员会来制定指导方针和进行监督,而像纽约这样的其他城市正在讨论市议会应该在数字时代的隐私问题中扮演什么样的角色。

与新奥尔良刑事司法系统有密切关系的若干民事和刑事律师也不知道NOPD有任何预测性警务工作。多名刑事律师在审理案件过程中从未将Palantir的分析产品视为该向他们交付的案件发现材料。

新奥尔良市议会主席兼前辩护律师Jason Williams在媒体的要求下,审查了Palantir与NOPD合作的文件。Williams说,他从未听说过该公司与NOPD的合作关系。

Williams在一次市议会会议上接受采访时说:“我认为议会中没有人会说他们知道这件事,因为这不是我们预算分配或监督的一部分。”

Williams在2014年当选为市议会议员之前,还担任过刑事法院法官,他说他不一定反对使用数据驱动的方法来帮助处于风险中的新奥尔良人。

“我主要关心的是如何在我的城市中使用它。如果它被用来识别可能受到伤害的边缘化人群,防止他们受到伤害,那会和系统被恶意使用产生完全不同的感受。”

市议会的刑事司法委员会主席Susan Guidry自2010年以来一直在任,她也不知道新奥尔良与Palantir和NOPD的犯罪预测工作的伙伴关系。当被展示了该项目的NOPD文件时,Guidry表示她从未看到过。

The Verge向一群新奥尔良公民权律师分享了这一项目的文件。之前没有人知道NOPD的预测工作,虽然有人听说过Palantir与NOPD合作的传言。而他们都对该项目可能涉及的隐私问题感到担心。

Roderick and Soalnge MacArthur司法中心路易斯安那州的办公室主任Jim Craig说:“特别令人不安的是,这种对普通居民生活的侵入性研究居然是一个机密。”Craig对该项目的文档进行了审查,并将预测性的警务工作与信号情报工作进行了比较。“这几乎就好像新奥尔良正在签订自己的NSA版本,全天候监视其人民的生活,”Craig说。他认为,当局将这一项目保密,是因为会引起广泛的愤怒。“现在,人们已经对交通摄像头感到愤怒,而他们并不知道这个数据挖掘项目正在进行中,”Craig说。“南方仍然是一个人们非常重视隐私的地方。”

Nicholas Corsaro和Robin Engel是辛辛那提大学的两位教授,他们最近对Palantir所使用的新奥尔良暴力减少战略进行了评估,并帮助设计了Palantir预测模型所借鉴的NOPD帮派数据库。Engel和Corsaro都不知道新奥尔良的预测警务工作,不知道与Palantir的合作关系,甚至连他们所设计的数据库被整合到该项目都不清楚。“试图根据去年的数据来预测谁将会做什么完全是狗屎,”Corsaro在接受采访时说。

Palantir有时的确会公开提及其在新奥尔良的工作。然而,Palantir所做的任何公开都没有涉及有关个性化犯罪预测的详细信息。相反,该公司将其在新奥尔良的工作称作是“更好地理解暴力犯罪倾向,并设计出有针对性的干预措施来保护城市中最脆弱的人群。”

在一次吹嘘他们在新奥尔良的工作效率的公开演讲中,一位与NOPD关系密切的Palantir公民自由工程师Courtney Bowman承认,过度的保密可能会加深执法部门和过度监管社区之间的裂痕。在2016年5月6日加州大学伯克利分校信息学院的DataEdge会议上,Bowman说:“只有社区对这种信息应用程度感到舒适,以及他们是否了解信息如何被使用,这一项目才能真正起到作用。“

新奥尔良市和Palantir都拒绝就其合作关系如何形成,以及其他当选官员和公众对预测性警务工作的知晓情况发表评论。

Ronal Serpas表示,他认为市议会和公众应该了解警察局与Palantir进行预测性警务的决定。地方立法机构和理事机构在监督分享政府数据方面的角色远未得到解决,但Serpas认为与Palantir等公司的协议需要更严格的审查。

“对我来说,这肯定需要一定的审查,”Serpas说。

虽然Palantir的工作人员和现任的新奥尔良官员都不会谈论犯罪预测行动的日常运作,但The Verge获得的文件、外部研究以及前任警察总监的回忆提供了预警性警务测试系统在过去6年里的运作图景。

Palantir在新奥尔良的预测模型使用了一种名为社交网络分析(或SNA)的智能技术,在以往孤立的数据库中获取人物、地点、汽车、武器、地址、社交媒体帖子和其他标记之间的关联。输入查询语句,比如牌照、昵称、地址、电话号码或社交媒体用户名,NOPD的分析师将审查由Palantir软件抓取的信息,并根据他们已知的信息,确定哪些人最有可能犯下暴力或成为受害者。

有关个人的数据来自社交媒体上的信息以及NOPD的犯罪数据库。后者代表了NOPD与每位公民的遭遇记录,即使是那些并未遭到逮捕的人。2010年,纽约时报的Picayune透露,Serpas总监曾要求采用现场审问卡作为警官和地区表现的衡量标准,这一要求导致2011年和2012年的现场审问卡数量超过了7万份。这种做法与纽约警察局的“停止和搜身”计划相似,其目的是尽可能多地收集新奥尔良人的情报,无论他们是否犯罪。

然后NOPD使用Palantir声称的潜在受害者和施暴者名单,为该城市的CeaseFire项目选取目标。CeaseFire是纽约John Jay College教授David Kennedy开发的、已经实行数十年的胡萝卜加大帮的一种战略形式。在该项目中,执法部门通过犯罪记录告诉潜在犯罪者,警察局知道他们过去的行为,如果他们再次犯罪,将会最大程度的起诉他们。如果目标对象选择合作,他们将被要求参加一系列会议,作为他们缓刑和假释条件的一部分,并提供就业培训、教育、潜在工作安置和医疗服务。在新奥尔良,CeaseFire项目是在更为广泛的NOLA For Life范围内运作的,这是市长Landrieu的关怀计划,他从私人捐助者那里获得了数百万美元的资金。

根据Serpas的说法,从2013年到2015年最初开展新奥尔良社交网络分析的人是Jeff Asher,一名从CIA加入NOPD的情报员。Serpas解释说,如果有人被枪杀,Asher会使用Palantir的软件通过现场访问或社交媒体数据找到与他们相关的人。

根据Palantir自己的文档,Asher和他的同事在2011年至2013年期间对新奥尔良致命或非致命射击的每一位受害者进行了社交网络分析。通过这种被Asher称为“NOLA模式”的技术,该城市设计了一份大约3900人的名单,这些人由于与之前的枪手或受害者有联系,所以他们涉及枪支暴力的风险最高。“我们可以识别出30-40%的枪击受害者,”Asher在Palantir 2014年的内部会议上声称。Asher拒绝了编辑的采访要求。

理论上,Asher的方法在很大程度上受到耶鲁大学教授Andrew Papachristos的研究影响,该教授将暴力视作一种通过关联网络传播的传染病。然而,由于他的工作成果被引用为PredPol和芝加哥警察局采用的犯罪预测模型的学术基础,Papachristos试图将他的研究与这些方法开来。

一旦NOPD生成了可能的枪手和受害者名单,警察局和社会服务提供者将召集被监禁或在法院监督下的人员。

Landrieu市长的办公室经常吹捧这一项目,称其为新奥尔良刑事司法政策的重要组成部分。Palantir还声称:“我们正在帮助新奥尔良打破暴力循环。”但其实际影响尚不清楚。

在2012年10月至2017年3月期间,被召集的308人中,有7人完成了职业培训,9人完成了“有偿工作体验”,没有一人完成高中毕业或GED课程,还有32人曾被雇佣,或被转介。50人被拘留,2人已经死亡。

而执法部门则在大力推行这一项目。根据Palantir内部的一份报告,2012年11月,新的多机构帮派处理部门成立,到2014年3月,升级为敲诈勒索起诉。

在最初几年之后,召集数量骤然下降。根据城市记录,2012年至2014年期间发生了八次召集,但在接下来的三年里只发生了三次。Robert Goodman是一位新奥尔良当地人,在因谋杀罪被判处监禁之后成为社区活动家,他在2016年8月之前一直担任该市的CeaseFire项目的“响应者”,阻止人们进行报复性暴力活动。随着时间的推移,Goodman注意到这一项目更多的是强调其中的“大棒”成分,并且被市政厅更多地控制这一项目的非惩罚性方面,他认为,这回破坏干预工作。“这应该是由像我们这样的人运行,而不是市政府指示我们该怎样做,”他说。“只要他们不投入资源,什么都不会改变。你只是戴上了创可贴而已。”

在Palantir与NOPD合作的头两年之后,该城市的谋杀和枪支暴力事件明显减少,但这只是短暂的。即使是前NOPD总监的Serpas也认为,召集和指控的预防效果开始减弱。

“当我们在9至10次起诉中起诉了近100名被告时,我认为我们在这个犯罪环境中受到了很多人的关注,”Serpas说到敲诈勒索起诉时说。“但随着时间的推移,它一定会失败,因为在14年8月我离开之前,我们已经看到事情出现问题了。”

帮助建立NOPD帮派数据库的辛辛那提大学教授Nick Corsaro也参与了新奥尔良CeaseFire战略的评估。他发现新奥尔良杀人案的整体下降与该市实施的CeaseFire项目一致,但该项目针对的中心城市社区“没有出现统计上的显著下降。”

说白了,这项研究并没有证实Palantir和市政官员声称的数据驱动干预是暴力犯罪暂时下降的结果。

虽然召集已经中断,但根据The Verge的电子邮件显示,NOPD仍在继续使用Palantir进行执法。Palantir拒绝对此进行评论,但这些电子邮件还表明,该公司意识到了预测性警务算法带来的潜在风险以及随之而来的负面宣传。2016年5月23日,Palantir公民自由工程师Courtney Bowman回应了NOPD犯罪分析师Zach Donnini提出的关于Palantir是否可以帮助生成个人排名以确定个人犯罪或成为受害者的风险的请求。

Bowman写道:“我对制定排名或数字评分方法存在严重担忧。这正是芝加哥的“热门名单”模式将CPD暴露给大量公众审查的方面,”这封电子邮件链接了两篇评论芝加哥预测性警务方法的文章。

“迫在眉睫的担忧是,一种不透明的评分算法取代了定量确定性的外表,希望能够更加全面、更加定性的判定一个人的罪责,”Bowman写道。“我们迄今为止所做的SNA工作能够持久的一个优点就是,我们一直让人类分析师进入这一循环,以确保网络以通过直面测试的方式进行探索和分析。”

无论新奥尔良谋杀案减少的可持续性如何,Palantir都将其与NOPD的合作用于与其他美国城市签订大型合同。后来,该公司还获得了与外国政府签订的预测项目的丰厚合同。

根据The Verge获得的电子邮件,Palantir市场营销人员在2013年底首先联系了芝加哥警察局,并根据该公司的新奥尔良的工作销售预测警务套餐的可能性,最终达成300万美元的价格。通过从2009年开始发放给CPD的一系列联邦拨款,芝加哥警方和伊利诺理工学院的学者已经创建了自己的犯罪预测项目,根据犯罪数据和社交媒体历史记录为个人分配风险评分。

2014年8月19日,Palantir营销主管Katie Laidlaw给芝加哥警察总监Jonathan Lewin发了一封邮件。“我想跟进与McCarthy警司的联系,特别是我们在新奥尔良的成果已经证明了Palantir能够减少谋杀案,”Laidlaw写道。

这些电子邮件还显示,芝加哥警方希望从国土安全部获得拨款来资助Palantir软件的购买。然而,芝加哥警察局从未试用或购买过Palantir的软件。

负责芝加哥预测性警务模式的Lewin总监在接受采访时表示,他知道Palantir与其他执法机构的合作,但从未批准测试运行或购买Palantir的软件。

虽然Palantir没有成功的将其经过新奥尔良测试的工具出售给芝加哥警方,但这家数据挖掘公司已经成功的将预测产品卖给了国外安全机构。

2016年,丹麦国家警察和情报部门与Palantir签署了一项为期84个月的合同。据丹麦媒体报道,这项价值1480万至4140万美元的合同,将用于识别潜在的恐怖分子。根据采购文件,该项目使用诸如车牌阅读器记录、监控视频和警察报告等执法数据,对个人恐怖行为的可能性进行预测。为了购买Palantir的软件,丹麦的国家立法机构必须通过欧盟数据保护条例的豁免。

在与丹麦达成2016年的合同之前,Palantir Technologies汇报的执法工作从未提及预测或预测能力。

去年,以色列自由主义倾向媒体《Haaretz》报道说,以色列的安全部门利用分析系统,窃取社交媒体和其他数据,来预测来自西岸巴勒斯坦社区的潜在“孤狼”袭击者,而Palantir是仅有的两家为以色列安全组织提供预测性情报系统的科技公司之一。新奥尔良项目是Palantir首次使用社交媒体数据作为公司社交网络分析的一部分的案例。

“我对发现有人因这些信息而被拘留在国外并不感到惊讶,”新奥尔良市议会主席Jason Williams说道,他指出了以色列和美国法律制度之间的差异。“我担心的是,利用技术来绕过宪法并不是我想在美国所看到的。”

在全国各地,像纽约这样的城市正在制定有关如何监督政府机构用于制定决策的算法的立法。这些辩论还没有在新奥尔良开始,这里难以处理的犯罪率占据了公共话语中的大部分篇幅。然而,Palantir与NOPD的秘密关系也引起了外部观察员的警觉,并提出了关于该公司算法如何被使用的问题。

密歇根州立大学研究员William Isaac已经分析了偏倚的预测性警务系统,他说,他一直怀疑Palantir参与了某种个人预测项目。“他们只是公开承认他们的技术在多大程度上可以解决数据冲突和可视化问题,”Isaac说。

在浏览了Palantir的新奥尔良项目文件后,Isaac说,这一项目与芝加哥的“热门名单”模式非常相似。一项由RAND Corporation进行的研究发现,这一模式对暴力犯罪没有影响,但绝大多数都涉及了年轻的非裔美国人和拉丁裔男性。

“如果你想预测什么,那么你需要有一些你想要预测的表征。如果你试图预测犯罪,那么你需要对每一种可能的犯罪拥有正面和负面的例子,”Isaac说。警察部门倾向于对他们所在的社区拥有良好的数据,但对于他们没有大力巡逻的社区,数据则很少。

“与芝加哥预测项目相同的缺陷也将在新奥尔良的数据集中得到放大,”Isaac说。

围绕着NOPD项目的保密措施也引发了一些问题,即被告是否被给予了他们有权查看的证据。人权观察研究员Sarah St. Vincent最近发表了一项为期18个月的平行建设调查,或者说是有关执法部门隐瞒监视活动收集的证据。St. Vincent在接受采访时表示,执法机构扣留情报收集或分析,如新奥尔良的预测性警务工作,有效地削弱了刑事司法系统的制衡。在12月的Cato Institute 2017年监督会议上,St. Vincent提出了担忧,为什么预警性警务系统所获得的信息没有出现在刑事起诉或投诉中。

St. Vincent在谈到新奥尔良项目时说:“评估政府在这一案件中做的事是否合法,是法官的指责。我认为辩护律师应该担心这一项目可能会使用不准确、歧视或违法获取的数据。”

如果Palantir与新奥尔良的合作关系是公开的,那么在与立法者、执法部门、公司和公众进行明智讨论的期间,有关合法性、透明度和恰当性的问题可能不会在公共论坛中引起大的反应。但在过去六年中,这些从未发生过。

猎云网APP阅读全文

体验更加

猎云网

微信扫码关注猎云网

  1. 猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权;
  2. 转载时须在文章头部明确注明出处、保留官方微信、作者和原文链接,如:转自猎云网(微信号: lieyunjingxuan )字样;
  3. 猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
  4. 联系猎云,请加微信号:jinjilei
猜你喜欢
长按图片可以分享给好友
×