【猎云网（微信号：ilieyun
）】5月17日报道 （编译：Halcyon）
数字服务经常与法治相冲突（一般来说都不是很彻底的冲突）。但是，如果深度学习软件和自执行代码等技术处于法律决策的驱动之中，会发生什么呢？
我们如何确保下一代“合法技术”系统不会对某些团体或个人存在不公正的偏见？律师需要提高哪些技能才能正确评估数据驱动决策带来的司法质量？
企业家们多年来一直在关注传统的法律程序，在他们看来，法律创新的早期主要亮点是成本削减以及他们口中的“简化”一词，但跟AI技术的改造潜力比起来，就显得黯然失色了，AI技术已将算法指令写入法律程序中，过程中很可能改变了法律本身的路线。
如果决策是通过在离散数据集上进行培训的算法模型实现自动化，或是借由嵌入区块链管理的策略流出，那么，法律保护该如何得到保障呢？
这些问题是Mireille Hildebrandt之后参与的一个为期5年、旨在调查她称之为“计算法”的含义的项目中即将接触到的相关问题。Mireille Hildebrandt是一位律师、哲学家，现任比利时布鲁塞尔自由大学法律、科学、技术和社会研究组的教授。
今年4月，欧洲研究委员会授予Hildebrandt250万欧元的资助，让其以双重技术为焦点进行基础研究：人工法律情报和区块链的合法应用。
在与TechCrunch讨论她的研究项目时，她将该项目描述为抽象与实用兼具，项目涉及人员包括律师、计算机科学家。她表示，希望通过这个项目提出一种新的法律解释学——简单的说，就是一个律师可用来智能化处理计算法律架构的框架；同时也希望借此了解其中的局限性和影响，并能够提出正确的问题来对目前在评估人员情况上运用越来越广泛的技术进行评定。
她解释说：“此项目的初衷在于律师们与计算机科学家们一起来发现、理解他们所面临的问题。我脑海中理想的画面，律师们最好在分析问题上非常尖锐并对哲学感兴趣，可以和计算机科学家们聚在一起，真正意义上的理解彼此的语言。
“我们不会开发一种通用语言。在我看来，这样是行不通的。但双方必须能够理解一个术语在另一领域的含义，学习术语不同领域中的运用情况，最终能够看到两个领域的复杂性，避免简单化应用此术语。
“在发现了复杂性之后，可以对其作出解释，在某种意义上来说，那些真正重要的人——也就是我们的公民，可以同时在政治层面和日常生活的角度来做出决定。”
Hildebrandt说，她将AI和区块链技术纳入该项目的研究范围，因为两者提供了“两种非常不同的计算法律学”。
当然，也有可能将两者结合起来——在法律技术背景下创造“全新的风险和机遇”。
Hildebrandt认为，区块链“冻结了未来”，她承认两种技术中，她对区块链更持怀疑态度。“一旦你把它放在区块链上，之后就很难改变你的想法。如果这些规则开始自我强化，日后你想要做出改变，无论在成本方面还是精力、时间、混乱和不确定性方面的消耗都会非常高。
“你可以做一个分支，但当政府参与时，就不可行了。他们之间互必定存在联系。”
尽管如此，她认为，区块链技术很可能在未来的某个时期因其替代机制备受关注，用以帮助各州和公司在不那么复杂的体系下确定全球税法规定的义务。（假设可以达成此类协议。）
鉴于互联网平台跨国开展业务并牵涉不同司法管辖区和政治期望的复杂法律法规很可能已经存在，目前会有这样一种观点——一个新的应用规则系统是很有必要的，并且在区块链上制定政策可能是一种打消所有混沌重叠的最好方式。
然而Hildebrandt对基于区块链的法律合规体系的构想还是持谨慎态度。
下面是该项目的另一个重点——AI法律（人工智能法律），这种技术潜力很大，但同样也存在一定风险。她说到：“AI法律意味着你可以通过机器学习来进行辩论挖掘，这样一来你就能对很多法律文本进行自然语言处理，并可试图检测论证的线索。”就此观点，她举了需要判断一个特定人是承包商还是雇员的例子来解释。
“在美国和加拿大地区，这对雇主和雇员都会产生巨大的影响。如果判断过程出现错误，税务部门很可能找上门来索要一笔巨额罚金，并追回高额税款，金额之大，很可能是他们无法承受的。”
由于该地区的判例法混乱，多伦多大学的学者开发了一个AI来试图提供帮助——此AI技术通过挖掘大量相关法律文本生成一组功能，在特定情况下可用于审查人员是否是员工。
“他们大体上是在寻找一种数学函数，可将输入数据（包括大量法律文本）与输出数据相关联，在这种情况下，无论你是雇员还是承包商，此函数都能使用。如果这个数学函数在你的数据集中始终处于正确的位置或者说几乎所有的时候都可进行高精度计算，那么，我们将对新的或是分散性数据进行测试，并确认该数据是否仍然非常准确。”
鉴于AI须依赖数据集来推导出用于自动判断调用的算法模型，律师将需要了解如何处理并询问这些技术结构以确定AI是否合法。
如果你的AI与人们的法律判断调用有关，那么并非由偏倚的数据集产生的高精度也不完全是好事。
将要投入使用的技术或是正在投资的合法技术都等着律师解释最终结果——因此，不要说‘哇，准确率高达98%，胜过最好的律师！’他们应该说‘啊，好吧，请你给我看一下测试过的一组性能指标。谢谢你，请问一下，为什么你要将这些准确率低的放到四个抽屉里呢？你能给我展示一下你的数据集吗？这个假设函数空间里发生了什么？你为什么要过滤掉这些论点？’
“这类对话才是律师真正需要上心的，有些还能从中找到乐趣。这是一个非常严肃的事情，因为法律决策对人们的生活有很多的影响，最好的是，律师在解释法律中的人工智能的结果的过程中逐渐获得乐趣。他们应该能认真地谈论自执行代码的局限性——这也就涉及到项目的另一部分，即区块链技术的合法应用。
“如果有人谈及‘不可变性’，他们可能这样说到，‘不可变性’意味着如果在将所有内容放入区块链之后，你突然发现一个错误，且错误是自动执行的，想要修复它就会变得十分困难，需要耗费大量的金钱和经历或是“不信任”——所以你会说我们不应该相信这些机构，但可以信任不熟悉的软件，信任各种中间人，即无权的矿工，或是在其他类型的分布式分类账中的中间商。”
“我希望律师能在其中获得一些证据、切实的论据，并且真正的理解机器学习中的偏见意味着什么，”她继续指出，通过纽约AI Now Institute正在进行的研究来调查分歧与AI系统相关的影响和治疗。
“这是一个具体的问题，但我认为还有更多的问题，”她补充道——算法歧视。所以这个项目的目的在于将问题集中到一起，并理解这一点。
“我认为这对于律师来说非常重要，并不是要求成为计算机科学家或是统计学家，而是需要真正掌握所发生的事情，然后才能分享这些信息，真正为文本形式的法律方法做出贡献。我的研究主要针对文本形式，但是，当我们有能力使用非文字法规时，我们必须做出决定。实际上在我看来，这并不是法律。
“那么我们真正应该理解的事情是，该如何取得文本和其他律师未经培训还无法理解的方法之间的平衡。这些方法一般公民也是不太了解的。”
Hildebrandt确实看到了AI法律争论挖矿能用于好的用途的机会——比方说，AI可以用于评估特定法院所做决策的质量。
当然她也提醒道，这类系统的设计均需经过深思熟虑。
虽然这项研究部分内容是抽象的，基础知识牢固，Hildebrandt指出，正在研究的技术——AI（人工智能）和区块链——还处在“试验阶段”，但已经在法律环境中得到应用。
而且，这是一个技术驱动的未来，各项技术无法均匀分配，风险很大。
她补充道：“欧盟和各国政府都喜欢做出尝试，目前实验停止了，系统已经实施，那些关于你我生活的影响力决策总是很难被大众看到。”
她也希望由该项目开发的解释方法将帮助律师和律师事务所正确运用法律科技（用科技改变法律服务），并将此技术作为其销售点。
她说：“显然，当前市面上会有很多垃圾。这是不可避免的，这将成为法律科技的竞争市场，技术最终是好是坏，很难评断——所以我相信，通过采用这种基础的观点，如果你想要作出这样的判断，就会更容易知道你需要留意的地方。这里涉及一种心态和了解事情的具体情况的知情心态。
“我完全赞成敏捷和精益计算。不要做那些毫无意义的事情…...我希望这个研究能帮助人们跳过基本上荒谬的方法，为其带来一定的竞争优势。”
