猎云网注：AI技术应用逐渐落地的同时，换脸技术从最初的个人娱乐行为，走向了黑产交易。大量AI明星换脸情色淫秽片流露，AI技术成为地下的热门生意，而技术本中立，但人性却难预测......文章来源：AI星球（ai_xingqiu），作者：奇点、小LV
AI技术应用逐渐落地的同时，换脸技术从最初的个人娱乐行为，走向了黑产交易。近日，AI星球发现，部分二手交易平台就出现了“150元40合集定制”、“60元全部打包”，用AI明星换脸情色淫秽片的地下交易。
这些卖家通过AI换脸技术制作出当红女明星的不雅、大尺度视频图片进行售卖。
40元100部视频，850元包制作教程
其中，一位卖家告诉AI星球，AI换脸不雅视频有多种形式的套餐：
“150元40位明星脸来图定制”，就是“150就是你来（选）图、我帮你搞，10分钟的视频”；
“若纯买视频是40、约100部”。
当AI星球问到这种AI换脸技术是否有教程自己跟着学时，卖家表示：“¥850，连教程加安装软件，一步到位。”
随后，卖家担心用户对其质量及隐秘性表示怀疑，特意发来“现场版制作过程”及“AI换脸某明星大尺度视频”体验版。
AI星球在同一平台和另一位卖家沟通，经过一番“讨价还价”，全部视频资源从“60元直降20元！”，其中包括全部的视频及几百张图片。
当谈及卖家隐秘问题能否保证时，卖家表示：绝不走账号，一律通过网盘渠道发送，与账号没关系，安全性极高，支付方式支持微信、支付宝等多种渠道。
AI换脸黑产通过AI定制技术，对众多女星的肖像进行“移花接木”合成淫秽视频，进行非法盈利。
据悉，目前利用AI换脸技术从成品情色视频、定制视频到软件及教程，整个产业链从下、中、上游都有厂商提供，有的厂商甚至从研发、定制、包装等提供一条龙服务。
关于AI换脸女星肖像深陷“艳照门”事件，今年3月，闲鱼就有做出了相关回应。
从3月20日起，闲鱼相关人员在浙江省网信办的协助下，掀起了为期3个月的“互联网专项整治”之风，当时就开展了严厉打击涉嫌违反公序良俗的“扫黄打黑”行动。
其平台负责人表示，对于对违反公共秩序及良俗的售卖交易一直以为都采取零容忍的态度，对相关行为采取“严重处罚”策略。与此同时，闲鱼平台将主动协助执法机关开展线上举报违规账号、线下协助打击黑产、及时追踪团伙。
北京大成（哈尔滨）律师事务所朱宝律师在接受AI星球采访时表示，AI“换脸”明星售卖淫秽视频，一方面，利用并非原创的视频从事商业活动，这种行为已经侵犯了原有视频的版权所有人的知识产权；与此同时，这类视频在国内传播，即使没有商业利益，其根本上已经触犯了“传播淫秽物品罪”；此外，通过AI技术非法盗取明星照片，构成人格权利侵权行为，会涉及到名誉权诉讼。
根据我国《刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
技术本中立，人性难预测
此前，AI换脸软件“ZAO”的一夜爆红，在不到一个星期的时间里，经历了从“一炮走红”到“道歉约谈”的大起大落。
这类换脸软件的“平民化”在实现AI应用层面的突破的同时，也暴露出许多问题。
回到2017年，一位名叫“deepfakes”的网友在Reddit上发布了一条《神奇女侠》女主“盖尔·加朵”的色情视频。
为了制作这段视频，deepfakes用静态图片和YouTube视频对机器学习算法进行了训练。这也告诉我们，机器学习确实可以用于制作任何人的色情视频。
事实上，deepfakes还用类似的方法给泰勒·斯威夫特（Taylor Swift）和麦茜·威廉姆斯（Maisie Williams）制作了类似的视频。
这款视频爆火之后，deepfakes用户数一周内就从15000扩张到55000个。
由于巨大的娱乐性和潜在的商机，AI换脸被得到大范围普及和使用。
2018年，一位名叫阿冷的主播，在网友的创作下可以一天“换一张脸”。
这是刘亦菲：然后是唐嫣：还有范冰冰：（更多请关注“AI星球（ai_xingqiu）”微信公众号）
坦白说，技术是中立的，对于AI换脸我们起初也并没有介意过。
几年前，《速度与激情7》里的主演保罗·沃克，在电影没杀青之前就意外离世。
影片最后，制作方是通过一种CGI的技术换脸呈现出来，才让我们看到了分叉口永别的这一幕。
deepfakes火爆之后好莱坞的一些数字公司就对它产生了强烈兴趣——对于电影制作公司来说，这项技术将大大提高后期制作对效率，而且大量节约成本。
技术是中立的，而那些AI换脸软件之所以被大众抵制以及产生担忧的真正问题就在于，当它走出专业影视制作需求，在未经用户许可的同时用于伪造虚假视频、甚至利用手中掌握的人脸信息进行非法催收活动，影响财产安全。
对于AI换脸可能造成的危害，其早期“受益者”Reddit2018年2月采取行动，关闭了deepfakes论坛，并更新了全网规则，称将会严格审查涉及非自愿情色和未成年性暗示的网站。
这一抵制“换脸情色视频”的做法，也获得了包括twitter等社交平台，pornhub等色情网站等各大平台的认可。
其中，Pornhub就表示：“本站不容忍任何非自愿的内容，非自愿内容直接违反我们的使用条款，该条款禁止复仇色情报复（revenge porn）、deepfakes，以及任何未经同意或允许上传的内容。”
对用户协议涉嫌过度收集用户信息及隐私安全争议，AI换脸软件“ZAO”也在9月3日首次做出回应，称：在用户使用过程中，为保护肖像权不被冒用，“ZAO”设置了真人验证环节，整个过程仅为验证用户上传的照片是您本人，为确保用户的信息安全，“ZAO”不会存储个人面部生物识别特征信息。
但往往，很多时候，都是我们自己无意识中“勾选”了暗藏玄机的用户协议，以及通过不同方式上传了照片。
当然，除了需要从更多法律层面规范各种互联网APP隐私保护等问题外，“科技向善”绝不仅仅是一句简单的口号和遇到危机就拿来用的挡箭牌，它是迈向深渊的边界。
