深度伪造、数据污染与网络生态治理

摘要:作为人工智能的新应用,深度伪造绝非一无是处,恰恰相反,它在教育、艺术、娱乐产业中潜力无限,正因如此,政府不能一禁了之,而应采取弹性和回应性的监管策略。



深度伪造技术的诞生,不但引发了用户对隐私问题的恐慌,也带来了政治风险和国家安全问题。然而,深度伪造一定是恶的技术吗?法律的严厉禁止能否杜绝深度伪造的泛滥?或许,我们可以将网络看作另一个自然环境,将深度伪造当作造成污染的石油,从《环境保护法》中获得一些借鉴。

❒文 | 许可对外经济贸易大学数字经济与法律创新研究中心执行主任

1997年,吴宇森导演拍摄的电影《换脸》描述了美国FBA探员和恐怖杀手人脸互换所引发的人生惊变。二十年后,尽管真实空间中的换脸依然不易,但在网络空间中,我们早可化身千万,可以成为《换脸》中的约翰·特拉沃尔塔,也能成为尼古拉斯·凯奇。而让这一“梦想”成真的就是AI换脸App“ZAO”。

只要向ZAO上传一张正脸照,每个人都能“逢脸造戏”,将自己替换为影视作品中的人物,生成逼真的视频。然而,ZAO在娱乐自己、欢乐大家的同时,也面临着用户隐私协议不规范、数据安全堪忧的质疑。在遭到工信部问询约谈之后,ZAO立即修改了用户隐私协议,并承诺全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。

虽然ZAO的风波暂告段落,但制度上的反思远未终结。我们所要追问的是:ZAO以及其背后的“深度伪造”(Deepfakes)技术真正的风险究竟何在?什么才是治标又治本的法律良方?

❒从个体风险到公共风险

人们对ZAO的焦虑,主要源于其用户协议和隐私政策中设置不合理霸王条款、未清晰说明个人信息处理规则、存在违规收集用户个人敏感信息等诸多问题。

在汹涌的舆论面前,ZAO修改了用户协议,声明:真人验证环节仅为验证本人上传,“不会存储个人面部生物识别特征信息”,并将“严格遵守法律法规的要求,全面保护个人信息和数据安全”。ZAO的回应看似完全平息了监管机构和公众的疑虑,事实上却掩盖了深浅两大问题。

就浅层次问题而言,基于个人信息收集必要性原则,在多种网络可信身份验证技术均相对成熟的前提下,真人的动态验证不仅是不必要的,也令人起疑:ZAO能否信守不收集人脸敏感信息的承诺?

而更致命的是深层次问题,那就是ZAO完全回避了它对公共风险所承担的责任。

ZAO绝非第一个主打换脸功能的APP。早在2017年,一位名叫Deepfakes的用户在社交平台上传了一段由《神奇女侠》主演盖尔·加朵“主演”的成人短片,并公布了相关代码,潘多拉魔盒由此打开。2018年1月,FakeApp的桌面应用程序上线,这是一个借助“深度学习算法”制作写实主义换脸视频的桌面工具。

随着类似应用的相继出现,人们开始用Deepfakes(深度伪造)描述这一类技术、软件和行为。作为“deep learning”(深度学习)和“fake”(伪造)的合成词,它意指利用人工智能技术实现图像、视频、音频的生成或修改,达到信息内容以假乱真的目的。如此来说,ZAO的风险在本质上就是深度伪造风险的映射。

与对ZAO的批评集中在个人信息的保护不同,人们对“深度伪造”的担忧主要是社会层面的。其首当其冲的就是政治风险和国家安全。

在美国,深度伪造多次被用来歪曲知名政治人物的行为和言论。例如,2019年1月,福克斯电视台播出了特朗普在白宫办公室演讲中的伪造视频,嘲笑他的外表和肤色。无独有偶,2019年5月,特朗普在twitter上分享了美国众议院议长南希·佩洛西的伪造视频,讽刺她反应迟缓。

2016年美国总统大选佛罗里达州候选人、共和党参议员卢比奥,就曾将Deepfakes与核武器相提并论:“过去,如果你想威胁美国,那你需要10艘航母、核武器,还有洲际导弹。现在,你只需要登录我们的互联网系统、银行系统、电网、基础设施网络,甚至,你只需要具备弄出一段可以以假乱真的虚假视频来搞乱我们的选举就行了。这就足以让我们的国家陷入巨大的内乱,深深削弱我们。”

对他人名誉权、肖像权,甚至商誉的侵害是深度伪造的第二罪状。将演艺明星头像嫁接到色情演员的身体上本就是那个名为Deepfakes用户的“初心”。2019年6月,DeepNude应用发布,只要你提供一张他人的照片,它就可以根据这张照片使用深度伪造技术,还原此人的裸体形象。很快,这一APP就陷入巨大争议而下线,开发者对此表示:“这个世界还没有准备好面对DeepNude。”

我们还可以设想,利用“深度伪造”技术能够创造一家上市公司CEO宣称公司即将破产的虚假视频,公司股价必将应声而落,其损失难以估量。

最后,深度伪造已经成为“社交诈骗”的一部分,人们会误以为收到了来自亲友的消息和指示,遭受精神和金钱的双重损失。

法律的回应及其不足

面对深度伪造的挑战,国家并未束手旁观。迄今,美国已公布了《禁止恶意深度伪造法案》《2019年深度伪造责任法案》《2019年深度伪造报告法案》《德克萨斯州关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》等法案。国家网信办《数据安全管理办法(征求意见稿)》第24条亦规定:“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明‘合成’字样;不得以谋取利益或损害他人利益为目的自动合成信息。”

纵观既有法律,深度伪造的应对措施限于如下三者。

一是强化对个人信息的保护,要求收集者遵循透明性和必要性的要求,让用户清楚了解后果并明确同意,赋予其更正或删除信息的权利;同时,数据控制者承担高标准的数据安全义务。

二是强化对深度伪造的披露,通过水印、标注、数字签名等技术表明其“虚构”特性,使公众产生心理上的警觉,减少被误导的可能性。

三是强化对不法使用的限制,不得制作、传播可能侵犯他人权益或构成刑事犯罪的深度伪造信息。

这些措施固然有用,但正如上文所指出的,它们远远不够。首先,深度伪造的受害者往往并不是提供信息的个人,个人信息的保护不过是扬汤止沸。其次,作为一个开源的技术,深度伪造的门槛低、迭代快,强制披露的规制难以落到实处。最后,尽管防范深度伪造具体有害行为是民众和政府的核心诉求,但其忽视了深度伪造的危害是弥散的和不确定的,相关损害无影无形又无远弗届。

这里,我们不妨借用芝加哥大学法学院教授欧姆瑞·本·沙哈尔的说法,将深度伪造称为一种严重的“数据污染”(data pollution)。

“解铃还须系铃人,新病还须新药医”。与传统关涉个体的数据风险不同,深度伪造凸显了数据社会风险的新问题,我们必须改弦易辙,引入其他治理机制,以弥补既有私法救济和公法监管的缺陷。

❒借鉴“环境保护法”治理网络生态

好比工厂排放的废气和废水,经过深度伪造的信息所影响的不仅仅是与排污者打交道的个人,更是整个网络空间以及更广泛的社交体系中的信任度。既有对深度伪造的法律规制,多聚焦于个体,在很大程度上忽视了个人自主提供数据对他人的不良影响,以及对公共产品和公共福利的戕害。而这要求我们站在网络空间的宏观视角重新思考解决之道。

事实上,这种关切网络生态而非数据本身的态度,业已隐含在国家网信办《网络生态治理规定(征求意见稿)》之中。实践中,从阿里巴巴追究售假、刷单炒信行为,到腾讯重点发力微信小程序生态的关键节点,起诉利用小程序从事违法行为的平台用户,再到百度对广告质量的管控,网络生态的维护已成为网络平台运营者的核心职责。

数据是21世纪的石油,但和20世纪的石油一样,它创造海量价值,可也在对天朗气清的网络生态造成威胁。为此,我们不妨移植自然环境保护法,遵循其原理和原则,形成针对深度伪造的“网络环境保护法”。与自然环境保护法类似,生产限制、碳排放税和侵权责任原则亦可适用于深度伪造的治理之中。

作为一种具有潜在危害的数据处理活动,深度伪造技术、信息的销售者和服务提供者应取得特别经营牌照,以期通过一系列细化的资质管控,落实数据安全、信息披露等强制性标准,并达到限制深度伪造使用、减少深度伪造信息数量的目的。

其次,与一般数据相比,深度伪造信息的生产者(包括用户和企业)对网络生态产生了负外部性,这些社会成本并没有纳入用户和企业的效用函数之中。故此,立法者可以效仿“碳排放税”,对提供个人信息的用户以及相关企业同时苛加“数据税”(data tax)。由于深度伪造个别信息造成的社会成本非常微小,用户承担的税负主要是象征性的,其旨在提醒每个人:小心从事深度伪造!

最后,如同危险品的泄露,一旦出现深度伪造相当程度或数量的违法使用,则责任人不仅要及时报告监管机构并告知用户,而且,在其故意或重大过失的情形下,还将承担惩罚性赔偿责任。为此,企业必须购买强制性的数据安全保险,防范其因破产而卸责。

作为人工智能的新应用,深度伪造绝非一无是处,恰恰相反,它在教育、艺术、娱乐产业中潜力无限,正因如此,政府不能一禁了之,而应采取弹性和回应性的监管策略。放宽视野看,随着世界的数字化转型,我们正经历着从数据个体风险向数据公共风险的转变历程,深度伪造不过是其中一例,而它所改变的,可能比我们所能想象的更多。

文 | 腾云

本文为 分分快3漏洞(http://xtl2400.com)转载作品,作者: 许可 ,责编:邢通。转载()请联系原作者。本文仅代表作者观点,不代表分分快3漏洞观点。

发表评论

您的操作太快喽,请输入验证码

您输入的验证码不正确。

看不清? 点击更换
确定