【原创】“AI换脸”视频不能随便玩了!国内首个监管规定元旦起施行
2019-12-04 01:52

上传自己的“脸”,就能把诸多明星换成你的“表演”——还记着前阵子在朋友圈刷屏的“AI换脸”不?这类技术带来有趣体验的同时,也引发人们对隐私、版权、安全等方面的担忧。近日,监管部门“出手”了。国家互联网信息办公室等三部门联合发布的《网络音视频信息服务管理规定》,将从2020年1月1日起施行。“AI换脸”现状如何?国内首个监管“AI换脸”的规定会带来什么影响?扬子晚报/紫牛新闻记者进行探访。

策划:沈春宁

扬子晚报/紫牛新闻记者  李冲 徐兢 马燕

图片

“杨幂版黄蓉”AI换脸视频一度很流行  图源:网络

A.新规出台

“AI换脸”监管新政出台

应有显著标识,建立“辟谣机制”

近日,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(简称“《规定》”)。国家互联网信息办公室有关负责人就《规定》相关问题回答了记者的提问。

据悉,《规定》出台的背景是为了促进网络音视频信息服务活动健康有序发展的需要。当前,我国网络音乐用户规模已达6.08亿,网络视频用户规模已达7.59亿。但与此同时,也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患,特别是随着“深度伪造”等新技术新应用在网络音视频领域的运用,这些风险进一步集聚、放大。因此,亟需出台有针对性的管理规定。

扬子晚报/紫牛新闻记者看到,《规定》中多次提及基于“深度学习”“虚拟现实”等新技术新应用的音视频。《规定》强调,网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

《规定》首次提出“辟谣机制”——网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。

《规定》还明确了监管和处罚机制——违反《规定》的,由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

图片

网信办官网截图

图片

网信办官网截图

图片

网信办官网截图

分析认为,《规定》被视为对“AI造假视频”的一次针对性管控。可以预见,随着《规定》出台和施行,滥用“AI换脸”技术或将受到处罚。

B.探访现状

淘宝上的AI视频“换脸”

有的一分钟内收费60元

2017 年底,deepfake 换脸技术出现后,使用 AI 技术“造假”的视频也日渐增多。而且,随着技术的进步,此类视频变得越来越真假难辨,引发人们的担忧。

总体而言,通过大数据和机器学习,AI解构信息后,就能完美地生成他人的声音和形象信息。

今年八九月份,一款名为“ZAO”的App刷屏朋友圈。只需在手机上安装这款App,就可以在视频模版中一键“换脸”。当时扬子晚报/紫牛新闻记者曾下载App,并授权使用照片。体验的感受是:视频中自己的脸,像是介于明星和自己长相的“中间人”。分享给朋友后,他们表示“跟你本人相似度60%-80%”。

但就在“ZAO”流行的同时,其也因暗藏隐私泄露“大坑”,且无法注销的的用户协议条款引发争议。

实际上,在“ZAO”之前,“AI换脸术”也曾风靡过。最火的莫过于“如何让杨幂拥有朱茵的演技?”——今年年初,一段借助“AI换脸”制作的94版《射雕英雄传》流行,黄蓉扮演者朱茵的脸被换成杨幂的,虽然五官不同,但换脸后的表情、动作自然流畅。

12月3日,扬子晚报/紫牛新闻记者在B站搜索“换脸术”,仍有相当多视频。有的是由“ZAO”直接生成,有的是专门做换脸视频的Up主上传。

此外,扬子晚报/紫牛新闻记者从淘宝上搜索“AI换脸”,也能找到大量机器合成的音视频。十几块钱就有商家提供这样的定制服务;自己使用手机APP也可以进行“换脸”制作。有PS“换头换脸”的商铺,只要手持照片,就能换背景,与明星合影,或者将人物的“头”完美“嫁接”到明星身上,不仅能正脸替换,还能将侧脸换成正脸。也有淘宝卖家表示,可以定制AI视频换脸,做成“穿越大片”、形象包装、“收集”明星祝福等。有的一分钟以内视频收费60元。

图片

淘宝截图

图片

淘宝截图

图片

淘宝截图

图片

淘宝截图

C.未来影响

“AI换脸”并非人工智能的“裸奔”

新规将有助于行业健康有序发展

国家互联网信息办公室有关负责人曾表示,出台《规定》,旨在促进网络音视频信息服务健康有序发展,保护公民、法人和其他组织的合法权益,维护国家安全和公共利益。

新规出台施行后,未来行业趋势如何?有分析认为,“AI换脸”不能是人工智能的“裸奔”,监管规定的出台,有助于规范行业的健康发展。

扬子晚报/紫牛新闻记者据Wind查询发现,有分析认为,《规定》建立健全了网络音视频信息服务行业标准和行业准则,将有助于督促服务提供者依法提供服务、接受社会监督,提高从业人员的职业素养,促进行业健康有序发展。

那么,新规会给普通人带来什么样的影响呢?可以预见的是,今后创作者对换脸技术的使用必将更加谨慎,需要警惕其中面临的风险。对于希望利用换脸技术牟取利益的人来说,这同样是一种震慑,特别是色情视频等黑产从业者。

对于网络音视频信息服务使用者而言,则应依法使用网络音视频信息服务,自己的权利受到侵犯时一定要举报投诉,依法保护自己应有的权力。

地址:南京市建邺区江东中路369号新华报业传媒广场 邮编:210092 联系我们:025-96096(24小时)

 

互联网新闻信息服务许可证32120170004 视听节目许可证1008318号 广播电视节目制作经营许可证苏字第394号

版权所有 江苏扬子晚报有限公司

 苏ICP备13020714号 | 电信增值业务经营许可证 苏B2-20140001