朱茵变杨幂,AI换脸有多神?背后原理揭秘:有人用于黑产诈骗

近日,一段“AI换脸杨幂”的视频引起广泛关注。视频中,《射雕英雄传》里朱茵饰演的黄蓉被更换成了杨幂的脸。目前,相关视频已被下架。 

究竟杨幂的脸是怎样自然地“嫁接”给朱茵?一旦被有心者利用又将面临什么安全风险?

有技术专家对隐私护卫队表示,换脸技术并不新鲜,很早在影视制作中就有。目前已有犯罪团伙通过3D软件合成“假脸”认证网络平台账号,在受害人不知情的情况下,进行虚假注册、刷单、薅羊毛、诈骗等不法行为。 

AI换脸引争议:我被人假冒了怎么办? 

2月25日,一段通过AI技术把朱茵扮演角色的脸替换成杨幂的视频在网上热传,整个视频清晰流畅,毫无违和。 

7323bfd7fd6b0f688655be628ae2613d4797.gif

杨幂版黄蓉。

此前南都记者以“AI换脸”为关键词在视频网站上搜索发现,除了被换脸的朱茵版《射雕英雄传》视频外,网上还有“冯提莫换脸赵丽颖”、“阿冷换脸刘亦菲”等同款视频,甚至还能找到“换脸软件安装指南”等教程。  

如此“高阶”的换脸技术引起了网友的讨论。有网友称,“单看技术真的很优秀,完全看不出痕迹”,但更多人表示恐慌,“以后视频也能作假,如果没有鉴别手段,那么视频证据将失去意义”。

还有人对此感到担忧,一旦该项技术成熟,可以对人脸数据进行二次生成,出现一张非常酷似你的脸,如果有人不经过你的允许用于违法之事,那你无法证明这张脸是你的脸,无法进行维权,后果非常可怕。 

针对此事,“AI换脸杨幂”视频制作者回应,已经私信跟杨幂官方工作室沟通,并及时下架了相关视频,同时强调AI换脸应该用正确的方式打开,尊重版权与肖像权。  

AI换脸术不新鲜,专家称有法律和伦理风险 

尽管相关视频已被下架,但围绕AI换脸技术的争议不断。有技术专家对隐私护卫队表示,这项技术并不新鲜,只是这次有人找了个好玩的点,于是引发广泛关注。 

据阿里安全图灵实验室高级算法专家觉奥介绍,换脸技术很久之前在影视制作中就有,主要通过大量人工和计算机图形图像工具实现,而现在由于技术的发展,纯用技术就能实现完美换脸。 

“当前主流的换脸技术是基于深度学习模型,其核心是一个自动编码器。”觉奥进一步解释,通过人脸检测技术,可把视频中两个人,比如朱茵和杨幂的脸抓取下来,数量需要在几千到上万张,之后训练这一个自动编码器和两个解码器,一个解码器生成朱茵,另一个生成杨幂,训练好以后,输入朱茵的脸就能生成杨幂的脸了。 

据隐私护卫队了解,目前AI换脸技术已应用于影视制作、视频直播、新闻播报等场景,而由此带来的法律和伦理问题不容忽视。2017年,有国外网友发布了一个虚假的淫秽视频,将色情明星的脸与知名度高的大众明星的脸进行了更换,从而引发巨大争议。 

在接受南都记者采访时,西南政法大学人工智能法学院院长陈亮表示,未经授权修改影视作品,涉嫌侵犯影视作品的著作权;在相关色情视频中的换脸,可能侵犯他人的名誉权;未经本人同意擅自使用其肖像进行换脸,可能侵犯他人的肖像权。 

AI换脸术已用于黑产,实施诈骗 

除了换脸引发的道德和伦理问题,觉奥表示,黑灰产利用AI换脸是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击。” 

隐私护卫队从阿里安全方面了解到,2017年11月下旬,阿里安全图灵实验室发现,有犯罪团伙通过3D软件控制人脸照片进行攻击操作,共发起过几百次攻击,导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后,黑灰产人员可在受害人毫不知情的情况下,用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。 

由于深度学习的迅猛发展,网络攻防的技术不断进步。值得注意的是,无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。 

当前,如何识别“虚假人脸”也成了互联网企业关注的焦点。据觉奥介绍,阿里安全图灵实验室可做到通过深度学习技术,训练模型,将两者的纹理、肤色、反光等特性识别出来。“目前识别准确率达到99.9%,可实现在毫秒级时间内揪出假人脸,”觉奥说。 

据隐私护卫队了解,今年年初,阿里安全图灵实验室提出了安全AI的概念,包括AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI,希望提升行业对这一领域的关注,推动AI更好发展。 

采写:南都记者李玲 秦楚乔