“AI换脸”技术以假乱真?一处bug可识别假脸

“AI换脸”技术以假乱真?一处bug可识别假脸
2019年03月18日 09:53 央广网

  原标题:“反AI变脸”技术通过有效预测眼睛的状态,准确率达99%

  AI换脸也有bug,看看人物眨没眨眼

  近?#30504;?#35270;频网站blibli流传出一段视频:电影《射雕英雄传》(1994年版)朱茵主演的黄蓉被视频制作者通过“AI换脸术”处理成了杨幂的脸,神态表情如同朱茵饰演的黄蓉一样生动俏皮,毫无违和感,顿时引起网民热议,以至于微博话题点击量飙升至1.1亿。

  所谓AI换脸术,是基于人工智能的人体图像合成技术,生成的假脸(通称DeepFake)。那么,这个技术是怎么做到如此出神入化?它给人们的生活会带来哪些利与弊?有何办法对其辨别?避免潜在风?#30504;?/p>

   强调“以假乱真”

  让黄蓉秒变脸的视频制作者表示,这么做仅是用于“技术交流”。其实,AI换脸技术已然在我们身边荡起涟漪。

  今年?#33322;?#26399;间,科幻影片《疯狂的外星人?#20998;型?#26143;人逼真的神态表情,是由演员徐峥通过“动作捕?#20581;?#20986;演完成?#24187;?#22269;动作电影《阿丽塔》用AI科技加持,为观众呈现闪?#38142;?#30524;的战斗萝莉阿丽塔动感十足;经典影片?#31471;?#24230;与激情7?#20998;校珹I换脸还原了因车祸意外去世的主演保罗·沃克的音容笑貌,让整部影片多了一丝“你永远与我们同在”的温暖。

  不同于戏曲换脸的变幻,“AI换脸术”强调“以假乱真”。简单说,AI换脸就是将目标人物各个角度的人脸照片一帧帧贴在?#25442;?#23545;象的视频画面上,生成假脸视频,?#28909;?#33021;达?#20581;?#26417;茵or杨幂?#21487;?#20667;分不清!”的效果,即大功告成。

  “从技术层面讲,首先要进行数据采集,捕捉不同的脸姿态、表情、角度和光照的人脸图片;再者进行数据处理,包括采集数据标准化及分割算法处理等;硬件上需要一个较好的GPU,家用计算机可能会吃力一些,制作需要几个小时甚至数十小时,但是现在已有许多插件可以辅助。”为2019年央视网络?#21644;?#25552;供虚拟主持人技术支持的?#21450;?#20844;司创始人郑毅告诉科技日报记者。

   有“坏孩子”之嫌

  “AI换脸术”从其命名为DeepFake起,恐?#20081;?#26377;“坏孩子”之嫌。

  据说,DeepFake原本是一个?#27809;?#30340;名字,他将《神奇女侠》主角盖尔·加朵的脸嫁接到另一张脸上,后被这位女演员及其律师起诉,但无奈尚没有相关法律条文对其问责,由此DeepFake反而因为“创新之举”一炮走红,成为“AI换脸术”代言人。

  在某些重大政治场合,以假乱真的假新闻对于民众的误导,带来的负面影响是不可估量的。2018年5月,美国总统特朗普宣布中止全球气候变化协议,随后被比利时某政党利用DeepFake篡?#27169;?#20570;了一个“特朗普宣告比利时政府也应退出”的假视频,引起比利时民众的公愤。可以想像,如果类?#39057;?#20551;视频被用在投票、骚乱、战乱误导民众,煽风点火,后果可能是灾难性的。

  此外,DeepFake也有道?#20081;?#24739;。现在很多明星已躺枪,包括艾玛·沃特森、斯嘉丽·约翰逊、瑞汉娜等?#32654;?#22366;影星、歌星,?#25442;?#33080;后的视频上传到成人视频网站,以假乱真的换脸技术,要面临社会很大的道德争议。

  有外媒称:“这种技术再次提醒我们,在这个数字时代,任何事情都不能盲?#24247;?#30475;表面,因为那张脸可能是在欺骗你。”

   用AI假里辨真

  如何辨别“AI换脸术?#20445;恐檔们?#24184;的是,科学界正在应对这个问题,而主要“杀手锏”是运用AI技术假里辨真。

  纽约州立大学奥尔巴尼分校教授?#28010;?#21355;领导的团队发现了伪造视频的漏洞:假脸极少甚至?#25442;?#30504;眼,因为它们都是使用睁眼的照片进行训练的。

  研究人员表示,伪造视频往往忽略了“自发的、无意识的生理活动,例如呼吸、脉搏和眼球运动”。?#28010;刮浪擔骸?#22240;此,缺少眨眼是判断一个视频真假的好方法之一。”

  这种作为“反AI变脸”技术通过有效预测眼睛的状态,准确率达99%。此项研究已由美国国?#26639;?#32423;研究计划局资助,作为甄别媒体假新闻,推进媒体取证计划的一部分。

  “在伪造视频的后期处理中手动添加眨眼,其实并非一个巨大挑战,而且一些伪造视频已包含眨眼。从长远来看,?#23548;?#19978;这是一场通过AI制作假视频和检测假视频之间的?#20013;?#25112;斗。”?#28010;刮浪怠?/p>

  此外,郑毅提出,“通过强制记录照片和视频拍摄的时间、地点,既在区块链上记录照片和视频不可篡改的时空戳方法,也可进行鉴别”。

  然而,公共科学研究犹如一把双刃剑:骗子一旦了解其骗局是如何被识?#39057;模?#23601;可以对算法进行相应调整。道高一尺魔高一丈,“从这个意义上讲,他们已经占?#25103;紓?#26368;终很难?#30340;?#19968;方会获胜。”?#28010;刮乐?#20986;。(通?#23545;?闫欣 记者 华凌)

视频黄蓉朱茵
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创?#24405;?/h3>

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片