为什么连P站都会永久封禁AI换脸?

2017年11月《神奇女侠》北美地区上映5个月后。

一部由电影女主“出演”,全程仅两名演员的武打短片在Reddit论坛DC主题区出现。

今年五月一部黑特朗普对头的短片在推特上一经发布就登上热搜。

特朗普私人律师、前纽约市长第一时间转发。

但稍后他便删除了这条推文,因为在幕僚的提醒下他才发现这是部AI换脸的假视频。五角大楼亦对此发出警告。

现在油管上逐渐涌现出一批自称AI导演的新晋UP主。

他们通过AI换脸把电影或综艺里的人物更换成任何他们希望出现的人。

同样的风潮也在上半年刮到了国内。

甚至出现了和添加滤镜一样方便的短视频换脸APP,直播变脸APP。

而这一系列事件的背后都离不开一个名字—Deepfake。

Deepfake是对一类技术的统称而非应用程序。

它专指用基于AI的人体图像合成技术。是AI换脸中的一个门派。

如果把AI换脸比作田径运动,那么Deepfake就是其中的一个项目比如短跑。基于Deepfake开发的各种APP相当于短跑运动员。

开头提到的那个由神奇女侠女主出演的双人武打片其作者的ID即为Deepfake。

也是因为这个茬,Deepfake的大名得以被世人所皆知。

从设计思路上来讲Deepfake这派换脸技术相对比较简单。

假设现在要把特朗普的脸换成汤姆汉克斯的脸,并让特朗普以汉克斯的形象在电视上演讲。

那么首先需要做的是把汉克斯平面的照片或视频拿给AI观摩学习,让AI制作出一张汉克斯的“3D面具”。

Deepfake 演示

接着程序会撕掉特朗普的脸,然后把汉克斯的人脸面具粘上去。

相当于汉克斯出脸,特朗普出演技。变脸就这样完成了。

Deepfake 技术

其实AI换脸的门派还有很多。好莱坞已经玩了几十年。

说近点有2016年流行过的Face2Face。这个门派的招式允许施法者控制屏幕中人物面部的所有动作。

Face2Face

伯克利大学一团队更上一层楼。

他们的能力是可以让视频中的人做出任何他们想要的动作,甚至让运动残废变成野场舞王。

Face2Face

斯坦福大学领头的一个门派就更不得了了。

他们可以输入不同的文字对白直接改变电影中人物的对话。

比如男主有句对话是“我真帅”。那么你在程序里把这句台词文稿改成 “我真傻”,男主马上就会改口照念。

但这些技术只能生存在实验室。对硬件的高要求和专业技术的硬门槛使AI换脸在Deepfake普及之前始终是个高科技概念。

而Deepfake让配置中上的家用电脑加上傻瓜式的操作就能做出非常逼真的效果。

这就像像开启了潘多拉的魔盒。

随着技术的疯狂迭代硬件门槛降低到手机上也能运行。

今年上半年连一键脱衣APP这种东西都被人搞出来了。

说到搞颜色不得不说Deepfake发展初期全靠世界各地英才的支持才能走下去。

没有海量无私开发者拿Deepfake不懈的搞创作,它也不可能短时间内技术快速迭代并且成名。

神奇女侠女主算是第一个倒霉的。

而据P站统计相关作品中数量最多的是斯嘉丽。不过去年底斯嘉丽在接受华盛顿邮报对此的专题采访时称自己无可奈何,根本无法阻止人们继续这样的事。

斯嘉丽表示对自己而言不幸中的万幸是大家知道她肯定不会拍这些片子的。

但对于非公众人物来说,特别是随着今后技术的进一步提升,则很有可能成为敲诈勒索嫁祸的对象。

眼下能做的只有在网络上保护好自己的隐私。

嘉丽说的没错。如果只是搞搞颜色还不至于造成大祸。

但一般被用于诈骗或者搞大新闻后果则不堪设想。

而这已经正在发生。

据澳媒报,今年22岁的法学院学生马丁在谷歌上搜索自己照片时发现自己竟出现在了一部武打片里。而她甚至还未交过男朋友。

随后马丁通过邮件与发布者取得联系,而发布者却威胁说自己手上还有好几部没发。想要删帖得用自己的真果照或者比特币来换。

马丁推测黑客应该是盗取了她发在脸书上的照片作为原料。

福布斯杂志上半年报,一英国能源公司经理在接到“上司”给他打来的电话后将24万美元转入对方账户。

后来核实发现这通电话由AI模拟其上司的口音后拨出。

该案被认为是AI技术史上第一起诈骗案。

搞大新闻什么的就更不用说了。

马克·扎克伯格就被做过一个口无遮拦的假视频。制作者利用AI换脸技术借扎克伯格的脸发表了大段的反动言论。

后来G20期间脸书工作人员在公司内搞了一场假的记者会以警示社会。

他们与经过AI换脸的假特朗普进行视频连线。过程中假特朗普甚至说出了“是上帝选择了我”的戏言。

而若不是事前知道,就画面效果没人会想到这是假的。

在神奇女侠女主、斯嘉丽等一众欧美女星纷纷“下海”后,Deepfake引起了美国社会的高度重视。

推特、INS、脸书等平台相继出手管控。

在Deepfake出道的Reddit论坛上原讨论板块全部被删除。现新开的Deepfake技术相关讨论区里,区名前方被加上了SFW的求生标签(safe for work的缩写,意思是工作时也能看,与之相对的是NSFW)。

而大佬中下手最狠的竟然是P站。与其它平台保留部分无害内容不同P站直接一刀切。

永久封停所有AI换脸相关作品。

美国众议院特别情报委员会主席在三个月前的听证会上表示,社交媒体应该立即制定政策保护用户不被假信息诱骗,而不是等到2020年大选以后。

加州一参议员曾提出法案认为恶意利用Deepfake应入刑。

五角大楼更是把对抗Deepfake提升到了国防战略的层次并称“这是一场军备竞赛”。CNN对此作了一篇分量沉重的报告。

不过造谣一张嘴,辟谣跑断腿。

事实上至今为止针对Deepfake的反制是无力的。

虽然五角大楼投入数千万美元在侦测AI换脸视频上,美国也兴起了一批鉴定视频真伪的创业公司。

不过就数据来看仍旧是敌众我寡杯水车薪。

荷兰一专门研究该项技术的组织DeepTrace Labs去年发布了一份针对Deepfake的调查报告。

据报告中的数据。2018年全球关于如何利用Deepfake造假的论文共902篇,而相关检测技术的论文仅25篇。

去年Deepfake相关视频被纽约州立大学发现有重大缺陷,即人物不会眨眼。

纽约州立大学据此开发出了相应的检测软件,成功率曾一度高达99%。

不过仅两周后实验人员就收到了一封Deepfake创作者的来信,信上声称感谢学校为他们发现了重大BUG。不眨眼的问题现已修复,欢迎下载最新版本体验试用。

无利不起早,在目前供需环境下单靠市场自然调控或许Deepfake的造假技术永远会走在鉴伪技术的前面。

不过至少在泛娱乐领域Deepfake做出了贡献。一种新的视频艺术形式或将诞生。

在油管上搜索Deepfake等关键词,你可以看到不少自称是AI导演的up主制作的搞笑视频。

比如把奥普拉秀改成泰森秀让他采访Snoop Dogg。

改进综艺里的模仿秀环节,让模仿者完全变成被模仿的人。

以至于还有些大制作。

让埃隆马斯克出演钢铁侠。

史泰龙出演终结者。

修正迪士尼过于写实化的新狮子王等。

在B站上有种类似的玩法叫万物皆可徐锦江。

通过AI换脸,作者把徐锦江插入到了各种违和的地方。

而在美国相对应的则是万物皆可尼古拉斯凯奇。

这是因为凯奇当年的经典之作《变脸》,在某种程度上已经成为了可以实现的预言。

一前谷歌工程师在TED演讲上发表了自己对Deepfake这项技术的展望。

他表示相较其它形式的学习,人和人面对面交流可能会更有效率。

比如通过这项技术我们可以让爱因斯坦一对一的给我们讲相对论,让达利教你什么是透视光影以及超现实主义。

那些逝去的音乐人也能借此还魂。

亲自演绎自己作品,让艺术在画面中永存。

把时间线拉长来看,AI换脸技术依然处于起步。

人物侧脸失真,人物不能处于快速运动,很多基础的问题仍有待全球英才们去解决。

不过短短几年就能造成这么大的影响,再加上即将普及的5G加持,很难说5年或者10年以后我们的视频娱乐以及视觉产业会变成什么样。

Deepfake的潜力与未来让人捉摸不定。

我们能做的就是静观其变,并谨慎观察这个革新的过程。

回复

请输入您的评论!
请在这里输入您的姓名