火爆的AI换脸技术惹争议 特朗普曾无辜躺枪

特朗普上一年宣告退出应对气候变化的《巴黎协议》。比利时某政党随后就使用“深度假造”技能篡改相关视频，发布了一段名为“特朗普声称比利时政府也应当退出”的虚伪视频，借机引发比利时民众的愤恨。

你今日“换脸”了吗？

不用承当美容手术的危险，不用支付瘦身健身的汗水，就能迅速将影视片段中的人物替换上自己的脸，或摇身一变成了“上仙”，或与“爱豆”同框对戏，再把片段转发到交际媒体平台上，收成点赞与热评。

你只需下载一款名为“ZAO”的“换脸”APP（手机使用），上传自己的高清相片。

（图片来自网络）

“ZAO”就这样火爆网络。但火爆一起，争议和忧虑也接二连三。

其实，这种“以假乱真”的换脸APP并非新鲜事，近两年已在大洋彼岸掀起过追捧和争议的热浪。

不管身在何方，人们有一个一起关怀的问题：接下来，怎么办？

相片宣告去就撤不回？

根据“ZAO”的用户协议相关条款：用户一旦上传自己的相片进行视频“换脸”，将在全球范围内完全免费、不行撤销地将包含人脸相片在内的肖像材料授权给该公司和其相关公司。

相关企业尔后在舆论压力下对用户协议进行了部分修正，但并未平缓外界对隐私走漏危险的焦虑。

早有前车之鉴

2017年，一位名叫“deepfakes”的外国网友就使用AI（人工智能）技能，将DC超级英豪电影《神奇女侠》扮演者盖尔·加朵、《哈利·波特》主演“赫敏”艾玛·沃森等明星的脸，“偷梁换柱”到了色情片女主角身上，一度掀起轩然大波。

这一技能被揭露后，各种换脸软件层出不穷。“deepfake”也因而成为这项技能的代名词。

“deepfake”（深度假造）是英文“deeplearning”（深度学习）和“fake”（假造）的组成词，是一种根据AI的人体图画组成技能。

使用深度学习算法进行音频、视频的仿照和假造，不仅能完结换脸，还可仿照真人声响，创造出实际不存在的人物活动，让或人说没说过的话，做没做过的事。

这种技能的一大特色便是，投入深度学习的内容库越大，组成的音视频仿真性就越高，乃至能够到达以假乱真的作用。因而，在公共场合露脸较多的政治、商业、文娱人物被“深度假造”的或许性更大。

2018年，美国跨大西洋推举诚信委员会开发了一个在线检验，让用户收听喜剧艺人埃里克·鲍德温、特朗普仿照者约翰·笛多曼尼克以及算法生成的仿照特朗普声响，挑选谁的声响更像特朗普自己。

成果显现，267名听众中，绝大多数人以为人工智能的音频比任何人类语音样本更挨近特朗普本尊。

“深度假造”是一把双刃剑

毋庸置疑，“deepfake”是一把“双刃剑”。

一方面，这项技能能够带来立异使用。比方，在影视制造职业就有必定需求。比方，有的艺人在电影拍照完结前逝世了，依托换脸技能还能在银幕上“复生”。AI换脸还能够完结艺人不在场拍照，提高拍照功率，节约经费。

电影《速度与热情7》还有没拍完，保罗·沃克便因车祸逝世。剧组使用了AI换脸技能，活生生的保罗便出现在观众面前。

另一方面，这项技能假如被别有用心者使用，制造各种或许触及色情、暴力、政治要素的虚伪视频，就会成为损害别人合法权益和损害社会公共安全的东西。

特朗普上一年宣告退出应对气候变化的《巴黎协议》。比利时某政党随后就使用“深度假造”技能篡改相关视频，发布了一段名为“特朗普声称比利时政府也应当退出”的虚伪视频，借机引发比利时民众的愤恨。

不久前，声称“一键脱衣”、轻松生成裸照的手机使用“DeepNude”在巨大争议和批判声中全面下线。

“反假造”技能管用吗？

人们还在活跃神往着人工智能为未来社会供给超乎幻想的便当和革新，却发现自己这么快就要开端面临与之相生相伴、相同超乎幻想的挑战和难题。

美国国防部高档研讨方案局本年推出了“媒体法医”项目，开发用于辨别和定位假造图片和视频的技能。

不过，布法罗大学人工智能研讨所所长戴维·德曼以为，只是依靠过后辨别还不行，有必要将辨别能力布置到传达途径的前端，能对相关信息提出正告乃至制止其发布。

别的，也有一些业界人士期待着区块链技能能为管理“深度假造”供给“降维冲击”式的技能支持。区块链可在去中心化、涣散的分布式记账中供给安稳、不行篡改的数据信息。

不管如何，正如Open AI方针总监杰克·克拉克所说，技能干涉不存在一了百了的方法，由于“深度假造”技能也在不断演进。

-END-

记者：周舟 金正

修改：孙浩