打假AI换脸Facebook投千万美金发起全球打假挑战赛

你或许已听说过AI换脸。曩昔几年里，从美国总统特朗普到我国女星杨幂，都曾被换脸到其他人身上。不断创新的假造视频及其背面的技能deepfakes，正在引发全球性的忧虑与评论。

近来，Facebook宣告投入1000万美元，联合微软、麻省理工学院、加州大学伯克利分校、牛津大学等安排打造deepfakes检测应战赛，鼓舞全球的研讨人员寻觅打假办法。

···

deepfakes造假众多，引发全球性忧虑

流言、假新闻……一直以来，虚伪信息的监管都让Facebook较为头疼。现在又呈现了deepfakes这种极难分辩的AI造假技能，导致Facebook压力山大。

Facebook创始人马克·扎克伯格就被deepfakes恶搞过。2017年9月，扎克伯格宣布了一段视频说话，责备俄罗斯干涉美国总统大选。本年，一位艺术家以此为基础制造了假造视频，让扎克伯格“说”了许多令人恶感的言辞。

在我国，网友更了解的可能是依据deepfakes的娱乐性视频，比方1994年版《射雕英雄传》里的朱茵被换成杨幂，还有最近的日剧女神新垣结衣被换脸成郭德纲。

新垣结衣被换脸成郭德纲。图自网络。

这种视频无伤大雅，网友乐一乐也就曩昔了。但是，许多黑灰产团伙也瞄上deepfakes的优越性，把它变成了牟利东西。最典型的，便是运用deepfakes制造淫秽视频，把女明星的脸换到AV女优身上。

此外，deepfakes还有潜在的政治和社会危险。奥巴马、特朗普都中过招，被捏造出彻底惹是生非的视频说话。“噩梦般的状况是，呈现特朗普说‘我向朝鲜发射了核武器’的视频。在任何人发现它是假的之前，咱们现已进入一场全球性的核灾祸”，在美国国防高档研讨方案局安排的一次deepfakes研讨会上，达特茅斯学院教授阿尼·法里德（Hany Farid）举例说。

本年6月，美国众议院情报委员会就deepfakes举行了听证会，敦促科技公司在下一年美国总统大选之前找到应对办法。

留给 Facebook 等大公司的时刻不多了。在Facebook首席技能官麦克·斯彻夫（Mike Schroepfer）看来，人工智能专家们花费了太多的精力来完善deepfakes，却没有在检测办法的研讨上给予满足的时刻。

···

“ AI打假应战赛”估计本年底开赛

现在，deepfakes检测应战赛的官网已上线。“当呈现新形式的错误信息时，咱们需求新的尽力来冲击它们。像deepfakes这样的新技能生成的视频，让看上去实在的人表达一些虚拟的东西，这是一个巨大的技能应战。” 依据官网阐明，竞赛的方针是开宣布一种好用的技能，协助检测深度假造视频、避免被篡改的虚伪新闻广泛传播。

以假乱真的假造视频。图自网络。

值得注意的是，Facebook们此次特别注意了隐私和肖像权的问题。交际或视频渠道的用户数据不会包括在此次竞赛的数据会集，主办方正在构建一个专门供竞赛运用的新数据集。也便是说，常常在网上晒相片或视频的网友们，不必忧虑自己的数据被抓取并成为假造视频的主人公。

构建一个包括很多假造视频的新数据集，并不是项轻松的作业。依照方案，该数据集将会在本年12月举行的神经信息处理系统会议（NeurIPS）上发布。竞赛也会在那时开端，并将延续到2020年3月底。在此期间，全球的研讨团队都可以提交检测模型参赛。

为了举行这项竞赛，Facebook投入了1000 万美元。Facebook的团队也将参赛，但不会承受任何的金钱奖赏。

“咱们还没有在咱们的渠道上看到这个问题。但我的假设是，假如你下降运用门槛——让假造视频来得更廉价、更简单、更快速，人们歹意运用技能的危险显然会添加。”麦克·斯彻夫表明，deepfakes正在迅速发展，规划更好的办法来符号或防备潜在的假造信息是至关重要的。

归纳：南都记者冯群星