智东西（公众号：zhidxcom）
文 | 李水青

导语：媒介环境的混乱将可能造成人类真实世界的混乱。除了隐私问题，AI视频换脸引发的信息误导问题同样值得关注，甚至有过之而无不及。

智东西9月6日消息，脸书（Facebook）的首席技术官Mike Schroepfer发布博客宣布，脸书正和微软联合来自麻省理工、牛津等大学的研究者，通过置办“Deepfakes鉴别挑战赛”，探索如何通过数据集和基准测试检测Deepfake换脸视频。

Deepfakes技术可以利用GAN（生成式对抗网络）将视频中的人脸换掉，且十分逼真。近期国内大火的“ZAO”App被就疑似使用了该技术，用户只需要在App中上传一张照片，就能将自己的脸替换成视频中“小李子”“周润发”“白展堂”等人的脸，几乎可以以假乱真。

当ZAO很快地火起来后，人们敏锐地察觉到视频换脸中的隐私问题，而后“ZAO”换脸App被责令整改。但是，除了隐私问题，其中的信息误导问题同样值得关注，甚至有过之而无不及。

▲被AI换脸后的视频

“Deepfake”技术能够利用AI将视频中的人脸逼真地换掉，这使它很容意被用于伪造信息、误导舆论，甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为。然而，行业内还没有很好的数据集或基准来检测辨别它们。

现在，美国科技巨头脸书打算对AI视频换脸技术下手了，计划出资1000多万美元，从数据集、经费、奖金等多方面支持“Deepfake鉴别挑战赛”，以寻找能够准确鉴别AI生成视频的工具。

一、扎克伯格也被换脸，联合产学界搞鉴别研究

其实，早在2017年12月，国外某ID名为“Deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，后来，Deepfakes将这项技术开源，并被大家命名为“Deepfakes”，立刻风靡全球。

“Deepfakes”技术背后的来源是一种名为GAN（生成式对抗网络）的AI模型。在GAN中，G和D是两种相互博弈的算法，一种生成图像，另一种比较判定图像与源图像的差别。博弈的理想结果是G成为了能够“以假乱真”的图像生成模型。

AI换脸真正在国内火起来还要说今年初，B站UP主“换脸哥”将一段94版射雕英雄传视频中的朱茵的脸换成了杨幂。AI换脸技术已经蓬勃爆发，却也被一再恶意使用，AI换脸黑产甚至已经在国内形成了完整的产业链。（参见智东西深度报道：AI换脸黑产：100元打包200部换脸情色片，5张照片就可定制视频）

▲朱茵的脸被换成了杨幂

今年6月，脸书首席执行官马克•扎克伯格的一段被篡改过的视频被广泛传播，之后，扎克伯格向观众讲述了脸书正在考虑制定应对Deepfakes的政策。

今天，脸书宣布将在数据集和基准测试层面促进更多的研究，以开发出更好的开源工具来检测Deepfake。脸书将联合微软、麻省理工大学等业界和学界的伙伴共同置办“Deepfake检测挑战赛”（DFDC）。

▲扎克伯格视频被篡改

二、大赛目标：研发通用的AI换脸视频检测工具

数据集和基准测试已成为加速AI发展的相当有效的工具。目前深度学习技术的复兴一定程度上得益于ImageNet基准；GLUE和SuperGLUE基准加速了自然语言处理的最新进展。

据称，“Deepfake鉴别挑战赛”的目标是，找到一款能检测视频是否被换过脸的工具，并且它能被每个人便捷操作。

大赛旨在促使行业创建新的检测方法，以防止AI生成的视听内容误导大众，比如，在2020年大选之前找到更多的伪造视频，以免媒体误导选民。

“这是一场猫鼠游戏，如果我设计一个Deepfakes检测器，我就直接给了这些黑客一个新的模拟器进行反测试。”纽约大学Tendon学院计算机工程助理教授Siddharth Garg表示。

三、将为参赛者提供数据集和经费，请第三方监督

在“Deepfake鉴别挑战赛”中，会务组会为参赛者提供一个数据集和经费，还会用排行榜展示参赛者的成绩，并设奖金奖励。人工智能和媒体诚信新指导委员会（Partnership on AI’s new Steering Committee on AI and Media Integrity）将对挑战赛进行全程监督和管理。

为此，脸书正在调试一个现实的数据集，该数据集来自脸书付费找来的参与者。参赛者可以免费使用大量数据，几乎没有使用限制。脸书强调，此数据集中不会使用脸书的用户数据。

同时，脸书还会资助研究经费和奖项奖金，以鼓励更多人参与。据称，脸书会为此投入1000多万美元。

据了解，相关数据集和挑战参数将在今年10月的国际计算机视觉会议上，以供专门的技术工作委员会测试，进而确保其质量。完整的数据集和DFDC将于今年12月召开的神经信息处理系统会议（NeurIPS）上发布。

结语：防止AI视频换脸滥用，还需用技术反制

近日，我国企业公开发布的“ZAO”换脸App被相关部门责令整改，这体现了监管对Deepfakes等AI换脸技术的约束作用。但是在暗处，Deepfakes作为被开源的技术，仍然可能被拿来滥用，利用技术进行反制就显得格外重要。

当Deepfakes被用于伪造信息，甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为时，我们如果能通过基准数据等工具进行检测辨别，可以大大的降低损失。另外，除了算法技术，区块链等技术未来也可能被用于鉴别伪造的视频。

视频、报道等媒介内容营造的媒介环境极大地影响着人们的主观世界，并通过对人们主观世界的作用影响客观环境。如果任由虚假的视频信息蔓延在网络世界，这种媒介环境的混乱将可能造成人类真实世界的混乱。

“我们必须更好地区分真实与虚假，奖励可信内容而不是不受信任的内容。这需要产业、大学、非政府组织等共同合作，以开发出能够快速准确地鉴别真实内容的技术。”加州大学伯克利分校的Hany Farid教授评价“Deepfake鉴别挑战赛”说。