智东西（公众号：zhidxcom）
文 | 信仪

智东西9月10日消息，在9月7日由阿里安全联合清华大学启动的“安全AI挑战者计划”第五期的比赛中，“电子萝卜章”伪造问题已经可以被解决。

随着流量识别、人脸识别、动作识别、假货识别、假图识别等应用场景的出现，AI与安全结合的用途越来越广泛，而AI面临的安全问题也逐渐浮出水面。

阿里安全图灵实验室资深算法专家觉奥说，数据表明目前AI安全方面人才缺乏，2020年网络人才缺口达到140万，并且缺乏实战场景也使安全人才缺少打磨技能的机会。

为了抵御AI面临的安全风险，阿里安全联合清华大学联合出题，以对抗样本为核心，提供场景、技术、数据、算力等支持，召集“挑战者”以防守者的身份打磨AI模型安全，发掘培养更多新基建安全技术人才。

2019年8月~2020年6月，安全AI挑战者计划已经成功举办了4期，主题分别为人脸对抗识别比赛、ImageNet图像对抗比赛、辱骂场景文本对抗比赛、通用目标检测的对抗攻击。近日开启的第五期比赛主要是针对证件文档类图像伪造进行的对抗攻击竞赛，旨在通过实战解决证书文档信息伪造问题。

一、AI安全攻防战

觉奥在介绍挑战者计划举办背景时说，安全是数字新基建中非常重要的一部分，然而技术是把双刃剑，AI发展可以促进业务更安全，同样，黑客也会利用AI对数据信息进行攻击。

对抗样本使AI安全问题普遍存在，人脸、军事、自动驾驶方面都会受到AI的物理攻击。图像、语音目标叠加了对抗样本的干扰，会变成另外的目标，干扰样本使用甚至产生应用安全隐患。

▲AI的缺陷与挑战

淘宝卖家秀“换脸”会造成侵权，“ZAO”“DeepFake”等换脸应用的泛滥也造成了人们对视频背后的信任危机，这都需要通过AI对抗来降低应用风险。

觉奥说，AI安全技术操作存在攻防两面。到目前为止，挑战者计划前五期的比赛方向都在主攻AI安全的反向应用。比赛形式为出题者提供防御系统，挑战者进行针对性的攻破。黑客可以通过AI挖掘出应用的技术漏洞，相应在安全技术方面，应用方也可以通过AI抢先一步发现自己的漏洞。明年阿里可能会从“防”入手，开辟防御模式的挑战。

二、取证技术和反取证技术的博弈

随着各种P图工具的普及，篡改伪造出视觉无痕迹的假图门槛大幅降低，大量的假图用于散播谣言、编造虚假新闻、非法获取经济利益，甚至成为呈堂证供。

图像取证本是用于检测篡改伪造图像的技术，但是随着各种范取证技术的出现，图像的真伪鉴定问题成为了新的攻防博弈点。

第五期挑战赛就是针对发现图像取证技术不足，推进图像取证技术在更广泛领域应用，设立的针对证件资质文档类图像的伪造图像对抗攻击竞赛。

▲第五期挑战赛海报

比赛采用的数据为真实的证书文档类图像，其中包括15类不同图像。参赛者的任务是通过对原始图像的特定候选区域进行伪造篡改（例如P图等），做到视觉无伪造痕迹，并让出题方提供的图像取证模型无法识别篡改。

阿里安全资深专家杭特说，数字经济背景下的资料也逐渐趋于数字化，数字资料中的信用问题、资产问题对商业来说至关重要。这项比赛的目的就是通过攻防的方式将安全技术能力提升起来，维护行业信息安全。

三、成果公开服务AI安全生态

安全AI挑战赛面向全社会开放，其中包括高等院校、科研单位、互联网企业等人员。而阿里安全团队表示，实际的参赛者群体更加偏于年轻化，几乎50%以上的参赛者都是在校学生。

本次对抗赛的共同出题人、清华大学AI研究员教授朱军认为，挑战者计划是针对目前机器学习算法鲁棒性不足，容易受到恶意攻击的问题，主动挖掘目前机器学习算法安全漏洞，构建更安全可信AI系统的新尝试，以期将AI的安全问题体系化、标准化。

今年3月，阿里安全正式对外发布“数字基建新一代安全架构”。阿里安全首席架构师钱磊认为，安全基建对数字经济最大意义在于，为各类App和网站等数字经济实体的搭建过程建立标准化流程，确保数字经济实体在建设之初就运行在较高安全基线上。

觉奥说，这次比赛出题并非针对阿里安全，而是针对整个AI安全生态。此次比赛的优秀作品将在论坛等平台上向社会公开。

阿里安全资深专家杭特对智东西记者说，这次比赛的优秀成果将会提取出来，吸纳到针对企业的安全应用解决方案中。

结语：防守眼光长于恶意攻破才能有效遏制AI安全风险

杭特认为挑战赛针对年轻群体的部署依旧具有局限性，学术性的方案与工业应用依旧存在偏差。AI安全技术是数据规模化与个人能力之间矛盾的产物，数据使用规模逐渐扩大也意味着AI能力需要相应跟上节奏。针对AI安全攻防的激烈博弈，只有将眼光放长远，才能将AI安全风险提前扼杀。