通知 | 首届人工智能安全大赛报名正式开启！

VSole2022-07-19 08:30:45

为加快构建人工智能安全创新环境，进一步推动人工智能融合发展和安全应用，支撑我国人工智能安全健康发展。国家工业信息安全发展研究中心联合中关村国家实验室、清华大学人工智能研究院和北京瑞莱智慧科技有限公司共同主办首届人工智能安全大赛，现将有关事项通知如下：

一、大赛目的

大赛聚焦“新基建”时代人工智能产业发展所面临的安全挑战，针对人脸识别安全、深度伪造内容治理、自动驾驶安全等前沿领域，面向国内外高校、科研机构及企业设置赛题，旨在普及新型智能安全风险，以竞赛方式解决现实场景中的需求问题，挖掘培育一批高水平、高层次的人工智能安全新型人才团队，同时强化人工智能治理体系与安全评估能力建设，助力人工智能产业高质量发展。

二、大赛主题

共筑AI安全安享智能未来

三、大赛时间

2022年7月-9月

四、组织架构

► 指导单位：北京市科学技术委员会、中关村科技园区管理委员会、北京市经济和信息化局；

► 主办单位：中关村国家实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院、北京瑞莱智慧科技有限公司；

► 支持单位：中国电子信息行业联合会人工智能工作委员会。

五、赛题设置

►深度伪造安全竞赛

目前利用生成合成类算法伪造音频、视频等滥用现象日益加剧。例如，不法分子利用生物特征生成软件伪造特定信息，用于电信诈骗、编造虚假新闻等，给个人和社会造成了严重的负面影响。而通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，成为有效应对方案。本赛题模拟互联网上深度伪造视频传播的场景，选手通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别，最终根据准确率进行排名。

►自动驾驶安全竞赛

目前自动驾驶在工业界迎来蓬勃发展，但结构性的技术缺陷也导致自动驾驶系统面临安全威胁。以环境感知系统为例，在恶劣天气、强日光照射等极端场景中自动驾驶车辆极易发生误判。同时，对抗样本等算法漏洞的存在，导致通过修改道路车辆等目标物的颜色、纹理特征，就能使车辆目标检测模型失效。本赛题模拟自动驾驶场景下的对抗攻击，提供仿真自动驾驶环境，选手提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。

►人脸识别安全竞赛

作为人工智能技术的典型应用，人脸识别广泛渗透于社会生活的多个领域，如金融场景的刷脸支付、安防场景的人脸闸机验证等。但在大规模落地的同时，人脸识别系统也面临安全挑战，容易受到对抗样本攻击，即通过对人脸图像做微小的改动，能够欺骗识别系统做出错误的判断，破坏人脸认证系统，可能引发重大损失。本赛题模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，选手提交对抗补丁对模型进行攻击测试，最终根据攻击成功率进行排名。

六、主席评委团

本届大赛是国内首个以人工智能安全为主题的赛事，汇聚业界顶级专家，五位院士强势加盟，受邀担任本届大赛组委会主席，致力于打造人工智能安全领域最高水平的竞技交流平台。