BCS2022|AI安全论坛举办 共建AI安全新生态

7月30日，2022北京网络安全大会AI安全论坛在京举行。论坛由奇安信集团、百度安全联合主办，以“智能改变生活，安全构筑基石”为主题，邀请来自复旦大学、浙江大学和清华大学的资深教授，围绕人工智能的安全和隐私保护进行深入探讨。

百度副总裁马杰指出，人工智能安全不仅成为业内高度关注的议题，也是我国网络安全能力体系建设过程中不可或缺的关键一环。2020年百度率先提出了Security、Safety、Privacy——AI安全研究三大维度。自动驾驶安全研究项目“铁马冰河”打造了一个聚焦于沉浸式高拟真场景、富含AI对抗的安全测试平台，在评测中结合元宇宙，创造更接近于真实路测效果的随机状况，降低测试的综合成本。百度安全也将在未来与产学研各界合作伙伴开放合作，共筑AI安全新防线，探索AI未来的新可能。

复旦大学计算机科学技术学院副院长杨珉围绕联邦学习安全、自动驾驶安全和机器学习及服务安全三个主要应用场景，分享了团队的最新研究发现。他表示，AI模式在开放网络环境应用中存在着新兴风险，亟待提高重视。而在安全攻防视角下AI系统的安全研究，需要把两大领域的技术能力进行融合，也对相关人才提出了更高的要求，希望相关单位联合推进人才培养。

针对保护用户隐私和数据资产的问题，百度安全部数据安全业务副总经理韩祖利分享了“隐私计算构筑数据要素市场安全体系”。他介绍，基于联邦学习、安全多方计算、机密计算、安全数字沙箱等一系列隐私计算技术的百度点石目前已拥有政务数据、增强营销、金融服务等多领域解决方案，具备全生命周期、一体化平台、灵活可嵌入的特点。并且，希望未来通过参与标准制定、开源代码等方式，能与更多企业和研究机构一起，把更安全的数据方式推广到各行各业，将隐私计算落地到更多行业之中。

围绕物联网安全，浙江大学教授徐文渊给设备安全和信息安全比喻为“躯体”和“灵魂”。她表示，物联网已经发展到“有感有控”的阶段，作为信号和信息之间理想映射和实际映射不一致而引发的缺陷，带外脆弱性可以通过检测及时发现。徐教授呼吁，希望更多同学、同行在保护网络安全的同时，也考虑综合谱信号安全风险。如何系统性挖掘带外脆弱性，也将是未来的发展方向。

围绕AI赋能安全主题，清华大学副教授张超分享了“二进制代码相似性智能检测”的报告。他指出，近年来的探索表明，基于AI的二进制代码相似性检测方案比传统方案更有效，而智能化的方案也经历了基于CNN直接提取代码特征、基于GNN提取特征、基于NLP模型提取特征的三个阶段，最新的jTrans方案基于NLP模型融合代码知识取得了更好的效果。有了AI的加持，软件供应链安全分析、知识产权保护、漏洞搜索等多领域应用将会迎来更大发展。

百度安全部主任架构师包沉浮分享了“人脸实名认证的安全风险及应对”。他表示，人脸认证作为AI技术的重要产业应用，是从终端数据采集、数据传输到服务端认证逻辑的一整套流程，因此不可避免的存在各种安全挑战，而防御角度不只是针对AI 本身模型或AI算法模型，而是一整套防御系统，实现端到端的全链路防护。提高人脸认证安全性，也需要新的、系统性的AI安全技术手段作为支撑。

围绕人脸识别，奇安信人工智能研究院高级算法工程师刘昱均以“洛基平台”为例，分享了人工智能安全检测算法研究与实践。她介绍，洛基平台针对目前人工智能领域中的安全问题，从数据可信和模型安全两个角度，全面建设AI安全能力。目前平台部署了对抗攻击与防御、深度伪造与鉴别、隐写信息加解密三大模块。