发布 | 《人工智能安全风险及治理研究》

9月16日，第十七场“工信安全智库”系列报告在线发布活动成功举办。信息政策所网络安全研究室工程师叶晓亮发布了洞察报告《人工智能安全风险及治理研究》。报告界定了人工智能风险的范围，阐述了人工智能安全的内涵，分析了人工智能及其典型应用场景的风险，跟踪了国内外人工智能安全治理动向，针对我国人工智能安全发展提出了对策建议。

报告指出，当前人工智能技术迎来了新的发展高潮，但在其技术发展和落地过程中，由于技术不确定性等因素，给个人隐私保护、社会伦理甚至国家安全带来诸多风险和挑战，针对人工智能安全的研究迫在眉睫。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出加快人工智能安全技术创新，人工智能安全已成为未来国家战略、政府工作的重要组成部分。

报告认为，人工智能技术及其应用存在技术本身脆弱性、被恶意利用、数据泄露以及伦理道德等安全风险。世界主要国家、地区及国际组织纷纷在人工智能风险识别及安全治理领域发力，积极推动人工智能应用可信可靠。我国应加强人工智能自身及安全技术研究，完善政策法规及伦理道德规范体系，优化多层监管治理体系及监管力度，建立安全检测评估及应急处置机制，强化多领域实操性人才深度及广度。

作者简介：叶晓亮，就职于国家工业信息安全发展研究中心信息政策所网络安全研究室，主要研究领域为：网络安全、工业信息安全、AI安全等。

联系方式：yexiaoliang@cics-cert.org.cn.

作者简介：陈羽凡，就职于国家工业信息安全发展研究中心信息政策所网络安全研究室，主要研究领域为：网络安全产业、网络安全保险、网络安全产教合作等。

联系方式： chenyufan@cics-cert.org.cn.