绿盟科技入选首批“人工智能安全可信护航计划”合作伙伴单位

近日，北京人工智能产业创新发展大会成功召开，国家工业信息安全发展研究中心联合北京市门头沟区政府、中关村发展集团、华为技术有限公司等共同发起了“人工智能安全可信护航计划”，旨在联合有关单位共同探索人工智能安全可信管理技术和方案。绿盟科技以自身在AI安全领域的多年积淀和突出能力，荣幸入选首批31家企业在内的合作伙伴成员单位，未来将参与AI安全可信相关理论研究、标准制定、评估评测等工作。

ChatGPT的爆火引发了社会各界对于人工智能未来的无限憧憬，但正如点亮现代科学史的核子技术既能提供无限能源也能成为毁灭武器一样，任何事物都有其“双面”性。如何保证人工智能被真善美应用是世界范围内关注的焦点，G20先前已提出“G20 人工智能原则”，美国会议员近期也考虑对ChatGPT加强监管。

不可否认，人工智能存在潜在甚至未知的诸多风险，如机器学习框架存在漏洞，深度学习算法可解释性差、数据易被污染、模型鲁棒性弱、带有偏见性、可能泄露隐私等，因此其安全性本身依赖创新技术来保证。绿盟科技多年来持续进行AI安全研究投入，在AI模型的鲁棒性增强、AI系统安全防护、AI应用安全、AI系统的安全性评估与测试等创新技术领域研究储备丰厚。基于这些能力，绿盟科技近年来承担了包括人工智能鲁棒性增强与安全测试、人工智能应用安全检测及保护、人工智能安全监测与风险预警等多个方向的国家级科研项目。

一直以来，绿盟科技积极融入AI安全生态。入选本次护航计划合作伙伴单位后，将坚持致力于全方位守好智能世界“安全底牌”，为人工智能系统和应用发展保驾“护航”。