写在前面:麦肯锡、埃森哲、普华永道、德勤、毕马威、安永都是全球著名的咨询公司,对信息技术和网络安全的未来发展,进行了大量的研究,很有自己的洞见。本文是德勤对AI在网络安全的发展情况做的分析。

网络AI:真正的防御

   使用数据和机器智能武装安全团队

    组织正在努力和安全入侵做斗争,网络AI成为一个力量放大器,不仅帮助安全团队比网络攻击者更快地响应,还能预测行为,提前行动。

    尽管安全技术进行大量投资,组织仍在不断地和安全入侵做斗争:他们的敌人正在快速发展战术,在技术曲线上保持领先。人类也许很快被检测攻击的数量、复杂度和难度所压垮。

    人们面临着有效分析从多个安全技术栈进入安全运维中心(SOC)数据流的挑战。还不包括从网络设备、应用数据和高级攻击者寻找新的载荷或使用新的恶意软件攻击目标的其他广泛技术栈的数据源。随着企业日益扩展到防火墙之外,安全分析人员负责保护持续增长的攻击面。

    当前网络犯罪成本持续攀升,估计从2015年的3万亿美元到2021年6万亿美元,至2025年10.5万亿美元。2021年单次数据入侵的平均成本是424万美元,相比2019增长了10%。据AIG保险公司统计,从2018年以来,勒索软件已经增长150%。

    是时候呼叫AI的支援了,网络AI能够变成力量放大器,不仅帮助安全团队比黑客更快地响应,而且能预测行为,提前行动。网络AI技术和工具还在采用的早期阶段,在2021年和2025年之间,全球市场期望增长190亿美元。

    AI自适应学习和检测特征的能力可以加速检测、遏制和响应,减轻SOC分析人员的负担,允许他们更主动。好处:它能帮助组织对最终发展为AI驱动的网络犯罪做好准备。

扩大企业攻击面

    组织的攻击面呈指数级扩大,正如技术栈走向实体中所讨论的,5G网络的采用和网络互联的增加,加上分布式工作员工和不断扩展的合作伙伴生态系统,都可能带来新的风险。把企业暴露在防火墙外面,推入到客户设备、员工家庭和合作伙伴网络中。

更多远程工作人员

    新冠疫情之前,只有6%的员工在家工作。2020年5月,达到35%。2020最初的六个星期封锁时期,对居家工作人员的攻击增长5倍,从12%到60%。一个调查发现,转变成远程工作模式之后,51%的受访者目睹了钓鱼邮件的增加。

    对许多员工来说,远程工作将会成为常态,而不是偶尔为之,给网络罪犯提供许多新的机会。例如,在公司防火墙和Web安全网关安全范围之外,远程工作人员很容易成为目标。他们依赖家庭网络和VPN连接,常常使用不安全设备去访问云应用和数据,传统的本地安全设备常常设计成支持企业级的网络,不是家庭互联网访问。

    随着企业扩展到员工家中,用户行为和数据活动变得更加多样性,偏离以往的规范。当员工在不常见的时间和地点登录,识别异常行为更具有挑战性,可能导致误报率的增加。

增加的网络互联设备

    5G、IoT、Wi-Fi6,网络技术进步正在推动互联设备的增加。当寻找一个软攻击载体,网络罪犯能够从越来越多的互联网络资产中选择,据估计2023年将达到293亿台设备。

    难以计算的设备连接到这些网络上,产生大量需要处理和保护的数据,导致了SOC中的数据积压。管理和跟踪活跃资产、他们的目的和预期行为,非常具有挑战性,特别使用被服务编排程序管理时。

    不再是集中放置和控制,许多设备散布到各种远程地点,在多种边缘环境中运行,收集数据送回到企业。如果没有正确的安全措施,设备就会被入侵,在网络上表现得正常运行,实际变成入侵者控制的机器人,散播恶意代码,发动集群攻击。

更广泛的第三方合作伙伴生态系统

    日益全球化的供应链和托管数据、基础设施及服务带来大量第三方风险。随着越来越多的组织把数据集成到第三方应用,API安全让人难以放心。Gartner预料,2022年,API滥用会变成企业最频繁的攻击形式。

    第三方入侵在复杂性方面也在增加,五年之前,入侵者可能使用大量已有的恶意软件攻击特定计算机系统,获得联系人凭证,偷取客户数据-混乱但可以确定,源头很清楚,有能力监控和修复破坏。

    这样的攻击,和今天的复杂入侵相比,不值一提。从一个公司偷取的信息可用来入侵上千个它的客户和供应商。供应链攻击通过利用复杂供应链网络中最不安全的组件漏洞,一个没有边界的入侵很难监控和修复,很多年都会保持活跃偷取数据。

采用5G网络

    5G将以新的连接、功能和服务完全转变企业网络。但是向5G的转移中,包括硬件、分布式、软件定义网络、开放架构和虚拟化基础设施,都将产生新的漏洞和更大的攻击面,会要求更多的动态网络防护。

    5G网络能支持高达每平方公里上百万个互联设备,和4G网络10万个设备对比,能实现更高的扩展性和更大密度的设备互联环境。市场观察者预料,到2025年, 5G移动连接(不算IoT),从2021年5亿台设备会增加到18亿台;蜂窝IoT连接,从2020年170万台到大约37亿台。

    随着公共5G网络扩展,政府、汽车、制造业、采矿业,能源行业等其他行业开始投资于5G专网,满足企业低延时、数据隐私和安全无线连接的要求。从自动驾驶车辆和无人机到智能工厂设备和移动电话,整个公共5G和5G专网的生态系统-互联设备、应用和服务将为黑客创造更多潜在入侵点,每个资产都需要配置成符合特定的安全需求,增加的设备日益多样性,网络异构性越来越强,对于网络的监控和防护变得更加富有挑战性。

用AI防御今天的网络威胁

    扩展的网络攻击面和网络威胁日趋严重和复杂,正在由于缺少网络安全人才而变得更加危急。几乎89%的增加,才能满足全球大约3百万网络安全专业人员的需求。AI能帮助弥补这个差距。

加速威胁检测

    威胁检测是网络AI最早应用之一。加强现有的攻击面管理技术,减少噪音和允许稀缺的网络安全专业人员集中于明显的入侵信号和攻陷指标。快速做出决策和采取行动,聚焦于更有战略性的活动。

    高级分析和机器学习平台能快速筛选安全工具产生的大量数据。识别偏离常态的行为,评估上千个涌入网络的新连接资产的数据,被训练区分合法和恶意文件、连接、设备和用户。

    AI驱动的网络、资产映射、虚拟化平台能对正在扩大的企业攻击面提供实时了解。他们能识别和分类活跃资产,包括容器化资产,提供流氓资产行为的可见性。供应链风险管理软件合并了机器学习和AI,能自动监控实体和数字供应链环境,跟踪资产组成和链接的方式。

在抑制和响应方面的力量放大器

    AI也可以作为力量放大器,帮助安全团队对一些耗费时间的活动自动化,理顺抑制和响应活动。考虑到机器学习、深度学习,自然语言处理、强化学习、知识表示等其他AI方法,当与自动化评估和决策相结合时,AI能帮助分析人员管理一个越来越复杂的安全威胁,实现规模化。

    例如,像前几代产品一样,5G很容易受到干扰(jamming)攻击,攻击者故意干扰信号传输。来自弗吉尼亚理工大学和德勤的研究者在英联邦网络倡议项目中,一起合作了解5G网络安全设计和实施,在低级信号干扰瘫痪网络之前识别出它。借助实施基于AI的干扰模式和机器学习模型,开发实时的漏洞评估系统,能够检测低水平干扰信号的存在,并对干扰模式分类。

    自动化有助于最大化AI的效果,缩短检测和修复之间的时间。集成AI和机器学习的SOC自动化平台,能实现自主的、预防性行为-例如,禁止对特定数据的访问-并将问题升级到SOC,进一步评估。基于控制API访问的API管理方案,在用户访问特征方面得到训练的机器学习模型能检查所有API流量,实时发现和报告异常行为。

主动安全态势

    正确训练的AI能实现更主动的安全态势和提高网络弹性,即使遭到攻击,也能保证组织维持运维,减少攻击者在环境中的时间。

    例如,上下文关联的用户分析能够和无监督机器学习算法结合,自动化检查用户活动;发现网络活动和数据访问中的典型特征;识别、评估和标记异常行为(忽略误报);决定是否需要响应或干扰。AI把情报导入人类安全专家,帮助他们主动追捕攻击者,实现主动威胁狩猎。

    组织能利用AI和机器学习,实现安全策略配置、合规监控、威胁和漏洞检测及响应的自动化。例如,机器学习驱动的特权访问管理平台能自动开发和维护安全策略,帮助强化零信任安全模型。通过分析网络流量特征,这些模型能区分合法和恶意连接,推荐如何隔离网络,保护应用和工作负载。

    辅以漏洞分析和强化学习,安全专家能生成攻击图谱,对复杂网络结构建模,发现最佳攻击路径。更好地理解网络漏洞和减少测试人员。同样,网络攻击模拟工具能持续模拟高级威胁技巧和步骤,暴露基础设施漏洞和潜在攻击路径。

发展人类安全分析人员角色

    在一次安全分析人员的调查中,40%的人说他们最大的痛点是警报过多;47%说很难知道优先处理哪个事件响应。其他的调查发现分析人员越来越相信他们的角色就是减少报警调查时间和报警数量,而不是分析和修复安全威胁。超过四分之三的受访者称分析人员离职率超过10%,接近一半受访者说离职率在10%和25%之间。

    AI无法替代安全专家,但能加强他们的工作,实现更高的工作满意度。在一般的SOC中,AI和自动化能消除第一层和第二层分析人员的琐碎工作。(第一层分析人员评估进入数据,决定升级问题,第二层分析人员响应问题故障单,评估每种威胁范围,决定响应和修复,并在需要时升级。)这些分析人员可以接受培训,从事更有战略性的工作,更具有挑战性。如高级第二层分析人员和第三层分析人员,处理最棘手的安全挑战和聚焦主动发现和监控威胁及漏洞。

对抗未来AI驱动网络犯罪的武器筹码

    加快数据分析、事件处理、异常检测、持续学习和预测情报,这些功能把AI变成有价值的对抗安全威胁武器,也同样能被网络罪犯用来开发新的或更有效的攻击和检测系统弱点的手段。

    例如,研究人员已经使用生成式对抗网络-两个互相竞争性神经网络,生成类似训练数据数据集-成功地破解了百万个密码。同样,一个名为GPT-3的开源深度学习语言模型,能学习行为和语言的细微差别。可以被网络罪犯用来冒充可信用户,几乎难以区别真实和欺骗电子邮件及其他通讯。钓鱼攻击变得更加符合语境和可信。

    高级攻击者能潜入网络,长时间存在而不被发现,针对特定目标,常常缓慢和隐蔽地移动。加上AI恶意软件的混淆,这些入侵者能入侵用户,快速识别有价值数据,学会快速伪装自己,逃脱检测。

    组织可以采用以毒攻毒的方法,帮助阻止这样的入侵:利用足够的数据,AI驱动的安全工具能实时有效地预料和对抗AI驱动的威胁。例如,安全专业人员能使用研究人员破解密码的工具来衡量密码强度或生成诱饵口令,帮助检测入侵。上下文关联的机器学习能用来理解电子邮件的用户行为、关系、和时间特征,从而动态地检测异常行为或有风险的用户行为。

未来之路

    一段时间以来,人类和AI一直在合作,检测和阻止入侵,虽然许多组织仍然处在使用网络AI的早期阶段,但随着攻击面和暴露在外部的传统企业网络持续增加,AI能提供更多。

    例如机器学习、自然语言处理、神经网络等方法能帮助安全分析人员从噪音中分离信号。使用特征识别、有监督和无监督机器学习算法,预测和行为分析,AI能帮助识别和击退攻击,自动检测异常用户行为、网络资源分配或其他异常。AI能用来保护本地架构和企业云服务,虽然保护云中的负载和资源比保护传统本地环境的挑战要小。

    AI(或任何其他技术)本身不会解决现在或未来复杂的安全挑战。AI的功能是发现特征,自适应实时学习,能加速检测、抑制和响应;帮助减少SOC分析人员的负担;帮助他们更主动。这些人员的需求仍然很高,但AI将改变他们的角色。组织可能需要重新培训分析人员,帮助改变他们的重点,从分析报警和其他低水平技能到更战略性、主动的活动。最后,随着AI和机器学习驱动的安全威胁开始出现,AI能帮助安全团队为打击AI驱动的网络犯罪最终做好准备。

来自前线的教训

Sapper实验室,用软件对抗软件

    为帮助加拿大和美国军方、政府和关键基础设施运维人员解决安全挑战,Sapper实验室网络方案提供网络安全思想领导、情报、研发、实施、运维安全平台和培训支持来解决复杂问题,在Sapper实验室的技术工具箱中,AI日益重要。

    这家来自渥太华的网络防御公司,名字来自军队术语,指通过监视、侦察、防御工程和其他的主动防御活动来支持地面部队的战斗工程师。公司启动项目的目的是,假设每个网络、系统和功能都已遭到入侵,组织没有人力资源去防御或抵御。Sapper实验室共同创始人和CEO,AL Dillon说:“人员储备的增加跟不上攻击面的增长,也跟不上业务和政府创新议程的增长,我们无法培养出足够的人才保护我们的机构和资产,这正好是AI能有所帮助的地方。”

    为了实现这一目标,Sapper实验室和好几个加拿大及美国安全、防御和情报组织合作,生成为了灵活对抗实时变化的威胁战术和程序的AI系统。这些系统不只是提醒决策;他们能学习如何保护自己抵御威胁,不管人类是否介入。Dillon说:“今天,使用机器学习、AI和自动化的网络防御主要集中在人类领导的网络参与上,因为今天创新的速度及网络和设备的变化,主要发生在组织之外,我们需要嵌入式自动化系统功能。”

    Dillon说国家安全和国防组织及其他公共和私营部门组织的共同目标应该是向军事级别、软件领导的参与来转变。他解释说:“AI驱动的软件防御反击AI驱动的对手,我们都处在来自国家资助的攻击者和其他坏人攻击的威胁之下,他们具有同样的意图、专业知识和工具。”

    例如,Sapper实验室和政府机构正在开发多层威胁检测系统,从多个数据源导入数据,称之为全数据源情报-从卫星、陆地、海洋的探头到社交媒体其他公开和私有网络信息数据源。按照传统的方式检查这些数据浪费成年上月的人力资源。使用算法自动化处理这些数据和情报,做出评估和决策比传统的方法快上10到15倍。Dillon希望三年之内,网络AI和自动化技术快速前进,能够比过去快上50倍地评估情报,得出结论。

    因此,这是网络AI最难的问题之一。Dillon说:“克服网络AI对人、社会和文化方面的挑战,比解决技术问题更困难,最难的一关是即使要多花费50倍的时间,人们还是对人类领袖做出的决定更放心,如何让他们信任AI做出的决策。”

    教育是建立这种信任的关键,通过和其他私营公司、公共部门组织、学术机构的合作,Sapper实验室正在帮助打造更广泛的自动化网络安全意识。Dillon说:“我们处在令人激动的技术采用和创新的过渡时期,需要注意,我们没有完全理解保护国家安全、个人数据、知识产权和其他重要事项的社会影响,我们必须承认,AI安全平台也许变成我们领先攻击者的唯一方式。”

个人观点

Mike Chapple,圣母大学信息安全领导人,IT、分析和运营教学教授

    过去的一年,网络安全攻击的本质已经发生变化。以前一个组织主要的担心之一是勒索软件攻击,攻击者通过钓鱼或互联网恶意软件访问企业的数据,然后加密数据,要求赎金。这样的攻击是机会主义的,因为罪犯利用任何掉入恶意软件陷阱的人,如果组织准备了数据备份,他们不会总是成功。

    现在的风险更高,因为攻击者都是由国家组织的有组织犯罪。我们已经看到在新冠疫情期间,医院成为目标、管道无法输油和其他高度针对性攻击。攻击者新的范式是使用两种威胁来偷取企业数据:以数据为人质,威胁泄露敏感信息,包括客户记录和知识产权。这样的威胁对大企业非常致命,他们拥有犯罪分子喜欢的钱和数据。此外,随着采用5G移动网络和在家办公策略,推动企业的技术超越传统的边界,犯罪攻击面日渐扩大。

    对这样恶化的风险环境,企业该如何面对?他们有两种选择:雇用更多的人,但这很难,因为在人力市场上,有足够技能的人非常缺乏;或依靠AI、自动化和分析来实时检测和响应威胁。由于最近科技的进步,第二项选择,网络AI,变得越来越有效。

    AI和网络安全的结合已经谈论近十年了。直到现在,关于他们的对话都围绕着最新的时髦用语和基于规则的产品。幸亏在算力和存储能力方面的进步,我们看见网络安全厂商开始真正地把机器学习和AI集成到他们产品中。今天,大型企业能依赖这样的厂商推动威胁情报。

    主要的安全厂商已经在很多企业部署了产品,作为探头来采集数据。通过使用AI处理每个客户匿名数据,厂商能使用一个组织的威胁数据寻找其他客户类似的入侵迹象。网络效应是指数级的:数据集更大和更多样,厂商的检测能力越高,保护能力就越强。因为这个原因,大中企业都能从托管服务商中受益,或者他们让自己的数据科学和网络安全团队合作,在他们自己的网络安全仓库中训练AI模型。

    今天的算力允许开发复杂用户和实体行为分析(UEBA),检测攻击者特征或偏离正常的行为。UEBA也许会标记检测到的用户,在周六早晨下载TB级数据-显然不是一个正常习惯。借助关联这些概况和特征,能够以更细粒度方式检测威胁。

    虽然这些信号一直存在,以前分析他们、做出有意义的画像很不实际。现在,这些AI标记过的威胁能被导入安全编排、自动化和响应(SOAR)平台,能关闭访问或马上采取其他行动。

    网络安全的历史,以及任何类型的安全,都是一个古老的猫鼠游戏。就像我们开发AI工具,保护我们自己一样,攻击者们也在开发AI,进一步复杂化他们的攻击,国家也进入这个领域。接下来18到24个月内,我们可以看见更多私人网络犯罪行为。如果组织不想成为目标,他们希望借助AI支持的机会,现在就采取行动,保护未来的用户、系统和数据。当网络安全本质上无可避免的再一次转变时,他们一切就绪。

Adam Nucci,美国陆军战略行动副主任

    美国陆军处于现代化的进程中,要求我们采用数据驱动的思维方式,拥抱数字化转型。目标是不仅开发武器系统和平台,还包括流程、劳动力和文化。

    随着我们不断现代化,已经非常复杂的技术环境正在变得更加动态。我们从各个方面面临着多种复杂对手的挑战。要想实现我们雄心勃勃的现代化目标,评价我们的安全态势非常关键。幸运的是,未来已在眼前:有效实现这一目标所需的工具就在手边。但不仅在安全中使用他们,还要改变功能、网络和人才交付的方式,打造自适应安全非常重要。技术系统和探头正在产生巨大数量的数据,使用高级分析技术和平台能快速分析和处理这些数据。大量采用云计算实现实时数据共享和全谱数据及网络管理、控制和可见性。

    我们有现成的组装模块。把数据、分析、云计算的强大组合作为基于零信任安全方法的基础,更关心数据而不是网络。特别从基于网络的身份和凭证管理到以数据和设备为中心的身份访问管理和最小权限访问原则。这为网络AI大规模使用奠定了基础。

    借助机器学习、深度学习和其他AI技术,组织能跨多种硬件和软件环境,理解网络安全环境;了解数据在哪里,行为如何,谁和他们交互;打造攻击者轮廓特征并在整个网络环境中传播。AI和主动分析也能帮助我们更好理解网络安全中和人相关的一些方面。在整个运营环境和更广泛的社会中,信息维度不可避免的和每件事交织在一起;高级机器学习和AI有潜力帮助我们了解新领域如何影响用户、我们如何做出决策、攻击者的行为特征。

    今天的AI不是通用的,它主要适用于狭窄特定的领域。但网络安全不是一个只靠技术就能解决的狭窄问题,主要是人的问题。我们的敌人多种多样,极具创新。他们的动力是什么?为了推动网络AI,我们需要给网络劳动力带来同样的多样性和想象力。加强传统STEM(科学-Science,技术-Technology,工程-Engineering,数学-Mathematics的总称)教育下、线性思维的网络工作者和能根据模糊联系、得出推论的标新立异者和多形思考者互相交流。这样做不仅对模型构建和培训增加了人的维度,还生成了网络安全力量放大器。

    在数据、分析和云的驱动下,一个AI驱动的战略能够让组织以自动化的方式预测、检测和应对入侵。在移动和低带宽环境,出现了新兴的挑战和机遇,但技术基础已经就绪。

    为进一步实现网络AI,我们也需要公共和私营部门之间更强的合作。网络安全是国家安全,我们作为社会,需要把安全从附属的补充功能提高到嵌入所有商业和政府系统的核心。但公共部门自己无法成功,只有在公共-私营达成强力合作伙伴和跨行业、学术和国际合作伙伴之间的碰撞,基于嵌入式探头系统、数据和AI驱动预测分析,建立一个不可动摇的网络安全基础。

你准备好了吗?

  1. 由于远程工作人员、网络连接设备、第三方风险的增加,您企业的攻击面扩大了吗?您采取哪些步骤去保护他们?
  2. 您目前如何使用AI工具去检测、阻止和响应网络风险?在哪个领域能扩大AI的使用,生成更主动的安全态势?
  3. 当前你有符合你的网络安全目标所需的技能和组织机构吗?两年内可以吗?你计划如何获得这些技能?