资深专家预测:2024年生成式AI将会如何改变网络安全?

X0_0X2024-01-04 11:43:12

当前人工智能(AI)功能在不断增强和复杂化,这一趋势对于那些运用生成式AI技术的首席信息安全官(CISO)来说更加显著。网络安全供应商正面临着利用生成式AI来降低失败风险的挑战。此外,攻击策略的演变、AI的武器化,以及社交工程手段的应用,已经导致多家全球领先企业遭遇重大挫折。


日前,专业IT媒体VentureBeat采访了多位资深网络安全专家,听取他们对2024年生成式AI技术将会如何影响网络安全发展的预测。专家们普遍认为:尽管生成式AI技术会降低网络犯罪的进入门槛,升级企业现有的风险态势,但同时也会给企业网络安全建设带来很大帮助,AI专业人员和网络安全团队应该寻求更加紧密的合作。


1

“生成式AI技术应用正在带来新的安全盲区”


——CrowdStrike首席技术官Elia Zaitsev


2024年,我们预计,攻击者会把AI系统作为攻击的重点目标,并视其为一种新的威胁利用途径。通过合法AI应用系统中的安全漏洞,以及员工未经批准使用的影子AI工具带来的安全盲区,攻击者可以更容易地攻击组织。防护AI技术的安全性盲区,企业安全团队仍处于早期阶段,这些盲区和新技术为企图攻击企业的恶意人员打开了大门,这迫使企业组织必须尽快面对新的数据安全风险。


因此,企业组织在2024年需要重新审视内部威胁,了解AI技术引入的各个环节,评估其风险状况,并制定相应的防护指导方针,以确保安全负责地使用,尽量降低企业风险和安全支出,同时实现其应用价值的最大化。


2

“组织的网络安全防护工作不能过度依赖AI”


——CyCognito首席执行官Rob Gurzeev


我始终认为,生成式AI技术会对企业的网络安全防护工作产生积极影响,但是有一个重要问题需要强调,就是AI技术可能让企业的安全运营团队变得过于自负。2024年,如果企业组织过度依赖AI技术,就可能导致组织的日常安全运营缺乏监管,这就很容易导致在攻击面管理上出现缺口。


3

“生成式AI日趋成熟,能够帮助企业加强安全防御”


——Cyberhaven首席执行官Ting Howard


Cyberhaven得到的数据显示,4.7%的员工曾将机密数据输入到ChatGPT中,其中11%的数据是敏感数据。但我确实认为,局面最终会好转。随着大语言模型(LLM)和生成式AI 日趋成熟,安全团队将能够用它们来加强防御。生成式AI大有潜力帮助安全团队处理目前难以处理的大量事件数据。传统的数据湖和基础的SIEM侧重收集数据,而更注重对话的界面可以大大提高用途。


4

“生成式AI技术将成为闭环OT防御的有效方法”


——霍尼韦尔互联企业首席技术官Jason Urso


关键基础设施一直是网络攻击者的主要攻击目标。但这些攻击要求很高的专业性,需要极其复杂的手法,并不是普通黑客就能够具备的。为了更有效地对抗专业网络攻击者,我认为生成式AI技术将会在2024年成为闭环OT防御的一种有效方法,这种防御能够实时基于威胁格局方面的变化,动态改变安全配置和防御规则,并执行自动渗透测试以标注面临风险的变化。


5

“可靠的生成式AI应用需要由人来监管”


——Ivanti首席产品官Srinivas Mukkamala


2024年,随着ChatGPT被广泛应用,很多人开始担心生成式AI技术会对其职业生涯产生影响。根据我们的市场研究发现,近三分之二受访IT员工担心生成式AI在未来五年内将取代其工作。因此,企业管理者需要向员工明确阐述计划如何实施AI,以便稳定现有的人才团队。需要指出的是,可靠的AI技术应用必须由人来监管。2024年,越来越普遍的AI工具将使社会工程攻击更具欺骗性。由于企业提高了检测传统网络钓鱼邮件的能力,恶意黑客已转向新技术,确保诱饵更让人信以为真。此外,攻击者和不怀好意的人利用这些AI工具生成虚假信息,将对组织、政府和所有人构成挑战和威胁。


6

“别担心,生成式AI技术不会接管世界”


——Lacework 首席网络安全官 Merritt Baer


别担心,生成式AI技术不会接管世界,但很多传统工作的性质确实会发生变化。在2024年,我们会看到生成式AI技术将能够大量地自动处理重复性任务,它们不仅能提示程序员编写自动化程序,还有望建议编写修复脚本或为漏洞补丁所需的代码。但是,人类特有的创造性思维才是至关重要的,而AI技术所擅长的是如何可靠处理,从庞大数据集中导出模式,并精准地执行操作。


7

“安全团队需要借助AI来跟上应用开发的步伐”


——派拓网络高级副总裁Ankur Shah


今天的安全团队完全跟不上应用程序开发的节奏,这导致无数的安全风险更快速地进入到企业的生产环境中。2024年,生成式AI技术或将使应用程序的开发节奏进一步加快,开发人员将利用这项技术以前所未有的速度编写和发布新的应用。为了确保安全团队跟上步伐,企业也必须将AI技术应用到安全防护中。但AI技术在安全防护中的应用会面临一个数据问题,如果没有可靠的安全数据来训练AI,其阻止风险的能力就无从谈起。


现在,安全分析师不仅需要能够了解攻击者如何潜入,还需要了解如何创建复杂的自动化和查询,以便面对大量数据高效处理。在2024年,借助生成式AI技术,它们与数据进行交互的过程将变得更流畅。


8

“企业需要加快应对AI威胁的步伐”


——Telesign首席执行官Christophe Van de Weyer


AI技术能够帮助安全团队发现新的攻击模式、新兴CVE或表明企图破坏的某些行为。但AI技术也同时加大了企业对新型威胁的识别难度,因为现有的威胁检测系统往往无法区分由人工生成的网络钓鱼攻击还是AI生成的网络钓鱼攻击。2024年,企业需要加快、加强对AI应用威胁防御的步伐,而做好身份账户的完整性防护将是关键。企业应该基于持续分析欺诈信号,利用AI评估登录和交易的风险大小。网络安全服务商也应该扩大机器学习所能识别的欺诈种类,为加强保护措施提供依据。


9

“AI技术应该成为CISO必须掌握的专业技能”


——WinWire首席技术官Vineet Arora


企业的网络安全管理和运营人员现在需要监控和管理的数据非常庞大。随着云计算和智能边缘设备的更广泛部署,企业的数据量在未来几年还会进一步增长。而AI技术非常适合解决网络安全工作中围绕威胁检测、筛选和响应方面一些最困难的问题。因此我认为,生成式AI技术在2024年会成为每个CISO都必须熟练使用的必要技能之一。


生成式AI将显著增强安全从业者在日常工作中的专业能力。特别是在威胁情报、安全加固、渗透测试和检测工程等目前由人工完成的工作场景下,生成式AI技术能够大大提高流程的自动化程度。同时,许多枯燥的日常安全运营任务(比如日志分析、事件响应和安全补丁)都可以通过生成式AI实现自动化,从而为安全分析师节约宝贵的时间,致力于更复杂的网络安全问题。当然,我们也必须留意,恶意攻击者利用生成式AI为社会工程攻击、恶意软件以及复杂的网络钓鱼活动带来更加逼真的场景模拟。


10

“未来的网络安全工作一定是由AI技术来主导”


——Zscaler首席人工智能官Claudionor Coelho


生成式AI技术的广泛应用将在2024年将对企业的合规工作产生重大而深远的影响。在过去,合规是一项耗时的工作,涉及制定法规、实行约束、获取证据以及回应客户问题。2024年,上述的很多工作都可以自动化的文本和程序来实现。


我们认为这将是未来网络安全工作的主要运作方式,未来将会是AI技术主导的天下。由于今天的数据和安全防护模型过于复杂和庞大,因此不能指望通过人工团队来阅读和解释它们,生成式AI将促使网络安全技术更快速地向前发展。


参考链接:


16 Cybersecurity leaders predict how gen AI will improve cybersecurity in 2024


网络安全网络安全防护
本作品采用《CC 协议》,转载必须注明作者和本文链接
企业安全 截至 2023 年,75%的安全漏洞是由身份、访问或权限管理不善造成的。
实战攻防绷紧网络安全弦。“警钟长鸣”才能居安思危,红蓝队就是敲钟人,必须让队伍在急难险重的工作任务中经风雨、见世面、壮筋骨。
2015年10月,日本成田机场与中部机场遭到黑客攻击。所幸是在深夜时分,没有对机场营运造成影响。机场人员随后关闭遭入侵的电脑和广播系统,使用扩音器通知乘客以及以“手工”方式办理登机等手续,部分航班被迫延迟起飞。2017年6月,乌克兰首辅国际机场再次遭受到勒索病毒的攻击,机场信息系统瘫痪,导致大量旅客滞留机场,航班大面积延误。在具体实施时,可根据自身系统的安全保护级别进行调整。
网络安全领域,红蓝对抗中一方扮演黑客、另一方扮演防守者进行网络安全实战演练。在攻防演练中,红军模拟真实的攻击来评估企业当前防护体系的安全水平,蓝军对发现的问题进行优化整改。通过周期性的红蓝对抗,可持续性提高企业在攻击防护、威胁检测、应急响应等方面的能力。建立网络安全督察通报体系。
工业互联网是新一代信息通信技术与工业体系融合的产物,将推动“人、机、物”的泛在深度互联和全面感知。随着工业互联网设备的网络化、数字化、智能化应用不断泛化,设备自身网络安全设计、应用过程管理与防护逐渐成为关注重点。
为做好网络安全保障,加强网络安全防护,有效发现网络安全风险并及时化解,7月20日,菏泽市城管局举行网络安全攻防演练。据悉,本次演练邀请了菏泽市网络安全资深专家组成网络安全红队攻击人员,在真实网络环境下模拟黑客的攻击手段对菏泽市城市管理局信息系统开展实战化攻击。在不影响业务的情况下,攻击队伍可对菏泽市城市管理局的官方网站、智慧城管等进行网络攻击,试图入侵系统,获取权限并可进行内网渗透。
随着网络空间安全上升为国家战略,安全需求已由单一的软硬件产品提供转向全面专业的安全运营服务模式,各安全厂商争先提出安全运营整体解决方案,安全即服务成为网络安全产业发展重点。通过对网络安全服务的国内外产业发展现状进行分析,结合工程实践提出针对网络安全全生命周期的服务体系,并从技术创新和商业模式创新两个方面对网络安全服务产业发展提出建议。全面的分析和研究网络安全服务的产业现状、体系和发展建议,对完善优
X0_0X
暂无描述