深度伪造技术的现实威胁

VSole2021-08-30 10:28:23

(原标题:深度伪造攻击从四个方面颠覆网络安全)

今年3月,美国联邦调查局发布了一份报告指出,未来12-18个月内,将会出现利用“合成内容”的网络攻击行动。而这种所谓的“合成内容”,包括由人工智能或机器学习完全创建或更改的深度伪造(DeepFake)音频或视频,这些深度伪造内容足以以假乱整,让人误以为某人做过他根本没有做过的事。

事实上,对于网络安全行业来说,深度伪造技术已经不是“期货”,而是现实威胁。早在2019年,福布斯就曾报道过攻击者通过深度伪造CEO的讲话音频成功诈骗到24.3万美元电汇的真实案例。如今,这种威胁的严重性正在不断累积。远程办公时代,全球的分布式劳动力和繁忙的视频会议已经创造了丰富的音频和视频数据,人们只需将这些数据输入机器学习系统就足以制作出逼真的伪造内容。攻击者显然已经注意到了这一“机遇”。深度伪造技术在整个暗网中的热度也急剧蹿升,基于深度伪造技术的网络攻击距离泛滥只是时间问题。

近日,VMware的事件响应团队调查了数位全球知名公司的CISO,将他们目睹的,以及最担心的深度伪造攻击汇总为以下四种:

01深度伪造即服务

一家事件响应公司指出,威胁行为者已转向暗网提供的定制服务和教程,这些服务和教程结合了能够绕过和击败安全措施的视觉和音频深度伪造技术。正如勒索软件演变成勒索软件即服务(RaaS)模型一样,深度伪造也正在走这条路。来自Recorded Future的这一情报展示了攻击者如何比FBI今年早些时候警告的由深度伪造的影响力行动更进一步。不法分子的新目标是使用合成音频和视频来逃避安全控制和检测。此外,威胁行为者正在使用暗网以及论坛和即时通信等许多明网资源,来共享深度伪造技术相关的工具和最佳实践。

02基于深度伪造内容的网络钓鱼

多家企业安全团队的CISO表示,他们已经观察到深度伪造被用于网络钓鱼尝试或入侵Slack和Microsoft Teams等企业电子邮件和通信平台。网络犯罪分子正在利用劳动力分布式转移的历史性机会,通过模仿与老板相同的说话节奏的适时语音邮件或Slack消息来操纵员工。通过电子邮件或商业通信平台进行的网络钓鱼活动是深度伪造内容的完美传递机制,因为企业和用户默认信任此类渠道。

03绕过生物识别

深度技术的普及也为身份识别打开了潘多拉魔盒。身份是跨网络、端点和应用程序的常见变量,关注您正在验证的人或内容对于组织在零信任之旅中的安全性至关重要。但是,当存在可以模仿身份以欺骗身份验证因素(例如生物识别技术)的技术时,被入侵的风险就会变得更大。益博睿的一份报告概述了今年企业面临的五大威胁,其中之一的合成身份欺诈,即网络犯罪分子使用深度伪造的面孔来欺骗生物识别验证,已经被确定为增长最快的金融犯罪类型。这将不可避免地给依赖面部识别软件作为其身份和访问管理策略一部分的企业带来重大挑战。

04数字现实失真

在当今世界,攻击者可以操纵一切。不幸的是,他们也是一些先进技术的率先采用者,例如深度伪造。随着网络犯罪分子不再仅仅为了影响操作或虚假信息而使用深度伪造,他们将开始使用这项技术来危害组织并获得对其环境的访问权限。这应该是对所有CISO和安全专业人员的警告。我们正在进入被攻击者“支配”的,缺乏信任和恐慌的时代。

网络安全网络钓鱼
本作品采用《CC 协议》,转载必须注明作者和本文链接
2022年上半年,全球重大网络安全事件频发,勒索软件、数据泄露、黑客攻击等层出不穷,且变得更具危害性,比如今年1月份,美国布劳沃德公共卫生系统公布了一起大规模数据泄露事件,超过130万人受影响。这一趋势预计将在2023年继续。软件勒索事态恶化恶意软件是以恶意意图编写的软件的统称,包括病毒软件、勒索软件和间谍软件。相关数据显示,2020年全球超过1000家公司因未向勒索软件要求低头而遭到数据泄露。
网络空间安全动态
2021-12-14 22:41:32
12月3日,全国金融标准化技术委员会秘书处发布《金融数据安全 数据安全评估规范》并公开征求意见。这些指令将于12月31日生效,运营商将有90天时间进行网络安全脆弱性评估,180天时间实施网络安全事件响应计划。Kister随后致电德国刑事调查部门和联邦信息安全办公室,并通知相关监管机构,目前调查仍在进行中。12月2日,疑似勒索软件组织Conti在其泄露站点发布了Kisters 5%的被窃数据。
该调查在美国、英国和德国进行。对行业安全认证的不信任是调查发现的另一个关键问题。Sampson认为,网络安全认证与安全意识培训的内容开发、个人学习和能力评估之间的时间间隔与快速发展的威胁形势不匹配,导致个人在面对真实的网络威胁时的实战表现总是低于预期。
近年来机器学习的快速发展使人工智能的潜在能力显而易见。在十几次采访过程中,研究人员、投资者、政府官员和网络安全高管绝大多数表示,他们正以怀疑和兴奋的心情关注生成式人工智能的防御潜力。他们的怀疑源于一种怀疑,即营销炒作歪曲了该技术的实际功能,并且认为AI甚至可能引入一组新的、人们知之甚少的安全漏洞。但这种怀疑被真正的兴奋所掩盖和缓和。这在很大程度上是由于行业领导者OpenAI发布其生成AI产品的积极性。
网络安全文化对系统性建立组织的网络安全能力发挥着重要作用,但这种安全文化的建立不可能一蹴而就。改善安全文化首先必须消除网络安全是一个纯粹的技术课题的神话,并以一种人人都能接触以并相关的语言和规范为人们提供明确的指导。长远来看,组织帮助员工了解网络攻击心理方面的影响因素,对网络安全事件的应对能力会更强。掌握常见网络攻击(如网络钓鱼)背后的心理学,是企业可以采取的切实可行措施之一,这有助于改善其网络
新颖创新技术的兴起和迅速采用已极大地改变了各行各业的全球网络安全和合规格局,比如生成式人工智能、无代码应用程序、自动化和物联网等新技术。 网络犯罪分子正转而采用新的技术、工具和软件来发动攻击,并造成更大的破坏。因此,《2023 年网络安全风险投资网络犯罪报告》预测,与网络犯罪相关的危害成本将迅速增加——预计到 2024 年底,全球损失将达到 10.5 万亿美元。
AIGC(生成式人工智能)、大模型、AGI(人工通用智能)、MaaS(模型即服务)作为科技领域的热门技术,毫无疑问成为了2023年的关键词。“生成式AI”正以前所未有的方式影响着人们的生活和工作方式。在网络安全方面,这项技术也正深刻改变着对抗形态和攻防模式,其在打开人类认知世界新路径的同时,也成为黑客开展网络攻击的“利器”。随着生成式AI的深入发展,“双刃剑”效应日益凸显,其为网络安全带来的冲击和
针对组织的网络安全威胁逐年增加。这些警报也可以上报给 IT 团队以立即进行补救。由于人为错误是数据泄露和其他网络攻击得逞的主要原因,因此企业应投资于网络安全培训,以便其员工做好检测和报告威胁的准备。DNS 保护阻止设备访问恶意站点,MDR 保护监控每个设备的进程以识别异常并快速响应。组织还应该为成功攻击或破坏事件做好准备。
网络安全人员有时处于有利地位,有时处于不利地位。当网络安全人员认为网络安全只是应对网络犯罪活动的工作时,他们会让自己感到失去控制并且沮丧。因此,安全性要求网络安全人员接受度量结果。在关注KPI时应该将其视为一种监视仪表板,监视系统的健康状况。不断追求完美将会扭曲安全性指标,因此进行诚实的评估是关键。当某件事出错并发现重大漏洞时,往往会引起人们的关注。
VSole
网络安全专家