深度伪造:进阶网络钓鱼遇上下一代安全

Simpson2020-11-05 16:47:19

随着人工智能和深度伪造(Deepfake)技术领域变得越来越复杂,深度伪造技术对公司和个人构成的风险越来越大。最新软件和算法的日益成熟,令“孜孜不倦”害人的恶意黑客、骗子和网络罪犯始终领先监管机构一步,攻击威胁越来越难以防备。

大多数人可能认为自己或多或少熟悉传统网络攻击的套路,比如涉及系统入侵、病毒和勒索软件的那些。然而,2019年,一家英国能源公司的首席执行官(CEO)遭遇深度伪造音频技术电话诈骗。自此,网络犯罪领域突飞猛进,骗子防不胜防。

上述案例中,人工智能生成的深度伪造音频文件令受害CEO以为自己是在跟老板通话,于是在“老板”的指示下,给网络罪犯转账了将近25万美元。此后,一些网络安全专家不由考虑:深度伪造音频技术是否代表着新时代的主要安全问题?而整个世界都在争相寻找这一紧迫威胁的解决办法。

语音克隆和人工智能音频:网络犯罪新前沿

毫无疑问,音频深度伪造骗局是深度伪造技术更为怪异的一种应用。但是,正如我们所看到的,这种骗局显然可以成功应用,而且成功到极为令人信服。事实上,沦为网络攻击受害者的那位首席执行官公开表示,他通过“轻微的德国口音”和“轻快的腔调”认出了老板的声音。此外,无论从哪个方面看,网络罪犯的技术都更难以在一个月之内发现了。

撇开高端技术不谈,音频深度伪造背后的构建过程简单到令人惊讶。黑客已经调整了机器学习技术,一般情况下,通过间谍软件和设备收集几个小时的通话录音,就可以克隆出受害人的语音。收集的数据越多,录音质量越好,语音克隆的准确度就越高,实际运用的潜在危害也就越大。

只要建立起语音模型,恶意黑客的人工智能算法就可以“学习”如何模仿目标说话。人工智能会利用所谓对抗生成网络(GAN)系统,一边创建伪造音频,一边尝试发现其缺陷。每一次新的尝试,人工智能都能极大改进自身。这一过程一直持续到形成可靠的语音模拟,往往只需分析20分钟的录音就能成功。

这对很多高管,尤其是大公司的高管而言可不是什么好消息,他们的录音太好获取了。网上就记录着无数段演讲,还有社交媒体分享加持;电话、访谈和日常对话也相对容易入手。只要资源池里存够数据,深度伪造音频文件的准确度就相当惊人,网络罪犯能操纵深度伪造音频说任何话。

目前记录在案的很多深度伪造音频欺诈案例并没有达成罪犯的最终目标。但只要想想2019年非洲加蓬共和国的未遂政变就是深度伪造音频电话引发的,就会清楚这种技术能有多大的影响力。

进阶网络钓鱼遇上下一代安全

没采用深度伪造技术的常规网络钓鱼诈骗依然很有市场,85%的企业遭遇过网络钓鱼欺诈。然而,语音网络钓鱼者之所以对资金充裕的企业安全构成如此强大的威胁,其中一个关键原因是,深度伪造音频黑客能够绕过传说中的网络安全防护:企业VPN。

公司计算机网络可以抵御大多数复杂的恶意软件和病毒,VPN软件也会持续更新,留意新的问题和病毒类型。然而,人工智能生成的电话呼叫完全取决于人为失误、轻信和信任,让人防不胜防。

既然攥在手中的智能手机都不像自己以为的那么安全,不难想象网络罪犯可以通过多种方式穿透我们的防线。因此,有理由认为,要保护我们的隐私和漏洞免受深度伪造音频影响,也得靠人工智能解决方案,专为根除深度伪造音频而设计的那种。

科学家正在研究复杂而深远的算法,这些算法能够学习人类的语音模式和特点,可用于检测深度伪造音轨。

通过找出语音中的“畸变”,并自动对比录音和真实语音文件,这些伪造语音会被纳入反语音克隆安全设备中。从本质上讲,近期即将普及的此类反语音克隆安全系统,是恶意黑客用于行骗的同款人工智能工具的高级仿品。

专家强调,我们可以采取一些实际防护步骤,保护自己免受深度伪造音频诈骗。识别深度伪造欺诈骗局的最简单有效的方法之一,就是直接挂断电话,然后回拨。大多数深度伪造欺诈骗局都用的是预付费网络电话(VOIP)账户。只要回拨,受害人应该能够立即弄清电话那头是否真人。

深度伪造音频诈骗:即将到来的真实威胁

目前,深度伪造音频欺诈似乎距离我们还远,此项技术并未普及到成为大多数专业人士和个人的主要考虑。当然,这种情况在不久的将来可能会改变。人工智能飞速发展,这项支撑深度伪造的技术正变得越来越容易获得和使用。

虽然私营安全系统和国际网络犯罪打击工作正迅速赶上恶意黑客,但道高一尺魔高一丈,恶意黑客总在不断探索突破防线的新方法。有鉴于此,最好的建议就是保持警惕,做好准备,因为深度伪造音频诈骗可能会成为网络安全需处理的下一个大问题。

网络钓鱼音频应用
本作品采用《CC 协议》,转载必须注明作者和本文链接
Operation(верность)mercenary:陷阵于东欧平原的钢铁洪流、Bitter组织使用“Dracarys”Android间谍软件……
大多数人可能认为自己或多或少熟悉传统网络攻击的套路,比如涉及系统入侵、病毒和勒索软件的那些。目前记录在案的很多深度伪造音频欺诈案例并没有达成罪犯的最终目标。科学家正在研究复杂而深远的算法,这些算法能够学习人类的语音模式和特点,可用于检测深度伪造音轨。有鉴于此,最好的建议就是保持警惕,做好准备,因为深度伪造音频诈骗可能会成为网络安全需处理的下一个大问题。
关注乌克兰网络攻击的安全研究人员发布报告称,俄罗斯黑客组织Gamaredon继续以乌克兰为目标,对其发起网络钓鱼攻击。自2014年以来一直保持活跃,主要攻击目标是与乌克兰政府存在可能关联的个人,该组织已经对该国关键公共设施和私营实体的数千次袭击负责。
据云安全公司Qualys声称,最近一起恶意软件活动背后的威胁分子一直在使用哥伦比亚银行客户的被盗信息作为网络钓鱼邮件的诱饵,目的在于用BitRAT远程访问木马感染目标。该公司在调查活跃网络钓鱼攻击中的BitRAT诱饵时发现,一家未公开身份的哥伦比亚合作银行的基础设施遭到了攻击者的劫持。
在近几十年中,人工智能 (AI) 已经从科幻概念逐步转变为实际应用,渗透到社会的每个角落。从为电商网站推荐个性化商品,到自动制导车辆,再到帮助医生诊断疾病,AI的应用看似无所不在。然而,随着AI在各行各业的广泛应用,其在网络安全领域的作用也日益凸显。
在网络安全领域,全球越来越多的公司正在尝试将人工智能、机器学习等集成到产品之中,智能化、自动化都是网络安全领域的热词。
“这可能意味着恶意软件将在以后的攻击中使用,防御者应密切注意这一威胁以防止感染。”据Dedola称,Transparent Tribe的最新恶意软件突显了威胁组织不断扩展其工具集和操作。Kaspersky的研究人员还使用名为Peppy的另一种基于.NET和Python的RAT观察了该小组。Dedola指出:“使该小组特别危险的是活动的数量。”Dedola说,但这些国家的受害者很可能与印度和阿富汗有联系。
Facebook 母公司 Meta 披露,它对南亚的两项间谍活动采取了行动,这些活动利用其社交媒体平台向潜在目标分发恶意软件。
Deepfakes(深度伪造)技术对企业组织来说是一种不断升级的网络安全威胁。如今,网络犯罪分子正在大力投资人工智能和机器学习等Deepfakes技术,以创建、合成或操纵数字内容(包括图像、视频、音频和文本),进行网络攻击和欺诈。这种技术可以真实地复制或改变外观、声音、举止或词汇,目的是进行欺诈,让受害者相信他们所看到、听到或阅读的内容真实可信。
Simpson
暂无描述