人工智能与机器学习对网络安全的正面和负面影响

人工智能（AI）和机器学习（ML）如今深入我们日常生活的方方面面，包括网络安全。在网络安全人员手里，AI/ML可以识别漏洞并减少事件响应耗时。但在网络罪犯手里，AI/ML就能用于制造重大伤害。

AI/ML对网络安全的影响既有正面的，也有负面的。下面我们就列出AI/ML从正面和负面影响网络安全的各七种方式。 

AI/ML对网络安全的七个正面影响

● 欺诈和异常检测：这是AI工具拯救网络安全最常见的方式。复合AI欺诈检测引擎在识别复杂欺诈模式方面效果显著。欺诈检测系统的高级分析仪表盘可以呈现全面的事件详情。这是异常检测中一个非常重要的领域。

● 垃圾邮件过滤：防御规则滤出含有可疑字词的邮件，从而识别危险电子邮件。此外，垃圾邮件过滤还可以保护电子邮件用户，并减少处理多余邮件的耗时。

● 僵尸网络检测：监督和无监督ML算法不仅有利于检测，还可以防止复杂僵尸攻击。此类算法还有助于识别用户行为模式，以相当低的误报率辨别未检出的攻击。

● 漏洞管理：管理漏洞（人工管理或使用技术工具管理）可能会很难，但AI系统能让漏洞管理变得更加轻松。AI工具通过分析用户行为、端点、服务器，甚至暗网上的黑客讨论话题来寻找潜在的漏洞，识别代码漏洞并预测攻击。

● 反恶意软件：AI帮助杀毒软件检测良性和恶意文件，令识别此前从未见过的新型恶意软件成为可能。尽管用基于AI的技术完全替代传统技术可以提高检测速度，但同时也会增加误报。传统方法和AI方法结合使用可以100%检出恶意软件。

● 数据泄露防护：AI帮助识别文本和非文本文件中的特定数据类型。可训练的分类器可以用来检测各种敏感信息类型。这些AI方法可以使用相应的识别算法搜索图片、音频、视频中的数据。

● SIEM和SOAR：ML可以使用安全信息与事件管理（SIEM）和安全编排、自动化与响应（SOAR）工具来改善数据自动化和情报收集，检测可疑行为模式，并根据输入自动响应。

网络流量分析、入侵检测系统、入侵预防系统、安全访问服务边缘、用户及实体行为分析，以及Gartner《安全影响雷达》中描述的大多数技术领域都用到了AI/ML。事实上，我们很难想象有哪个现代安全工具是没有用到一点儿AI/ML魔法的。

AI/ML对网络安全的七个负面影响

● 数据收集：通过社会工程和其他技术，ML可用于更好的受害者画像，而网络罪犯可利用此信息来加速攻击。例如，2018年，WordPress网站经历了基于ML的大规模僵尸网络感染，导致大量用户的个人信息被黑客收割。

● 勒索软件：勒索软件卷土重来。勒索软件的成功例子不胜枚举，最臭名昭著的一起就是Colonial Pipeline经历的六天宕机和440万赎金支付。

● 垃圾邮件、网络钓鱼和鱼叉式网络钓鱼：ML算法可以生成非常逼真的虚假邮件，用于偷盗用户凭证。黑帽大会的一场演讲中，John Seymour和Philip Tully详细演示了ML算法生成的病毒式推特文章（含虚假网络钓鱼链接）是怎么达到比人写的网络钓鱼邮件有效四倍的。

● 深度伪造：语音网络钓鱼中，诈骗犯使用ML生成的深度伪造音频技术创建更加成功的攻击。现代算法，比如百度的“Deep Voice”语音系统，仅需要几秒钟的人声就能重现样本人声的说话方式、口音和语调。

● 恶意软件：ML可以隐藏记录节点和端点行为的恶意软件，并在受害者的网络上构建模拟合法网络流量的模式。ML还可以在恶意软件中融入自毁机制，从而提高攻击速度。黑客还可以训练算法，令算法抽取数据的速度比人工更快，从而更难以预防。

● 口令和CAPTCHA（全自动区分计算机和人类的图灵测试）：基于神经网络的软件可以很轻松地突破人机识别系统。网络罪犯能够利用ML分析大量口令数据集，更好地猜解口令。例如，PassGAN采用ML算法猜解口令就比采用传统技术的流行口令破解工具更准确。

● 攻击AI/ML自身：滥用运行于医疗、军事和其他高价值行业核心的算法可能导致灾难。贝里维尔机器学习研究所的《机器学习系统架构性风险分析》有助于分析已知ML攻击分类和执行ML算法架构性风险分析。安全工程师必须了解如何保护ML算法整个生命周期的每个阶段。

不难理解为什么AI/ML会获得如此之多的关注。对付狡猾网络攻击的唯一方法就是利用AI的防御潜力。企业界必须注意到，ML在异常检测方面（例如检测流量模式异常或人为错误）有多么强大。借助恰当的对策可以防止或大幅减轻可能的伤害。

总的说来，AI/ML在保护我们免受网络威胁侵害方面价值巨大。一些政府和公司已经在用或准备使用AI/ML对抗网络罪犯。尽管存在围绕AI/ML的隐私和道德顾虑，但政府必须确保AI/ML法规不会阻碍企业使用AI/ML实施网络防护。因为，众所周知，网络罪犯是不会遵规守纪的。