云人工智能:人工智能系统在LinkedIn中发现10个安全漏洞

VSole2022-08-07 16:00:00

因为每个人似乎都在谈论最热门的潮流;人工智能和机器学习;叙事科学的一份报告称,到2018年,62%的大型企业将广泛使用人工智能技术。

但是为什么人工智能被认为是下一个大技术呢?因为它可以增强和改变我们思考、互动、制造和交付的方式。

去年,我们看到了大量针对大组织、政府、小企业和个人的引人注目的黑客攻击;还有什么更令人担忧?

情况会变得更糟,我们需要帮助。

毫无疑问,我们人类可以发现漏洞,但不能同时分析数以百万计、数十亿行代码的程序。

但是,如果我们有一个自主系统,在网络罪犯利用计算机系统漏洞之前发现并修复这些漏洞,而不需要任何人的参与,那该怎么办?

像人类一样与网络交互的云人工智能系统

印度初创企业信息安全风险评估公司Cloudsek也在朝着同样的方向努力,该公司旨在提供基于智能机器学习的解决方案,帮助企业实时识别和应对在线威胁。

该公司开发了云人工智能技术,这是一种基于半监督学习模型的人工智能系统,可以像智能人一样导航并与互联网交互。

云人工智能被设计为能够自动收集有关输入框、按钮和导航链接的信息,且误报率最小。CloudSek联合创始人兼首席技术官拉胡尔·萨西(Rahul Sasi)在今天发布的博客文章中说:“这是因为人类已经生成了大量关于他们如何与网络互动的数据”。“我们使用这些数据来训练我们的模型以成功完成任务。这种方法还可以帮助我们完成具有挑战性的任务,否则对于许多强化模型来说,这些任务非常耗时”。

云人工智能技术为该公司的两种产品提供了动力:

  • CloudMon –监控各种互联网基础设施(包括基于云的应用程序和网站)关键安全问题的系统。
  • x-Vigil –该系统可监控各种互联网来源、地下/论坛、社交媒体平台、渗透数据,并在无需任何人工干预的情况下发现广泛的威胁和提供实时警报。

除此之外,Cloudsek的安全研究人员也在努力提高其云AI技术的技能,使其能够比键盘后面的人更快地发现新的漏洞。

云人工智能发现了如下漏洞人工智能黑客

在成功展示他们的云人工智能技术后,研究人员发现了10个“不安全的直接对象引用“全球最大的在线专业网络LinkedIn存在漏洞。

当任何应用程序在生成网页时频繁使用对象的实际名称或密钥,但并不总是验证用户是否被授权使用目标对象时,就会出现不安全的直接对象引用漏洞。

LinkedIn解决的问题包括:

  • 在LinkedIn上泄露任何用户的电子邮件ID
  • 泄露用户电子邮件、电话号码和简历
  • 删除每个用户的LinkedIn请求
  • 从琳达那里下载每一份成绩单到视频
  • 下载每一份Lynda运动文件,无需高级会员资格

要检测此类缺陷,攻击者只需操纵参数值。但是,对于自动化工具来说,发现这样一个容易识别的安全漏洞是不可能的,因为很难到达有缺陷的端点,而手动执行该过程非常耗时。CloudSek解释说:“云人工智能系统必须填写多个表格,并遵循有效模式才能到达易受攻击的端点。现有的自动化工具和手动分析往往会错过这些端点”。

人工智能擅长破解验证码,但我想知道,甚至相信这个系统可能很快就能打败谷歌最新的reCAPTCHA系统,该系统也由复杂的人工智能系统提供动力,以保护网站免受机器人攻击。

人工智能技术如何塑造网络安全的未来

网络安全是当今世界最大的威胁之一,众所周知,没有足够熟练的网络安全专业人员来应对日益增长的互联网威胁。

互联网已经在努力抵御有组织犯罪、国家资助的黑客、监视,当然还有恐怖主义–;但专家认为,人工智能技术可以帮助我们保护敏感数据和关键基础设施免受攻击者的攻击。

无论是来自CloudSec的云人工智能,还是由特斯拉和Space X首席执行官埃隆·马斯克支持的开放人工智能,这一领域的每一个参与者都希望建立一种技术,最终创造数字智能,造福全人类。“在不久的将来,云人工智能将升级,以帮助用户在互联网上订购任何东西,还可以执行复杂任务以节省宝贵的时间。”萨西告诉黑客新闻

此外,随着物联网(IoT)设备的兴起,网络安全威胁呈指数级增长,因此对这些技术的预防和检测方案的广泛研究正在全球范围内得到大力考虑。

由于人工智能是物联网概念的基本组成部分,机器和设备相互通信以完成工作,只有人工智能和机器学习才能在任何人利用它们之前非常有用地保护我们的网络。

去年,麻省理工学院的安全研究人员还开发了一个新的基于人工智能的网络安全平台,名为AI2“它能够以高精度预测、检测和阻止85%的网络攻击。

这不是互联网安全的革命性想法吗?

与此同时,我们不应忘记,更智能的技术并非没有风险。虽然人工智能可以为组织提供其武库中的宝贵武器,但风险在于该技术不会落入坏人之手。

网络安全人工智能
本作品采用《CC 协议》,转载必须注明作者和本文链接
本周四,在拉斯维加斯举行的BlackHat黑客大会上,拜登政府宣布启动为期两年的“人工智能网络安全挑战赛”(AIxCC),探索如何基于AI开发颠覆性的下一代网络安全解决方案,用来保护美国最重要的软件,包括运行互联网和关键基础设施的计算机代码。
近年来机器学习的快速发展使人工智能的潜在能力显而易见。在十几次采访过程中,研究人员、投资者、政府官员和网络安全高管绝大多数表示,他们正以怀疑和兴奋的心情关注生成式人工智能的防御潜力。他们的怀疑源于一种怀疑,即营销炒作歪曲了该技术的实际功能,并且认为AI甚至可能引入一组新的、人们知之甚少的安全漏洞。但这种怀疑被真正的兴奋所掩盖和缓和。这在很大程度上是由于行业领导者OpenAI发布其生成AI产品的积极性。
近日, NVIDIA 发布了一款零信任网络安全平台。利用该平台的一整套功能,网络安全行业可构建实时保护客户数据中心的解决方案。
日前,全球开源安全组织OWASP(Open Web Application Security Project)发布了《AI大模型应用网络安全治理检查清单(V1.0)》(以下简称为《检查清单》)。在这份长达32页的《检查清单》中,较完整地介绍了AI大模型部署应用时的安全原则、部署策略和检查对照表,适用于那些希望在快速发展的AI领域中保持领先地位的组织和机构,使他们能够在制定大型语言模型战略时,专注于
2015—2021年两会有关网络安全的提议提案整理,内容涵盖“物联网安全”、“工业互联网安全”、“数据安全”、“网络安全治理”等方面
当今的网络安全行业严重依赖传统方法(主要是人工驱动的方法),随着基于大语言模型的生成式人工智能变革浪潮袭来,首当其冲的网络安全行业正面临一次技术和方法的颠覆性革命,不想被淘汰的网络安全从业人员需要重新点亮技能树。
2022年是人工智能和机器学习技术在网络安全领域取得重大突破的一年,也是企业CISO们开始利用人工智能技术突破网络安全“不对称战争”困局的一年。
奇安信提报的“支撑零信任安全架构的人工智能信任决策系统”项目在本届网安周人工智能安全产业发展分论坛上,成功入选人工智能安全典型实践案例。
近年来,以AI、大数据技术以及第五代移动通信网络技术等为代表的新一轮数字革命迅速发展。然而,人们在享受自动驾驶、高频金融交易、刷脸支付等AI新技术发展带来的便利同时,AI不断进化、自我训练式成长和变异的特征,以及基于机器学习和深度搜索提升攻击效果的能力,也带来了新的攻击面和攻击手段,数字经济时代下的AI安全机遇与挑战,已成为时下最具研究价值的热点之一。
当地时间12月18日,作为“数字欧洲计划”的一部分,欧盟委员会为包括网络安全人工智能在内的数字解决方案提供了 7.627 亿欧元的资金。
VSole
网络安全专家