黑客展示“没有道德限制”的 WormGPT:可自动生成木马、钓鱼链接

VSole2023-07-19 10:04:30

据安全分析公司 SlashNext 表示,有黑客日前开发出了一款名为 WormGPT 的 AI 工具,黑客声称 " 该 AI 工具没有任何限制,专为协助网络犯罪分子而设计,可以自由生成一系列恶意代码,或创建网络钓鱼攻击 "。

SlashNext 表示,WormGPT 最早在今年 3 月首次出现,并在 6 月推出了正式版本,黑客当下正在对外销售该 AI 工具的使用权限。

▲ 图源 SlashNext

黑客在售卖页表示:" 该 AI 工具旨在提供 ChatGPT 的替代方案,便于用户执行各种与黑帽相关的活动,让任何人都可以在家中舒适地进行恶意活动。"

黑客声称,为了创建这个聊天机器人,他们使用了 2021 年推出的一种名为 GPT-J 的较旧但开源的大型语言模型。然后,该模型经过对恶意软件创建相关数据的训练,从而最终形成了 WormGPT。

▲ 图源 SlashNext

黑客以每月 60 欧元(IT 之家注:约 480.98 元人民币)或每年 550 欧元(约 4408.95 元人民币)的价格销售该 AI 工具的使用权限,设计 WormGPT 的黑客还上传了截图,显示用户可以要求该工具生成使用 Python 编程语言编写的恶意软件。

安全分析公司 SlashNext 取得了 WormGPT 使用权限,并进行了一系列测试,并表示:

结果令人不安,WormGPT 制作的钓鱼邮件不仅非常有说服力,而且在战略上也很狡猾,展示了其邪恶潜力。

▲ 图源 SlashNext

安全公司据此认为,随着 AI 技术的普及,此类 " 完全为网络攻击而生 " 的 AI 工具恐将受到黑客所滥用,从而带来重大威胁。

黑客人工智能
本作品采用《CC 协议》,转载必须注明作者和本文链接
网络安全专业人士正在利用人工智能技术来打击黑客人工智能驱动的解决方案包括用于入侵检测和预防的智能防火墙、新的恶意软件预防工具,以及用于识别可能的网络钓鱼攻击的风险评分算法。
Pcmag 网站披露,一名黑客利用人工智能深度伪造了一名员工声音,成功入侵 IT 公司 Retool,致使 27 名云客户被卷入网络安全事件当中。
随着新时代生成式人工智能的崛起,电子邮件诈骗的风险也进一步提高,智能人工已经在世界各地克隆、改进和传送了无数封恶意钓鱼电子邮件。而据IBM 的一项新研究表明,当前的生成式人工智能 (AI) 模型已经非常擅长编写看似高度可信的网络钓鱼电子邮件,并且可以为攻击者节省大量时间。 那么面对这些可能具有逼真外观和伪装的钓鱼电子邮件,我们应该如何辨别和避免呢?以下是小编收集的一些注意事项和建议,一起
DEF CON是每年8月在拉斯维加斯召开的黑客大会,此次安全竞赛由人工智能黑客社区AI Village主办。在AI Village发布的活动公告中,组织方Sven Cattell、Rumman Chowdhury和Austin Carson将其称为“有史以来规模最大的人工智能模型红队演习”。最终,得分最高的参与者将获得英伟达高端GPU作为奖品。DEF CON 31将于8月10至13日在拉斯维加斯凯撒宫酒店举办。
因为每个人似乎都在谈论最热门的潮流;人工智能和机器学习;叙事科学的一份报告称,到2018年,62%的大型企业将广泛使用人工智能技术。毫无疑问,我们人类可以发现漏洞,但不能同时分析数以百万计、数十亿行代码的程序。云人工智能技术为该公司的两种产品提供了动力:CloudMon –监控各种互联网基础设施关键安全问题的系统。
人工智能的安全挑战
2018-06-04 21:24:28
近两年人工智能(Artificial Intelligence)已经成为一个炙手可热的名词,各行各业尤其是信息产业已将人工智能视为行业的下一个发展方向。 遍地开花的人工智能 人工智能不断涌现的各种成果频繁刺激着社会的认知,改变着人们的生产生活方式。各类智能机器人不断面世,机器人索薇娅成为全球首位被赋予法律公民身份的机器人;继AlphaGo横扫围棋大师后,来自国产的人工智能程序星阵围棋(Gol
谷歌研究人员已经确定了针对现实世界人工智能系统可能发生的六种特定攻击,发现这些常见的攻击向量表现出独特的复杂性,他们指出,这需要结合对抗性模拟和人工智能主题专业知识的帮助来构建坚实的防御。
大多数人可能认为自己或多或少熟悉传统网络攻击的套路,比如涉及系统入侵、病毒和勒索软件的那些。目前记录在案的很多深度伪造音频欺诈案例并没有达成罪犯的最终目标。科学家正在研究复杂而深远的算法,这些算法能够学习人类的语音模式和特点,可用于检测深度伪造音轨。有鉴于此,最好的建议就是保持警惕,做好准备,因为深度伪造音频诈骗可能会成为网络安全需处理的下一个大问题。
客户背景中圣科技(江苏)股份有限公司(以下简称“中圣科技”),是一家以技术研发为驱动,以清洁能源核心成套装备和节能环保工程服务为支撑的科技创新型企业。其以南京为核心运营基地,与当地政府、大型国有企业和行业龙头,共同推动清洁能源产业的创新和可持续发展。此类企业具备着丰富的知识产权和卓越的研发实力,因此,更加重视网络信息安全,保护邮件的安全性成为关键任务之一。  用户需求痛点&nb
事件响应分类和软件漏洞发现是大型语言模型成功的两个领域,尽管误报很常见。
VSole
网络安全专家