与ChatGPT相关的恶意URL呈上升趋势

VSole2023-04-24 10:30:24

从2022年11月到2023年4月上旬,与ChatGPT相关的新注册和抢注域名数量每月增长910%。

Palo Alto Networks 的Unit4220日早些时候分享的调查结果还提到,在同一时间段内,来自DNS安全日志的相关抢注域名增长了17,818%。

“我们每天还检测到多达118个与 ChatGPT相关的恶意URL,这些恶意URL从我们的高级URL过滤系统中看到的流量中捕获,” Peng Peng、Zhanhao Chen和Lucas Hu的新报告中写道。

在研究人员观察到的趋势中,多个网络钓鱼URL试图冒充OpenAI官方网站。“

通常,诈骗者会创建一个与ChatGPT官方网站外观非常相似的虚假网站,然后诱骗用户下载恶意软件或共享敏感信息,”Unit 42解释道。

“此外,诈骗者可能会使用与ChatGPT相关的社会工程进行身份盗用或金融欺诈。”还观察到一些诈骗者利用OpenAI的日益普及进行加密欺诈,例如,试图吸引受害者参与欺诈性加密赠品活动。

但一些欺诈网站实际上利用了OpenAI在3月份提供的官方ChatGPT API。“鉴于某些国家或地区无法访问ChatGPT,使用这些自动化工具或API创建的网站可能会吸引来自这些地区的大量用户,”研究团队解释说。

“这也为威胁行为者提供了通过代理他们的服务将ChatGPT 货币化的机会。”据该团队称,这些工具,以及与ChatGPT相关的注册域名和抢注域名的普遍增加,代表了一种增长趋势。

“为了安全起见,ChatGPT用户应谨慎处理与ChatGPT相关的可疑电子邮件或链接,”该建议写道。“此外,山寨聊天机器人的使用会带来额外的安全风险。用户应始终通过OpenAI官方网站访问ChatGPT。”

urlopenai
本作品采用《CC 协议》,转载必须注明作者和本文链接
从2022年11月到2023年4月上旬,与ChatGPT相关的新注册和抢注域名数量每月增长910%。“此外,诈骗者可能会使用与ChatGPT相关的社会工程进行身份盗用或金融欺诈。”但一些欺诈网站实际上利用了OpenAI在3月份提供的官方ChatGPT API。
Meta 表示,它已采取措施从其服务中共享 1000 多个恶意 URL,这些 URL 被发现利用 OpenAI 的 ChatGPT 作为诱饵,自 2023 年 3 月以来传播约 10 个恶意软件系列。
自从去年11月底OpenAI发布了ChatGPT,很多安全专家就预测网络罪犯开始利用该AI聊天机器人编写恶意软件和从事其他恶意活动只是时间问题。Shykevich表示,为了让网络罪犯更难滥用这些技术,开发人员需要训练和改进其AI引擎,从而识别可能被恶意使用的请求。另一种选择则是实现身份验证和授权,需通过验证和授权才能使用OpenAI引擎。
ChatGPT在发布后OpenAI估值已涨至290亿美元,上线两个月后用户数量达到1亿。但相较于InstructGPT,GPT3的回答简短,回复过于通俗毫无亮点。InstructGPT通过遵循数据中的指令进行训练模型,从而提供详细的响应文本。
自11月底发布以来,美国人工智能研究公司OpenAI的高级聊天机器人ChatGPT已经被用户玩出了花。如今,一家安全供应商发出警告称,黑客可能利用该聊天机器人执行高度针对性的网络攻击。上个月发布的时候,OpenAI表示设置了检查措施防止ChatGPT生成恶意代码,但发布之后人们找到了多种方式骗过这个系统,让ChatGPT认为产生恶意代码仅仅是出于研究目的。
周二,微软宣布将要推出Security Copilot,一款由人工智能驱动的安全分析助手,据说它能够协助网络安全团队快速响应处理威胁、评估报告安全风险。微软还在其官网上演示了Security Copilot的以下几种功能:事件响应:识别正在进行的攻击,评估其规模,并获取说明,以根据来自真实安全案例的成熟策略开始补救。一次检查一个资产的环境,以查找违规证据。
研究人员在TorchServe中发现多个高分漏洞,影响数万AI 服务器。
2022年11月30日发布的ChatGPT以其丰富的知识与出色的自然语言交互能力引起了现象级的关注。这样一款爆品依托于什么样的黑科技进行研发,在怎样的背景下产生,能否赋能我们现有的产品,处于一个怎样的定位,未来发展会怎样?
ChatGPT最近添加的代码解释器让使用AI编写Python代码变得更便捷,因为它实际上已可以编写代码,然后在沙盒环境中运行代码。
VSole
网络安全专家