语音克隆孙燕姿火爆全网，个人隐私将受到最大威胁

近日，有一个叫“AI孙燕姿”的歌手走红社交网络，这些通过技术手段训练模拟孙燕姿的声音来演唱的歌曲，最后生成的效果毫不违和。这种现象背后，“语音克隆”所带来的个人隐私泄露问题值得反思。

此外，安全专家警告说，威胁行为者对暗网上的语音克隆即服务 (VCaaS) 产品的兴趣激增，旨在简化基于 deepfake 的欺诈。

Recorded Future 的最新报告《我没有嘴巴，我必须犯罪》基于对地下网络犯罪聊天的威胁情报分析。

Deepfake 音频技术可以模仿目标的声音，以绕过多因素身份验证、传播错误和虚假信息，并增强社交工程在商业电子邮件妥协 (BEC) 式攻击等方面的有效性。

Recorded Future 警告说，越来越多的开箱即用语音克隆平台在暗网上可用，降低了网络犯罪分子的进入门槛。供应商声称，有些可以通过注册帐户免费使用，而另一些则每月只需支付 5 美元多一点。

在 Recorded Future 观察到的聊天记录中，假冒、回电诈骗和语音网络钓鱼经常在此类工具的背景下被提及。

在某些情况下，网络犯罪分子滥用合法工具，例如用于有声读物画外音、电影和电视配音、配音和广告的工具。

一个显然很受欢迎的选择是 ElevenLabs的 Prime Voice AI 软件，这是一种基于浏览器的文本到语音转换工具，允许用户上传自定义语音样本以收取额外费用。

然而，根据该报告，在将工具的使用限制在付费客户方面，供应商鼓励了更多的暗网创新。

报告中提到，“这导致越来越多地提到威胁行为者向 ElevenLabs 出售付费账户以及宣传 VCaaS 产品。这些新的限制为一种新形式的商品化网络犯罪打开了大门，需要以多层次的方式加以解决。”

幸运的是，许多当前的 deepfake 语音技术仅限于生成一次性样本，无法用于实时扩展对话。然而，Recorded Future 认为，需要在威胁升级之前采取全行业的方法来解决威胁。

报告总结到，“风险缓解策略需要跨学科，解决社会工程、网络钓鱼和网络钓鱼、虚假信息等的根本原因。声音克隆技术仍然被具有特定意图的人类所利用——它不会自行进行攻击。”

“因此，采用一个框架来教育员工、用户和客户了解它所构成的威胁在短期内比打击技术滥用本身更有效——这应该是一个长期的战略目标。”

当媒体联系 Recorded Future 寻求进一步评论，但不愿提供报告以外的任何信息。