AI换脸换声，一种“新型”的诈骗方式

近日，社交平台上有人以香港特首李家超出席活动的画面，配上人工智能生成的声音，推介所谓高回报投资计划，还称获利可以免税。对此特区政府严正澄清，有关影片全属伪造，呼吁市民提高警惕，并强烈谴责不法之徒的诈骗行为。

这些年，AI技术迭代发展，深入社会运行各个场景，给人们带来丰富休闲体验的同时，也生出了不少困扰。“你要的样子我都有”“你喜欢的声音都提供”，因换声换脸变装而起的争议频频发生。有演员遭遇换脸不得不公开打假，有歌手被换声忙不迭澄清谴责。公众人物不堪其扰，普通大众也屡屡躺枪。好好的一张生活照被“一键脱衣”，误以为是好友聊天结果10分钟被骗400多万……以假乱真的视频、图片、声音日渐泛滥，不仅挑战着社会认知，也造成了秩序混乱。

AI换的“脸”“声”是假的，作恶造成的冲击却是真的。随着技术升级，应用的门槛迅速降低，辨别真伪的难度越来越大。比如前段时间，“特朗普与霉霉以自己的独特音色发表中文谈话”火爆全网，AI的表情姿态、语言风格相当自然。照这么发展下去，大家的肖像权、名誉权、著作权等如何才能得到有效维护，财产安全、隐私安全乃至人身安全等如何才能得到妥善保障？

AI换脸换声绝不只是“逗你玩”，很可能成为不法之徒的帮凶。2022年12月，《互联网信息服务深度合成管理规定》发布，2023年8月《生成式人工智能服务管理暂行办法》施行……随着各项法规出台并细化，刚性治理有了更多抓手。对踩踏红线者严肃惩处，将典型案例广而告之，尽可能震慑作恶，才能引导技术在服务社会的轨道上运行。

“强大人工智能的崛起，可能是人类遇到的最好的事情，但也可能是最坏的事情。”技术本身无原罪，善恶其实都在人。让科技为社会造福而不是添乱，我们都需多一分敬畏，多一些谨慎。