近日,社交平台上有人以香港特首李家超出席活动的画面,配上人工智能生成的声音,推介所谓高回报投资计划,还称获利可以免税。对此特区政府严正澄清,有关影片全属伪造,呼吁市民提高警惕,并强烈谴责不法之徒的诈骗行为。


这些年,AI技术迭代发展,深入社会运行各个场景,给人们带来丰富休闲体验的同时,也生出了不少困扰。“你要的样子我都有”“你喜欢的声音都提供”,因换声换脸变装而起的争议频频发生。有演员遭遇换脸不得不公开打假,有歌手被换声忙不迭澄清谴责。公众人物不堪其扰,普通大众也屡屡躺枪。好好的一张生活照被“一键脱衣”,误以为是好友聊天结果10分钟被骗400多万……以假乱真的视频、图片、声音日渐泛滥,不仅挑战着社会认知,也造成了秩序混乱。


AI换的“脸”“声”是假的,作恶造成的冲击却是真的。随着技术升级,应用的门槛迅速降低,辨别真伪的难度越来越大。比如前段时间,“特朗普与霉霉以自己的独特音色发表中文谈话”火爆全网,AI的表情姿态、语言风格相当自然。照这么发展下去,大家的肖像权、名誉权、著作权等如何才能得到有效维护,财产安全、隐私安全乃至人身安全等如何才能得到妥善保障?


AI换脸换声绝不只是“逗你玩”,很可能成为不法之徒的帮凶。2022年12月,《互联网信息服务深度合成管理规定》发布,2023年8月《生成式人工智能服务管理暂行办法》施行……随着各项法规出台并细化,刚性治理有了更多抓手。对踩踏红线者严肃惩处,将典型案例广而告之,尽可能震慑作恶,才能引导技术在服务社会的轨道上运行。


“强大人工智能的崛起,可能是人类遇到的最好的事情,但也可能是最坏的事情。”技术本身无原罪,善恶其实都在人。让科技为社会造福而不是添乱,我们都需多一分敬畏,多一些谨慎。