AI变脸源于深度伪造技术,利用“对抗生成网络”模型,以生成模型和判别模型之间的持续对抗博弈,不断自我演进优化,实现快速迭代的“无监督学习”。AI变脸具有高度真实性、泛在普适性和快速演化性等特征。


AI变脸技术产生的风险


AI变脸技术其风险呈现出多样性发展态势。非法AI变脸生产出的虚假新闻、虚假广告等内容,经由不同平台的传播,以场景再现的技术优势,颠覆受众的已有认知,对伦理与道德提出挑战。AI变脸技术将原本极具真实性和现场感的多模态视频呈现变成了“镜花水月”,模糊真相与假象的界限,创造出虚拟世界,冲击民众对真实信息的信任,甚至会引发社会信任危机。AI变脸以“数字嫁接”创造加工出包括“数字虚拟人”的高仿真虚拟场景,民众生活在虚拟与现实交织的世界,导致真实自我在现实社会中的认知迷失。此外,AI变脸通过深度伪造,以“混淆视听”的虚假叙事,冲击民众心理,侵蚀社会信任,扰乱政治舆论生态,AI变脸既可突破对方基于生物特征的身份认证体系,窃取情报信息,又可伪造突发事件,发布虚假信息,制造舆论恐慌。


如何规避AI变脸技术所引起的风险


AI变脸技术风险的规制涉及范围广、领域宽、内容多,蕴含活力与秩序、自由与安全、责任与信任等诸多方面,是一项复杂的系统工程。要强化高位统筹、顶层设计、系统谋划、整体推进,以数据算法、合作共治、信息保护、法律法规等维度的同向发力、良性互动,聚力推进AI变脸技术异化治理体系的构建创新,有效管控风险,提升整体治理效能。


以数据算法为基石,深化从源头治理。算法既是AI变脸的技术核心,又是其生成路径。智能算法具有的数据共享、自主学习、封装移植等特质,将普通民众彻底隔绝在信息内容的生产、过滤、推荐链条外,引致产生与AI变脸天然契合的“算法黑箱”。规制AI变脸技术的风险,要强化算法治理。强化主流价值引领算法,将其嵌入到AI变脸技术发展的全生命周期,引导算法设计者、信息分发者坚持正确价值取向,引导算法应用向上向善。构建算法数据库,收录AI变脸技术的生成算法、识别算法和检测算法等模型,以溯源防伪、反向破解辅助识别判定AI变脸作品,并将其同步收录数据库,通过样本的累积迭代,提升比对判定能力。优化传播媒介平台内部算法,构建事实核查、分级检测和分级推荐机制,强化外部算法治理,协同优化算法的准入、监督、投诉和评估等配套制度体系。


以合作共治为架构,推进协同治理。AI变脸技术异化的规制蕴含组织与制度等多元要素,应秉持审慎、理性、权衡和预防的原则,在网络化、包容性、无缝隙的协作框架下聚智共谋,推进协同治理。要秉持合作精神,培育共治价值,优化完善合作治理、共同治理机制,在规章制度框架内,通过资源整合、功能互补,寻求最大“公约数”,驱动AI变脸技术风险治理由点状分散向融合交互跃迁。要以主体跨域协同、路径集成协同、信息交互协同为路径,优化协同治理界面,贯通政府部门、传播平台、技术开发、产品制作、网络用户的责任传导链条,创新协同治理,提振治理质效。强化政府部门、社交平台、科研院所的良性互动,厘清权责关系,破除壁垒、疏解堵点、理顺机制、畅通渠道,共同开发检测审查AI变脸的技术算法,画好协同治理“同心圆”,共同应对AI变脸技术风险。


以信息保护为支撑,构筑立体屏障。生物识别信息具有人身表征性、不可替代性特点,既是AI变脸的原始材料,也是基础根基。AI变脸技术异化的风险规制,应以“隐私控制”为原则,构建从收集到存储再到应用的多维立体保护体系。AI变脸技术使用者采集面部识别信息时,应秉持知情同意、目的限制、正当诚信、必要安全的基本原则,严格遵守个人信息保护法中基于“特定的目的和充分的必要性”“取得个人的单独同意”的条款规定。细化采集入库规则,建立媒介平台动态征询和信息披露机制,基于适度透明、隐私侵犯最小化原则收集信息。完善保管存储规则,媒介平台应采取加密技术,隐名化、匿名化储存用户生物识别信息,严格限定储存期限和敏感应用场景。丰富加工利用规则,制作者、上传者对原始视频采用语音标识、数字水印等方式进行信源标注,优化信息公开、转让,确保检测核查有据可循。


以法律框定为红线,厘清技术边界。秉持“技术—经济—社会”的模式,兼顾必要的社会面向,平衡调和公共利益和个人权益之间的张力。持续完善行政与民事相结合的法律规制体系构造,健全法律规制体系的层次性和梯度性,回应AI变脸技术异化导致法益侵害复合化,为技术发展提供方向指引。在2023年1月10日施行的《互联网信息服务深度合成管理规定》的基础之上,进一步厘清AI变脸源头制作者的法律责任,细化AI变脸可能带来的侵权行为,做好追踪溯源。构建要素上贯通生产、使用、维护、监管等节点,内容上统合审查、商议、监督、互动机制的法律规范框架体系。加大平台处罚力度,增设传播媒介平台的技术检测义务和过滤删除的“守门人”责任,以疏堵结合的策略,细化不同场景应用的法律规制,以法律为AI变脸框定红线。