随着大数据挖掘、机器学习等算法的进步,拥有强大数据处理和预测分析能力的算法成为政府科学决策的重要工具。2022年6月颁布的《国务院关于加强数字政府建设的指导意见》要求建立健全大数据辅助科学决策机制,全面提升政府决策科学化水平,算法决策成为建设“敏捷高效、智能精准”数字政府的重要手段。但不容忽视的是,算法决策在提高决策科学性的同时,也会带来算法歧视、偏见甚至算法操纵、利益俘获等价值偏差问题,损害公共利益。公共领域算法决策必须直面算法价值偏差问题并加以妥善解决。

“算法黑箱”带来算法决策价值偏差

“算法黑箱”指人们能看到输入算法的数据和算法输出的结果,但不具备专业知识的人无法理解算法的计算过程,算法的运行逻辑呈现“黑箱”状态。在大数据时代,以人工神经网络为代表的机器学习算法基于训练数据进行自主学习生成算法模型,即使算法设计者也无法准确解释算法模型的机理。当算法复杂性超越技术复杂性上升为认知复杂性,“算法黑箱”成为算法复杂化的必然结果,使算法呈现出一定程度的不可理解性,也使算法的价值导向在一定程度上脱离了人类的控制,产生一系列价值偏差问题。虽然算法的“黑箱”特性使算法的准确性与可解释性成为一对不可兼得的矛盾,但不能一味追求算法的准确高效而忽视“算法黑箱”带来的价值偏差问题。2021年颁布的《中华人民共和国数据安全法》要求“开展数据处理活动以及研究开发数据新技术,应当有利于促进经济社会发展,增进人民福祉,符合社会公德和伦理”。2022年实施的《互联网信息服务算法推荐管理规定》是我国一部针对算法的法律性文件,它的目的是“为了规范互联网信息服务算法推荐活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益”。

党的二十大报告指出,为民造福是立党为公、执政为民的本质要求。数字政府建设的根本目的是实现好、维护好、发展好最广大人民根本利益。因此,公共领域算法决策的首要属性是公共性,只有符合公共价值导向,决策算法的准确高效才会有利于公共利益。面对算法可解释性与准确性的固有矛盾,数字政府建设必须加强算法决策的全生态全流程治理,将“算法黑箱”带来的价值偏差控制在最小范围内,使算法决策始终遵循以人民为中心的公共价值导向。

避免算法决策价值偏差的几点建议

明确开发者责任,在算法编写时嵌入公共价值。算法是由人编写的,必然会在编写时植入了开发者的价值观,应努力消除来自开发者的价值偏差。第一,加强开发者教育。制定开发者道德规范和行为守则,树立社会主义核心价值观,增强开发者的公共责任感和使命感,在算法设计时嵌入符合公共价值导向的算法伦理。第二,成立算法伦理委员会。要求开发者建立健全算法伦理自我审查机制,对算法的机制、模型、数据等进行定期审核,对算法的价值目标、嵌入伦理、技术局限性及可能的风险后果进行审查,努力做到“负责任的算法”。第三,推动行业自律。政府部门要制定出台我国的算法行业公约,倡导开发者以为人类作贡献和多数人受益的原则开发算法。

提升数据质量,在算法训练时输入公共价值。机器学习算法通过数据训练而成,它会习得并强化训练数据潜藏的价值偏见,要努力提升训练数据的价值含金量,在数据源头输入公共价值。第一,注重数据的代表性。数字时代的一些群体如老年人、信息技术相对落后地区的人群等遭遇了数字鸿沟,训练数据要有意识地增加他们的数据比例或权重,更加全面、真实地反映整体人群的情况,保证数据的非歧视性。第二,注重数据的价值性。海量的政务数据、公共数据和社会数据均可成为决策算法的训练数据,但其中不乏不准确、不客观甚至带有价值偏见的数据。训练数据必须经过数据清洗,剔除不符合公共价值的数据,消除数据中映射的价值偏见。第三,注重数据的隐私性。决策算法不仅要求决策结果符合公共价值导向,也要求算法训练和使用过程遵循保护隐私等伦理原则,不得以公共利益为由侵犯个人隐私。训练数据需对个人敏感数据进行脱敏处理,防止算法决策侵犯个人的人格尊严、人身与财产安全。

建立算法审查机制,在算法应用前核查价值导向。公共领域算法决策直接影响相关群体的利益分配,引入新的决策算法前必须核查算法的价值导向,实施算法事前审查制度。一,实行算法价值审查。数字政府成立算法审查机构或依托第三方算法审查机构,审核、评估、验证算法机制机理、嵌入目标、意图和价值标准以及决策结果等,运用沙盒测试等方法对算法的价值风险点、风险后果等进行专业评估,审查通过才能导入数字政府。第二,开展算法决策试验。“算法黑箱”决定了算法审查无法掌握算法价值导向的全部信息,但可以在小范围内试行决策算法开展政策试验,通过试点获取算法价值导向的真实信息,试点通过后才能大范围推广应用。第三,探索算法公开。借鉴政府信息公开,将不涉及保密、知识产权保护的决策算法向全社会公开,公开信息包括算法开发者、设计理念、逻辑机理、数据来源、运行参数及变量、主要功能、可能风险点等,动员社会大众共同审查和监督决策算法的价值导向。

完善算法救济与问责机制,在算法纠偏中矫正价值偏差。因为“算法黑箱”的存在,算法的事前审查无法保证发现所有的价值偏差问题,必须建立算法救济及事后问责机制,及时纠正算法的价值偏差。第一,畅通算法决策救济渠道。公众在遭遇算法不公时可通过救济渠道及时申诉,数字政府通过人工干预方式及时纠正算法决策对个人权益的侵害,同时根据投诉与反馈信息及时修正算法缺陷,通过算法迭代升级矫正价值偏差。第二,建立算法决策“熔断机制”。数字政府应实时监测算法决策的申诉信息、舆情反馈与社会影响,当负面影响超过临界值时立即启动“熔断机制”,暂停执行该决策算法及时挽回算法失当造成的不利影响。第三,完善算法问责机制。如果算法决策导致公共利益严重受损,立即启动算法问责程序,清晰判定算法开发者、审查者和实施者的责任并施以惩戒,使责任方承担应有的法律责任,倒逼各方以更高价值标准开发、审查和执行决策算法。

培养领导干部的算法素养,在算法把关时成为价值“守护人”。领导干部是算法决策中最重要的决策主体,是算法决策的价值守护人,必须提升领导干部的算法素养,守好算法决策的价值防线。第一,科学认知算法决策。领导干部一方面需要理解把握算法决策对数字政府建设的重要意义,消除对算法决策的排斥心理,另一方面需要清醒认识算法决策的潜在价值偏差问题,提升算法风险意识,培养理性认同感。第二,掌握算法相关知识。领导干部要主动学习算法的数据结构、推理模型、运行机理等知识,为识别、理解和批判性审视算法价值问题提供知识基础。第三,对算法决策价值问题保持高度敏感性。领导干部要秉持以人民为中心的执政理念,科学审查决策算法的价值导向,时刻关注算法决策的社会影响,掌握算法决策的价值主导权,引导算法决策始终服务于最广大人民的根本利益。