前不久召开的中央全面深化改革委员会第二十五次会议,审议通过了《关于加强数字政府建设的指导意见》,明确要求“全面贯彻网络强国战略,把数字技术广泛应用于政府管理服务,推动政府数字化、智能化运行,为推进国家治理体系和治理能力现代化提供有力支撑”。2021年8月,《江苏省“十四五”数字政府建设规划》发布,今年4月初印发的《关于加快统筹推进数字政府高质量建设的实施意见》提出,到2025年基本建成服务便捷、治理精准、运行高效、开放透明、公平普惠、安全可控的数字政府。算法以及包含算法的自动决策系统与决策辅助系统是政府数字化、智能化运行的核心要素,规范算法应用是全面推进数字政府高质量建设的内生要求。要进一步加强对算法的认识,规范算法应用,为数字政府建设提供支撑。
数字政府建设中算法应用的技术与制度内涵
算法是一种计算技术,具有呈现、使用、存储、检索和传输信息的能力,可以支持、处理、建模或模拟各类事务、场景。从计算和编程角度来看,算法主要包含了逻辑与控制组件,前者定义需要做什么,后者定义应该如何做。其中存在两种转化过程,首先将任务或问题转化为结构化公式和相关规则集,然后将公式和规则集转化为机器可以运行的用以执行任务或解决问题的源代码。
当前正在推进的智能审批是算法应用的常见场景,以个人综合所得年度汇算之后的退税办理为例,在国家税务总局主办的个人所得税平台全面启用之前,这项工作程序复杂、工作量巨大,覆盖面有限。数字化以后,税务部门根据法律规定建立了收入汇总、免税收入、减除费用、专项扣除、应纳税所得额、应纳税额、已缴税额、退税额度等项目的结构化公式和规则集,经编码之后形成了在线核算、申请、审核、处理的自动化流程。再比如,民生补贴资金自动审核发放中的算法应用。以往过程中,要判断补贴对象是否符合补助标准,然后提出申请,等待职能部门审批,再划拨到个人账户中。当前正在探索的思路是,根据补贴政策规定生成算法,然后运用算法来甄别符合条件的对象,实现自动审批,甚至主动推送符合条件的补助对象。再比如,对各类违法违规违纪行为的判定,公安交通管理部门已在运用算法自动识别车辆交通违法行为,为审核人员提供判罚建议。证券监管部门运用算法识别违规交易行为,自然资源与生态环境部门则运用算法识别土地违法使用、污染违法排放等。
在技术之外,政府领域算法应用有着深刻的制度内涵。首先,算法应用是在制度安排的结构中实现的,政府依法行政是算法应用的内生要求。算法的应用决策,包括在什么情况下用、谁来用、运用什么算法、运用对象是谁等,均应在制度约束下作出,充分遵循法制精神。其次,随着算法在制度与政策制定执行、公共行政运行中的广泛应用,算法本身成为规则的载体,这被称为制度算法化、政策算法化、行政算法化。第三,算法应用可以推动深化改革。全面推进数字化改革,成为新发展阶段全面深化改革的重要抓手。为了科学合理高效地建设数字政府,有必要对现行制度政策中不适应要求的地方进行修订,倒逼改革进程。
数字政府建设中算法应用存在的潜在风险
借助包含算法的自动决策系统与决策辅助系统,可以促使政府部门改进决策水平、提高工作效率、提升治理效能。但同时,也要审慎对待其中的风险。
合规风险。依法行政是依法治国、依法执政的必然要求,是政府工作的生命线。数据(个人信息)处理的每一个环节,都必须遵循《数据安全法》和《个人信息保护法》以及本地的数据条例。涉及到政务数据的,要遵循相应的条例办法。《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》的出台,让市场化算法设计、开发与运用处于法律监管之下。政府部门在应用算法时要严格遵守各项制度法规约束,确保算法应用符合要求。
伦理风险。在理想状态下,基于算法的自动或辅助决策,会合理约束人的自由裁量权,提升效率效果。挑战在于,算法本身可能存在局限性和缺陷,如果人的行为影响了算法或者不恰当地使用算法,就会直接影响决策结果。一方面,公职人员的自由裁量权可能被侵蚀,甚至公职人员自身就处于算法控制之下,这会对行政伦理造成冲击。另一方面,政府通过算法来行使公权力,一旦算法应用存在不公平不公正时,群众福祉会受到广泛影响。
信任风险。安全信任是数字政府高质量建设的基石,算法应用直接关系到政府公信力。人、机构、制度、算法,都面临信任这一重大问题。算法应用是否可信是值得研究的重大课题,打开“算法黑箱”,提升算法的可解释性、可理解性、透明性是讨论的焦点。这一点对于政府而言更为重要。如果存在“算法黑箱”,就会直接影响民众对政府的信任。因此,构建公平可信的算法至关重要。
有效规范和约束算法权力
基于算法的智能技术应用是国家治理体系现代化的有力支撑,政府算法应用的风险防范已成为治理现代化的重要命题。当前,各地正在推进数字政府高质量建设,应该优化政府工作流程,规避算法中可能蕴含的风险,推动算法应用规范化。
坚持抓住领导干部这个“关键少数”,提升干部算法素养。算法决策是提升决策水平的重要途径,是数字化背景下领导干部能力素养的重要内容。算法运用的合规、伦理、信任与失控风险,可能不利于数字化时代的权力规范运行和政府公信力提升,应确保政府领域算法运用做到合法合规、公平公正可信,有效规范和约束算法权力。领导干部要有“底线思维”,重视算法风险的全过程防控,建立算法责任机制。
全面加强政府自身的科技能力建设,尽快形成算法应用相应机制。各地已经设立了大数据局、政务数据中心等机构,一些地方已组建或正在筹建大数据集团公司。在加强科技能力数字能力建设之外,政府还应尽快探索形成算法应用管控机制,加强政府、企业、科研机构等多方跨边界协作机制,形成对算法风险的全过程治理。政府领域算法运用涉及到几乎所有的政治、经济、社会、科技等领域的各方面,牵扯到诸多利益相关者,形成有效的协同治理是必然的路径。
加快制定规范政府算法应用的政策法规。针对政府领域算法运用,研究者已从公共行政、法律等角度做了广泛研究,提出了诸多观点,包括算法权力、算法行政、算法政府、算法责任等,加强政府算法运用立法已是共识。政府数字化改革全面深入,有必要加强研究,尽快出台政策法规以规范政府算法应用。
(作者单位:南京审计大学)
责任编辑:李佳婧