龚善要：人工智能司法应用的实践审思与完善 | 国家检察官学院学报202305

北大法律信息网 2024-01-11

The following article is from 国家检察官学院学报 Author 学报编辑部

【作者】龚善要（东南大学法学院至善博士后，东南大学人民法院司法大数据研究基地特约研究人员）

【来源】北大法宝法学期刊库《国家检察官学院学报》2023年第5期（文末附本期期刊目录）。因篇幅较长，已略去原文注释。

内容提要：人工智能司法应用在辅助司法裁判、提升管理质量、促进司法效率的同时，也呈现出背反效应。人工智能不仅未能有效消解既有司法运行中的不足，反而弱化了以审判为中心的诉讼制度改革、固化了司法管理的科层制、增加了一线司法人员的工作负担。基于本体论、认识论以及方法论的内因剖析，上述背反源于人工智能对司法本体的关注不足、理性主义的融入缺失以及可解释性立场的方法忽视所致。未来，人工智能司法应用的背反效应可以通过对实质法治观、多元考核机制等司法本体的强化，以人为中心的经验理性主义以及算法数据、过程、结果的可解释性等措施进行体系矫正，进而实现人工智能司法应用的深入推进。

关键词：ChatGPT；背反效应；理性主义；司法改革

目次
一、人工智能司法应用的实践观察
二、人工智能司法应用中背反效应的审思
三、人工智能司法应用的路径完善
结语

　　当前阶段，推进国家治理体系与治理能力现代化，助力法治体系建设已离不开区块链、人工智能、大数据等数字技术，以ChatGPT为代表的生成式人工智能更被认为具有引发裁判方式变革的应用前景。人工智能也因此被视为解决当前司法所面临诸多问题的主要途径和对策，对推进以审判为中心的诉讼制度改革具有非凡意义。然而，人工智能的技术进步尚不能回应法律知识的丰富性、严谨性、创造性等需求。在此基础上，人工智能司法应用是否解决了当前司法实践所面临的现实问题？如若不是，人工智能司法应用又因何原因阻碍上述功能的发挥？以及面对生成式人工智能的到来又将如何进行回应，进而实现人工智能司法应用的深入展开？面对上述问题，尽管现有研究已经进行了一定探讨，但整体而言，既有讨论主要围绕人工智能司法应用所引发的法理冲突和伦理风险而展开有限度解读、风险规制及其法律回应，对人工智能司法应用预设功能的体系性关注尚有不足。有鉴于此，本文通过对人工智能司法应用的实践审思，尝试对上述问题进行回答。

一人工智能司法应用的实践观察

　　（一）裁判辅助中智能应用的背反效应

　　党的十八届四中全会提出推进以审判为中心的诉讼制度改革，突出庭审的实质性。在此背景下，人工智能司法应用被视为对上述改革目标的技术配套，智能辅助办案系统也被认为是推进以审判为中心的诉讼制度改革软件。

　　然而，人工智能在司法领域中的应用则偏离了上述改革方向，呈现出背反效应。这主要表现在如下两个方面：一方面，人工智能所具备的自动审查功能弱化了以审判为中心的诉讼制度对证据裁判原则的强调。证据裁判原则的内涵是指，“必须根据具有证据能力的证据，而且只有经过调查之后才能认定构成犯罪核心内容的事实。”换言之，对于案件事实的最终认定，必须依据具有证据能力的证据而非其它材料或者形式实现。然而，人工智能在裁判辅助中的应用似乎已经偏离证据裁判原则。例如，实践中的智能量刑系统、同案同判监测系统对于案件事实的认定均是基于算法模型的拟合而非证据完成的。这也就意味着，算法实现了对证据的替代，事实的认定在脱离证据这一核心依据的同时，也省去了对证据能力审查的这一法定过程。经由数据与算法实现的事实认定取代基于证据的事实认定。也正因如此，有学者曾指出，AI算法的形成仰赖于海量数据的投喂，这将导致法官认识论体系将以数据分析为中心而重构。而以数据为中心的法官认识论体系就有可能偏离证据裁判原则，进而弱化以审判为中心的诉讼制度改革。

　　另一方面，人工智能在裁判场景中的应用可能会诱发控辩双方的数字性失衡，使得庭审再次趋于形式化。一直以来，受公检法三机关“分工不足，配合有余”的实践影响，我国刑事司法诉讼的实践演变为侦查、审查起诉、审判相互平行，首尾相继的“流水线”型诉讼结构，审判只是在侦查、审查起诉阶段工作的基础上对案件的“深加工”，对案件事实的“再认识”。因此，以审判为中心的诉讼制度改革把强化庭审对抗、增强庭审实质性放置在重要位置。然而，人工智能在裁判辅助中的应用一定程度上削减了庭审的对抗强度，使得传统程序中的控辩关系在人工智能的单向助力下滑向失衡状态，引发庭审再次趋于形式化。例如，我国现有的人工智能司法应用呈现出一种显著的“国家推进主义”色彩，全程均由官方主导推进。国家主导下的技术推进有可能导致人工智能司法应用面向的不对等，一系列司法人工智能的开发与应用主要围绕公检法三机关而展开，导致人工智能向公权力机关倾斜。除此之外，受制于信息本身的稀缺性及公众在获取、掌握和运用信息时的客观差异，人工智能所带来的司法红利无法惠及每一位社会成员，诸多个体因不能有效获取和运用这些数据信息而沦为“数字弱势群体”，从而进一步加剧控辩失衡、形式化庭审的实践倾向。

　　总之，人工智能在司法中的应用虽然具有辅助裁判的作用，但这种类似于对照证据清单式的检验性辅助也可能会掉入形式化的陷阱，导致后续诉讼流程对前续阶段的机械性认同，而这不仅弱化了公检法之间的分工、制约关系，也使得庭审活动再次趋于形式化，将以审判为中心的诉讼制度改革带向目标的另一端，引发背反效应。

　　（二）管理辅助中智能应用的背反效应

　　人工智能在司法管理辅助中的应用具有“去科层”的目标预期，也即借助人工智能所具有的自动化、精细化、静默化的管理能力实现扁平化管理辅助体系的构建。然而，人工智能对司法管理辅助的技术赋能并未达到扁平化的设定预期，实践中的技术应用反而进一步强化了司法管理的科层化，呈现出与预期目标相反的实践路径。

　　一直以来，司法科层化备受学界与实务界诟病，有学者更是直呼，“任何的司法改革都必须朝着去科层化的方向而努力，否则改革只不过是头痛医头脚痛医脚，治标不治本。”也正因如此，肇始于2013年的本轮司法体制改革就以实现“放权”为主基调，把推进法官员额制与司法责任制改革作为主要方向，试图通过对司法权运行机制的再分配实现“去科层”的目标。作为推进审判体系与审判能力的“一体两翼”，人工智能司法应用也伴随本轮司法体制改革而展开，尤其是在司法管理领域中广泛实践，目的就是试图通过人工智能实现对司法审判资源的数字化调配、司法绩效考评指标的精细化设定以及司法审判案件质量的静默化管理，进而辅助司法权力运行机制的再分配，助力扁平化管理体系的构建。

　　值得注意的是，在科层制的管理模式下，标准的同一性将被置于重要位置，“理想的状态是，所有的人都踩着同样的鼓点齐步向前。”这也就意味着，集体目标、系统内部的协调一致、上下级之间的命令服从关系、目标责任制、卷宗的分步制作和精细管理、绩效评估和集体责任将成为科层制司法组织的典型特点。在此意义上，人工智能在司法管理辅助上的应用并未到达“去科层”的理想预期，与之相反，人工智能的应用反而进一步强化了司法管理辅助过程中对同一标准、上下级命令服从关系等因素的强调。例如，针对卷宗、文书的人工智能应用事实上就是对同一标准的数字化要求，与传统模式相比只具有载体上的形态变化。更为重要的是，在智能管理算法的统一模型下，对于卷宗与文书固定格式的极致要求不仅迎合并且还进一步强化了科层制对同一标准的期待。再例如，借助人工智能的技术赋能实现对待审案件的分流管理事实上就是对技术权力的服从。实践中，基于人工智能而研发的员额制法官分案软件具有分类管理、比例分案、随机选人等优点，实现待审案件的分配由“电脑说了算”。问题在于，“电脑说了算”的本质并不是扁平化管理模式中的一线法官自我支配，而是对技术权力的绝对信任与服从，而这与传统司法科层制下对于权力的绝对遵从也并无本质区别。还例如，以“智慧案管”为代表的管理系统通过对类案检索、量刑规范等功能的融入能够实现法律适用偏离度自动分析预警，确保类案同判。同样的问题在于，偏离度预警、类案同判正是集体责任的技术性强化，是科层制司法的典型体现。总之，人工智能在司法管理辅助中的应用虽然有助于提升管理的自动化、精细化以及静默化水平，但这种应用并未达到“去科层”化的理想预期，反而进一步强化了司法管理辅助过程中的科层性。

　　（三）事务辅助中智能应用的背反效应

　　司法领域对于人工智能应用的主动诉求在于，在“案多人少”的情形下，通过人工智能来实现对审判工作效率的提高。电子卷宗自动分类归目、案件信息自动回填、司法活动笔录自动生成、执行财产查控辅助、案件繁简智能分流、电子卷宗自动归档等都是提升审判效率的典型应用。不同于裁判辅助领域，事务辅助中的人工智能应用并不涉及司法审判的核心业务，是对简单性、重复性、机械性工作的技术赋能，因而也被认为是人工智能在司法领域中最为简单、也最有可能被替代的领域。然而，从既有实践出发，事务辅助中的人工智能司法应用也并未达到理想状态，部分基层的实践应用反而增加了工作人员的负担，出现负面效果。例如，实证经验表明，各级法院虽然都很重视人工智能在司法领域中的应用，把智慧法院建设作为“一把手工程”，但由于目前的人工智能司法应用更多体现在内部监管以及对外服务方面，在智能辅助办案方面殊少助益。此外，也有研究指出，事务辅助中的人工智能应用仍然存在诸多不足，电子卷宗深度应用还不够智能化、人性化，案件信息自动回填还不够完善。更为严重的是，一些法院的信息化手段不是服务于审执工作，而是服务于管理考核，在此背景下，部分事务辅助中的人工智能应用非但没有减轻法官的工作负担，甚至起到了相反的作用。

　　总之，在人工智能司法应用的实践浪潮中，虽然人工智能在裁判辅助、管理辅助、事务辅助中得到了一定程度推广与实践，但从功能的视角观察，人工智能司法应用并未有效助推以审判为中心的诉讼制度改革、实现司法管理中的“去科层化”以及减少工作负担的目标设定，反而走向了相反路径，出现了背反效应。

二人工智能司法应用中背反效应的审思

　　人工智能司法应用虽然具辅助司法裁判、提质司法管理、促进司法效率的积极功能，但同时也引发了背反效应。需要重视的是，伴随ChatGPT类技术的出现，具有颠覆性的生成式人工智能时代即将来临，人工智能司法应用也必将面临新一轮深入推进的契机。因而，对人工智能司法应用背反效应进行系统性审思就显得尤为必要。

　　（一）基于本体论背反效应的审思

　　哲学意义上的本体论旨在表明“什么是可知的”，也即认识、讨论、分析的对象、基点是什么。结合人工智能司法应用的现状，对于人工智能司法应用背反效应的本体论剖析应该以“司法”为基点而展开。事实上，当前的人工智能司法应用仍然处于起步探索阶段，所引发的背反效应也足以表明，人工智能的应用与推进并不是对人类法官的替代。因而，人工智能司法应用的核心在于“司法”而非“智能”。在司法本体论的视角下观察，人工智能司法应用所引发的背反效应原因如下：

　　其一，人工智能在裁判辅助中引发的背反效应源于对实质正义的关注不足。通常而言，法官对于案件的裁判既非是“自动贩卖机”式的法条机械适用，也非是数据之间的相关性联系。法学所关注的不仅在于法律运行的明确性与安定性，同时也致力于在具体的细节上以逐步的工作来实现“更多的正义”。同时，司法裁判并非是对主观经验的绝对否定，裁判的过程不仅需要在法律制度与案件事实之间来回穿梭，还需要结合案件的具体场景、个人的经历阅历进行综合性判断。因此，司法裁判的过程需要通过实质性的、对抗性的庭审实现对具体细节的挖掘与正义的实现，也需要防止其它因素干预法官心证的形成，保障法官审判权的独立行使。换言之，司法裁判并非是对普遍意义上的同案同判的关注，更多的是通过对个案特殊性的关注而实现个体的公平正义，是基于实质正义而展开。然而，人工智能司法应用的逻辑则是基于海量的案件数据而构建的智能化算法，但这个算法的终极目标并非是对法律推理的复现，而是寻找判决中各个参数间的相关性。基于数据算法所搭建起来的人工智能既无法完全实现对裁判经验的复制，也更不可能替代法官的自由裁量权实现实质正义。因而，人工智能司法应用过程是对形式正义的关注。在形式正义下，案件裁判的过程由数据之间的拟合性代替了庭审对抗，裁判的制作由算法的预设代替了法官的自由裁量，人工智能司法应用在裁判辅助领域所引发的流程化、形式化也就不言而喻。

　　其二，人工智能在司法管理辅助中所引发的背反效应源于对考核指标的数字化追求。司法审判工作的主体是法官，司法管理的核心应围绕法官而非司法考核指标而展开。人工智能在司法管理辅助中的应用一定程度上偏离了法官这一主体，而导向了数字化的考核指标。事实上，正是这种以数字化指标为核心的管理机制才致使人工智能由“去科层”的功能设定却导致了“再科层”的实践走向。一方面，数字化的考核指标通过对诸如偏离率、错案率、发回重审率等可量化的绩效，实现了对科层制司法集体目标的固化。“员额制改革后，被普遍提高的司法官津贴需要设置一种分配机制。而现行政策将此种津贴设计为一种‘绩效奖金’，而非普惠式岗位津贴，同时要求‘适当拉开差距’”。因此，以绩效为核心的考核机制就成为司法管理辅助的“牛鼻子”与绩效奖金分配的“黄金尺”。问题是，以偏离率、错案率、发回重审率等数字化指标在构成绩效组成部分的同时，并未实现管理模式的扁平化再造，反而借助各种数字化指标进一步实现对集体目标的固化。另一方面，数字化的考核指标同质化了司法审判的过程，并进而实现了科层制司法中的标准同一性。人工智能赋能的司法管理辅助很大程度上就是用一套复杂的指标体系，套用一串高深的数学公式，得出一个僵化的指标数值，从而达到标准的同一化，完成对审判偏离度预警和科层式司法的双重实现。总之，从司法本体论的视角观察，管理辅助中人工智能司法应用所导致的背反效应是源于对数字化的考核指标过度追求所致。

　　其三，事务辅助中人工智能司法应用的背反效应源于“锦标赛”式的司法推进。晋升锦标赛理论认为，地方政府官员会因为晋升的激励而围绕中央关注的考核指标展开激烈竞争。在这种政治环境下，“锦标赛”也逐渐对司法领域产生影响，并导致同级法院之间、法院与其他国家机关之间围绕着人、财、物等资源进行博弈。伴随着智慧司法建设的推进，强化人工智能在司法领域中的应用已经成为衡量地区法院是否达到审判体系与审判能力现代化水平的关键指标，因而，推进事务辅助中的人工智能应用也就自然而然地成为不同法院之间相互竞争的关键因素。在此基础上，人工智能在司法领域的应用首要价值目标是有与没有的问题，而不是有效与无效以及具有多大效果的问题。也正因如此，在人工智能司法应用的实践推进中出现了一线法官“我们没什么需要做的，你们这套都是为了宣传”的话语分裂。因此，事务辅助中人工智能应用就难免会呈现出背反效应。

　　（二）基于认识论的背反效应审思

　　哲学意义上的认识论在于强调人如何获得对世间万物的认识。如果说本体论的审思旨在将人工智能应用放置于司法领域下讨论，为成因分析提供方向性指引。那么，基于认识论的背反效应审思则是在此基础上所进行的延伸性展开，旨在通过对“司法知识如何获取”的分析而展开。从认识论的视角出发，不论是基于理性派还是经验派的观察，人工智能在诉讼过程中对经验理性主义的融入缺失是引发背反效应的主要原因。

　　具体而言，不论是大陆理性派还是英美经验派，都承认司法审判的过程是一种理性过程，只不过，理性派认为理性的过程是一种先天的、可基于理性演绎法则而来的，而经验派的理性是后天的、可基于人的经验积累而来的，两者之间的区别仅在于理性知识的来源差异，而非对理性这一过程的否定。详言之，以笛卡尔、斯宾诺莎、莱布尼茨等为代表的大陆理性派认为，人类知识的根本源泉是先天的观念，是通过理性的演绎法则获得的理性知识。因此，对于事实的认定需要基于理性的知识与逻辑的推理来发现。例如，以神灵的意志所实现裁判的“非理性”方式就随着君主时代的到来而几乎为所有国家所摒弃，取而代之的是以发挥人类理性智识为核心的理性证据形式（法定证据）。再例如，作为限制法官权力恣意、保障法律安定的司法三段论也是理性推理的过程表现，其目的也是基于理性的方式实现司法的裁判。与之类似，从英美经验派出发，诉讼的过程也被视为一种理性的应用过程。只不过，以洛克、休谟为代表的经验派认为，人类知识的根本源泉是感觉经验，是通过经验的归纳所获得的经验知识。天赋并没有赋予人们任何记号，一切的记号都来源于后天的经验。由此可见，司法裁判的过程事实上就是对人类经验的应用过程，是对人类社会经验的归纳与总结。例如，基于人类社会经验作为小前提事实和结论事实的“中间桥梁”，通过证据评价、事实推定的中间过程，具有促进事实认定的最终目的。

　　然而，不论是裁判辅助、管理辅助还是事务辅助，人工智能的应用则显然忽视了对经验理性主义的关注。详言之，从现有的技术出发，以深度学习为代表的智能模型“不得不偏离刚性逻辑和经验性知识推理的老方向，转入到完全不依赖逻辑和经验知识支撑，仅仅依靠数据统计的神经网络、计算智能、多Agent和统计机器学习的新方向”。但新方向下的人工神经网络是一个典型的黑箱系统，由于模型内部的参数共享和复杂的特征处理，很难解释模型到底学习到了什么知识，以及如何做出最终的决策。其“输入-输出”的计算过程并不容易被除算法主体以外的人通晓。显而易见，在技术原理层面，裁判辅助、管理辅助以及事务辅助中人工智能的应用在认识论上虽然也呈现出一种理性成分，但这种理性是基于数字拟合的、计算性的，是一种技术理性，其管理的过程是被黑箱化、不可解释的算法模型所完成的，呈现出一种显著地不可知论或者神秘色彩。因此，司法领域中人工智能应用的理性成分似乎已经显著区别于先天性、可推理的大陆理性。一定程度上，对于技术理性的迷信已无异于对“神意”的迷信，因而呈现出一种非理性的模式。此外，从英美经验派出发，人工智能的司法应用缺乏对人类经验的足够关注。例如，206系统、案件审判辅助系统、量刑规范系统在技术原理上都依赖于卷神经网络、深度学习等算法模型。未来，即便是生成式人工智能在司法领域中深入应用，也依赖于法律大语言模型的助力。在此基础上，裁判辅助中的事实认定、管理辅助中的绩效考核以及事务辅助中的卷宗回填等均是根据数据化、算法化的模型拟合而完成，虽然这种数据化、算法化的模型拟合也体现出一定的理性成分，但这种理性显然脱离了人这一中心。换言之，人工智能司法应用的理性依据事实上已经由人滑向了技术，人工智能正在逐渐取得甚至替代人的主体性地位，司法裁判辅助、管理辅助以及事务辅助中人工智能应用的过程事实上就是数据、算法替代人的过程。在此过程中，司法审判的中心化、司法管理的扁平化乃至事务性工作的简约化都将以技术为中心而展开，呈现出对技术原理而非人类经验的关注。

　　总而言之，从认识论出发，人工智能司法应用过程与传统司法裁判、管理过程分别采用了技术理性与经验理性两种不同的方式。比较而言，正是由于人工智能司法应用对技术理性的过于关注而对经验理性的忽视才导致了人工智能应用的背反效应。

　　（三）基于方法论的背反效应审思

　　严格意义上，方法论旨在探讨认识万物所依赖的工具或者说方法。基于方法论的审思旨在以司法活动所依赖的工具、方法为基础而展开的分析。

　　司法裁判的本质无外乎是在事实准确认定的基础上实现对法律规范的精准适用。在此过程中，不论是对案件事实的准确性认定，还是对法律规范的精准性适用都无法脱离法律的可解释性。例如，对于案件事实的认定过程事实上也就是基于证据而完成司法证明的解释过程。从司法过程来看，从自然事实到形成了特定法律评价结果的法律事实（案件事实、裁判事实），既是客观规律的展现，也是主观能动力的彰显，同时更是事实解释的体现。在西方证据学领域，用于证明法律事实的最佳解释推论常被等同于相对似真理论，旨在揭示排除

　　合理怀疑这一证明标准的规范性功能，主张司法证明的本质并非概率性的而是解释性的，呈现为“提出假设—作出解释—比较并判定似真解释”的过程。再例如，对于法律的适用过程事实上也是对法条的解释过程。法律经常利用的日常用语与数理逻辑以及科学性语言不同，它不是外延明确的概念，借助解释这一媒介行为，解释者将他们认为有疑义文字的意义，变得可以理解。还例如，司法管理过程中关于法官不当行为、主观过错、错案结果的认定问题事实上也是对不当行为、主观状态、客观结果的解释。总之，在方法论上，法学研究以及法律适用都与可解释性密不可分，也正因如此，有学者指出，“法学的历史就是法解释的历史，自然法学派、概念法学派、自由法学派、利益法学派、社会法学派、历史法学派、分析法学派等各种学派之间的区别，无非是在解释理念与解释方法上的区别。”

　　问题是，人工智能司法应用所依赖的算法模型并不具有可解释性。具体而言，尽管智能化算法已经实现对复杂场景的智能化预测，并且具备一定程度的自主性，但就技术本身而言，哪怕是智能算法的设计者也仍然无法对其决策的原由予以解释。例如，“在深度学习领域，基于人工神经网络结构的复杂层级，在AI深度学习模型的输入和输出结果之间，存在人们无法洞悉的‘隐层’，埋藏于这些结构底下的零碎数据和模型参数，蕴含着大量对人类而言都难以理解的代码和数值，这也使得AI的工作原理难以解释”。除此之外，包括神经网络、随机森林、支持向量机等在内的智能化算法模型由于其内在的逻辑均是通过大量数据的相关性积累所构建认识规律，故而因其最终的输出具有不确定性而难以进行解释。在此基础上，人工智能司法应用也必然呈现出背反效应的实践样态。原因在于，当裁判的过程由实质化的庭审转变为不可解释、不被理解的自动化算法时，对裁判结果的准确性保障也将由对庭审、法官的关注转变为对算法模型的科学性、算法侵权的责任性关注，对于司法管理过程中“去科层化”的目标预设也将在实践中转变为对算法程序的解释和阐述。总之，人工智能司法应用所依据的算法模型不仅在方法论上偏离了司法领域的可解释性，而且还因其可解释性的缺乏导致人工智能司法应用呈现出显著的背反效应。

三人工智能司法应用的路径完善

　　2022年12月9日最高人民法院发布的《关于规范和加强人工智能司法应用的意见》（以下简称《人工智能司法应用意见》）对未来阶段人工智能司法应用的目标、原则、范围、系统建设以及综合保障等六大方面作出了具体规定。因此，人工智能司法应用的路径完善可在体系性审思的基础上，结合《人工智能司法应用意见》和既有实践中的不足综合推进。

　　（一）司法本体视角下矫正理念的构建

　　司法本体视角下人工智能司法应用的功能矫正旨在通过对司法这一本体的强调实现由“技术视角下的司法应用”向“司法视角下的技术应用”的转变。

　　首先，以实质法治观为目的推进裁判辅助人工智能司法应用的功能矫正。在规范层面，《人工智能司法应用意见》明确规定，人工智能司法应用应坚持“公平公正原则”，“坚持遵循司法规律、服务公正司法，保证人工智能产品和服务无歧视、无偏见，不因技术介入、数据或模型偏差影响审判过程和结果的公正。”在此背景下，对人工智能司法应用的功能矫正应该基于“实质法治观”而具体展开。这就要求人工智能司法应用的技术在研发与实践中至少实现对以下两个方面的具体关注：一是，在人工智能司法应用系统的研发中优化对少数样本数据的权重赋值，防止数据或模型偏差而影响裁判的判断，突出个案的特殊性。整体而言，中国裁判文书网公布的裁判文书是当前人工智能司法应用系统研发的主要数据来源，众所周知，现有公布的裁判文书并不能反映出真实的司法实践全貌。基于海量有罪裁判文书的数据训练难以实现对无罪个案的有效兼顾，因此，可以在科学赋值的基础上添加个案因素的权重系数，实现群体正义与个体正义的结合。二是，推进类案型人工智能司法应用系统的研发实现由以“裁判要素”为核心的类案识别向与“推理逻辑”相结合的应用转变，落实公平公正原则下“坚持遵循司法规律、服务公正司法”的规定。目前许多类案推荐的基本原理就是在识别目标案件情节的基础之上，从已经标签化的案件大数据库中匹配符合情节的案例，也即要素式的类案识别。然而，“类案之所以对当下的案件有约束力或说服力，并不在于其外观相似性，而在于其推理上的可参考性。”因此，可以尝试构建由“推理”与“要素”相统一的类案型人工智能司法应用系统，实现形式类案与实质类案的统一。

　　其次，以多元标准为核心的考核机制实现管理辅助人工智能的功能矫正。这需要围绕以下两个层面展开：第一，构建面向人机协同的司法管理辅助智能系统，强化在司法管理辅助过程中法官群体的参与。实践中的司法案件往往具有较高程度的复杂性，基于不同法官的生活经验以及对法律条文的不同解读可能会存在有偏差的案件认定结果，因此，法官群体对管理辅助的参与有助于提升案件管理的质量。此外，人机协同的司法管理辅助系统还应当具有针对不同参数权重的浮动调整功能，使得岗位、绩效、案件复杂度等多个指标均可实现动态调整，弱化单一绩效在管理考核中独占地位，进而促进标准的多样化，实现对“去科层”目标的实现。第二，构建案件量与案件质量相互融合的司法管理辅助智能系统。现阶段，我国进入轻罪治理时代，法院成为了社会治安问题的官方治理机构，适度设置数字化标准的考核指标也存有一定的合理性与必要性。同时，也要设置一定权重的案件质量考核指标。对于案情重大复杂，有社会影响力的案件往往需要更高的工作量，因此，在管理辅助系统中可以适度调高该类案件的权重系数。

　　最后，以司法适用的业务适配性为导向，推进人工智能司法事务辅助中的适用。不同法院应根据自身的需要决定是否推进人工智能在事务性辅助上的应用，而非基于上级政策指标的考核以及“竞赛”。具体的路径为：一是，从人工智能的供给端出发，要进一步推进面向不同业务范畴的人工智能司法应用统一技术标准的制定，明确规定人工智能应达到何种标准的情况下才可以实现在事务性辅助场景中的应用。例如，明确规定庭审语音识别转换只有在规定的错误率范围内才可以使用。二是，从司法领域的需求端出发，建立事务辅助人工智能应用的启动标准。在搭建全国统一智能应用平台的基础上，规定只有达到法定需求标准的条件下方可进一步推进人工智能的应用，进而避免人工智能司法应用的非理性竞争。

　　（二）理性主义视角下矫正路径的展开

　　理性主义视角下的矫正路径是基于对人工智能司法应用认识论的分析而展开，旨在通过对人的回归以及对经验理性的强调实现对背反效应的矫正。具体而言，理性主义视角下的矫正路径可以从以下两个方面展开。

　　一方面，实现由技术理性向人类理性的回归，强化人在人工智能司法应用中的主体性地位。人始终是他自己的目的而非手段，因而，司法领域内的人工智能应用不应成为替代人类裁判的目的，而应被定位为服务裁判的工具。事实上，《人工智能司法应用意见》关于人工智能司法应用的范围也明确指出，“坚持对审判工作的辅助性定位和用户自主决策权，无论技术发展到何种水平，人工智能都不得代替法官裁判。”在此基础上，对于人工智能司法应用所引发的背反效应可以进行如下矫正：一是，制定人工智能司法应用的负面清单，明确规定人工智能司法应用边界。例如，在管理辅助中可以借助人工智能实现对案件诉讼流程自动化移送、诉讼流程节点提醒等方面的辅助，但对是否存在事实认定错误、法律适用错误等关键领域仍应由法官予以最终认定。二是，增强人工智能应用过程中法官的亲历性，突出法官的主体性。人工智能司法应用的法官亲历性不仅要求法官对决策过程的物理在场，还需要法官对人工智能司法应用过程的数字在场。所谓的数字在场是指，法官不仅要了解人工智能的应用原理、潜在风险以及实践限度，还要实现数字场域内对诉讼流程、内容的亲历。这就要求，法官在适用司法人工智能系统时需要对其运行的关键环节、关键技术做到知晓、理解的水平。同时，还能实现对相关参数的自由设定实现对智能输出结果的主动把关。三是，认真对待一线法官的真实业务需求，实现以一线法官需求为导向的人工智能研发，推进人工智能司法应用由政策驱动向需求驱动的转变。

　　另一方面，结合《人工智能司法应用意见》中“司法数据驱动与知识引导相结合的深度神经网络模型构建与样本学习方法”的规定，未来阶段应构建基于符号主义与联结主义相互融合的人工智能司法应用系统，通过对人工智能司法应用过程中理性主义的增强，实现对背反效应的矫正。详言之，“符号主义与联结主义两种范式只是从不同的侧面模拟人类的心智（或大脑），具有各自的片面性，依靠单个范式不可能触及人类真正的智能。对于建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术，需要将这两种范式结合起来。”因此，基于符号主义与联结主义相互融合的人工智能系统本质上就是借助对法律逻辑思维的算法再现与神经网络算法模型实现对裁判结果的准确预测、强化人工智能司法应用的理性成分。实践表明，构建基于法律推理与数据训练相互糅合的人工智能司法应用系统并非“空中楼阁”，而是具有现实可行的理论与实践基础。回顾人工智能的历史不难发现，以人类思维为基本单元的符号主义与聚焦神经网络及其连接机制的联结主义构成了人工智能过去六十多年的两条主要的发展脉络。其中，基于符号主义径路研发的人工智能是以人类的逻辑思维、经验以及推理的规则出发，采用的是自上而下的方式，具有可解释和错误可追溯的特点。具体而言，构建基于符号主义与联结主义相互融合的人工智能应用系统可以基于以下两个方面展开：一方面，强化法律专家在人工智能系统的中的统领作用。也即在系统研发的总体路径中，借助法律专家实现对法律逻辑推理的凝练、法律概念的解构和型塑、法律解释方法的归纳与总结，然后再由计算机专家实现对推理、概念以及方法的数字化、模型化，并进而转变计算机可识别的语言。另一方面，加大对司法领域的数据库、语料库等数字化资源库的搭建，尽可能小的减少司法数据壁垒，实现数据之间的互通共享。联结主义得以运行的前提在于，海量的司法数据资源为模型的训练提供了充足的“燃料”，而用于训练的算法模型的“燃料”越充足，算法的结果也就越准确。例如，生成式人工智能所具备的显著进步事实上就得益于大语言模型中的海量参数。因此，当前的乃至未来阶段的任务仍然在于对司法数据库构建。

　　（三）可解释性立场下矫正方法的实践

　　算法的解释权通常以权利哲学为基本遵循而展开，是对权利、公正以及可责性的保障。也正因如此，《人工智能司法应用意见》将“透明可信原则”作为人工智能司法适用的一项基本原则。因此，对于人工智能司法应用的实践矫正也可以基于可解释性的立场展开，进而推进人工智能在司法领域的审慎应用。

　　首先，人工智能司法应用需要具备数据的可解释性。当前，包括ChatGPT、文心一言等在内的生成式人工智能都依赖于海量数据的训练，数据是AI训练的基础与前提，换言之，不论是现有实践的人工智能裁判系统，还是融合符号主义与联结主义的未来人工智能司法系统、亦或是生成式人工智能司法系统，都需要借助司法数据的训练才能达到最终的目标，因此，数据的准确性、全面性、代表性对人工智能裁判系统运行成果的好坏具有决定性作用。事实上，《人工智能司法应用意见》就明确规定要保障人工智能系统中的司法数据采集管理模式以可解释、可测试、可验证的方式接受相关责任主体的审查、评估和备案。对数据层面的可解释至少需要围绕以下三个方面展开：一是，对训练算法模型的数据来源进行说明，旨在强调数据的真实性。二是，对训练算法模型的数据代表性进行说明，对数据代表性解释旨在强调算法模型结果与司法判决的适配性。三是，对训练算法模型的缺失数据予以说明，防止出现系统性偏差进而产生司法偏见。当然，上述具体展开并不能期待于技术本身的升级而解决，事实上，对于数据质量的说明、筛选仍然需要专家来完成。

　　其次，人工智能司法应用需要具备算法的可解释性。从技术逻辑上观察，尽管实现完全意义上可解释的人工智能充满挑战，但推进算法的可解释性对于消解人工智能裁判所引发的偏见问题、黑箱困境，增强其裁判的理性成分都具有显著的现实意义。事实上，基于技术路径的算法可解释性已经相继展开了一系列研究，并提出了基于规则的解释、激活值最大、隐层神经元分析等诸多针对不同类型的技术性解释方案。然而，在人工智能司法应用的领域中，算法的可解释性除了需要体现出其技术性解释之外，更需要实现其人文主义关怀。实现以人为中心的可解释性，能够根据受众背景知识的不同作出不同的解释。因此，在司法领域中，算法的可解释性问题事实上至少需要基于如下两个维度而展开：一方面，基于权利义务维度，落实诉讼参与人的算法解释请求权。也即，在人工智能司法应用的具体场景中，相关智能系统的研发、适用要落实《个人信息保护法》《互联网信息服务算法推荐管理规定》关于对算法服务的基本原理、目的意图和主要运行机制等解释与说明义务。另一方面，基于权力责任维度，适时制定司法裁判场景中人工智能司法应用行为准则，明确规定人工智能应用场景下司法责任的追究机制，落实《人工智能司法应用意见》关于“司法责任最终由裁判者承担”的规定。

　　最后，人工智能司法应用需要具有结果的可解释性。人工智能司法应用的首要目标是，让决策过程的监督者知道计算机系统是如何做出决策的，或者至少知道是基于哪些规则做出决策的。其中，“知道”的责任就是通过算法的可解释性来予以实现。在此意义上，人工智能司法应用并非做出结果即可，还要就裁判结果的过程进行理由说明。因此，未来的司法实践，司法人工智能产品和服务投入应用时，相关产品或者服务制造者、适用者应当以便于理解的方式向诉讼当事人说明和标识相应的功能、性能与局限，确保应用过程和结果可预期、可追溯、可信赖。

结语

　　面对ChatGPT等生产式人工智能在司法领域的显著进步，司法与人工智能之间深度融合的趋势也将日益明显。然而，立足于人工智能司法应用的既有实践，人工智能在赋能司法的同时，也伴随着显著的背反效应，并在一定程度上阻碍了技术赋能的释放。整体而言，人工智能司法应该始终是“面向人”的司法应用，这既需要对人工智能正向功能的关注，同时也需要对人工智能反向功能的重视，在预防人工智能司法应用可能的风险同时，也要防范人工智能司法应用对既定目标的消解。唯有如此，人工智能司法应用才能面向以及实践于未来。

推荐阅读-向上滑动，查看完整目录-
《国家检察官学院学报》2023年第5期目录

【主题研讨——网络暴力法律治理】

1.网络侮辱、诽谤犯罪中“严重危害社会秩序”的判定

程捷

2.“自诉转公诉”程序规则的系统性反思

——以网络侮辱诽谤犯罪案件为视角

贾志强

3.网络暴力中个体维权困境与平台安全保障义务

刘文杰

【检察专论】

4.公检侦查监督与协作配合机制改革与前瞻

林喜芬

【法学专论】

5.论数据权益

程啸

6.人工智能司法应用的实践审思与完善

龚善要

7.论技术性证据专门审查意见的证据能力

龙宗智、胡佳

8.环境保护行刑衔接的实体规范优化

侯艳芳

9.接受劳务一方侵权责任适用的体系性思考

尹飞

10.要件事实理论与民事判决书的表达

冉博

《国家检察官学院学报》是最高人民检察院主管、国家检察官学院主办的法学综合性学术期刊，入选中文社会科学引文索引（CSSCI）来源期刊（2021-2022）、全国中文法律类核心期刊（2020年版）、中国人文社会科学核心期刊和最高人民检察院检察理论研究知名期刊。本刊以“立足检察，面向法学学术前沿和整体司法实践”为办刊定位，以“大法学格局基础上突出检察特色”为栏目建构原则。

法宝新AI·智能写作

无论是工作汇报，产品介绍，还是法律研究报告、市场宣传文案，法宝智能写作系统都能为您提供高质量写作支持，满足法律工作者日常学习工作中各类领域的写作需求，提供源源不断的创意与灵感，全面助力您的文案写作。您可以在平台上选择不同的写作模型，输入关键词和要点，即可自动生成文档大纲与内容。平台内嵌法宝V6数据库，让您的内容创作有据可依。与此同时，智能写作平台还支持实时对生成文档进行修改和优化，确保文章撰写的准确性。

—— 系统亮点 ——

“一键生成文章大纲”——输入关键词和内容要求，即可自动生成文章大纲，为您提供创作起点和清晰明了的写作思路。

“智能生成文章内容”——GPT模型结合法宝数据库快速生成逻辑自洽、内容丰富的文章。

“法宝V6数据库支持”——查阅生成结果的相关法律法规、学术期刊等信息。可准确理解法律术语，帮助生成符合要求的法律文件；能够自动匹配对应法律法规，实现法理逻辑处理自动化，增强文章权威性与可信度。法宝智能写作能及时跟踪法律法规的最新变化，避免使用已失效或废止的法律条文作为参考。

-END-

责任编辑 | 郭晴晴

审核人员 | 张文硕韩爽

本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。

▼往期精彩回顾▼

《国家检察官学院学报》2023年第5期要目

《国家检察官学院学报》2023年第4期要目

吴俊：民事公益诉讼的实体性分析 | 国家检察官学院学报202303