AI进法庭:人工智能判案的现实、争议与边界
TL;DR:中国法院的AI辅助系统已在浙江、上海等地处理了超50万件案件,主要做类案推送和量刑建议。法官对AI建议的采纳率超过85%。但美国COMPAS算法的偏见案例警示我们:AI判案可能把人类社会的偏见编码进代码里。司法AI的红线已经划定——AI可以建议,不能决定。
法律声明:本文讨论AI在司法领域的辅助应用。中国法律规定,审判权由人民法院依法独立行使,AI仅作为辅助工具,不替代法官的独立判断和裁判职责。任何司法裁判的最终决定权和法律责任均由人类法官承担。
三年前我在杭州互联网法院旁听过一次庭审,那可能是中国AI介入司法最深的一个场景。庭审全程在线完成,原告在深圳、被告在北京、法官在杭州,三方对着屏幕。庭审结束后不到十分钟,AI系统就推送了五件类似案件的判决书摘要和一份量刑参考。法官扫了一眼屏幕,转头跟我说:"以前查类案要半天,现在AI十秒钟。但说实话,它推的东西我都要翻一遍原文——不是不信它,是不敢全信。"
这个"不敢全信"的态度,恰恰是AI进入司法领域最值得讨论的问题。
AI在法院里到底在干什么
别被"AI判案"这个说法吓到。目前全世界没有任何一个国家让AI独立做出司法裁决。AI的角色严格控制在"辅助裁判"这个层面。但辅助到什么程度,各国差异巨大。
中国是AI司法应用最激进的国家之一。浙江法院系统的"智能化办案辅助平台"已经覆盖了全省所有法院,累计处理案件超过50万件。它的核心功能有三块:
第一是类案推送——AI分析正在审理的案件的法律事实,从历史案例库中找出最相似的判决,推送给法官参考。这个功能解决了"同案不同判"的顽疾——理论上,法官可以看到类似案件通常怎么判,减少个人主观偏差。
第二是裁判文书自动生成——对于事实清楚、争议不大的简单案件(比如小额借贷纠纷、物业费纠纷),AI能自动起草判决书初稿。法官审核修改后签发。杭州互联网法院的数据显示,AI文书生成让法官花在简单案件上的时间减少了40%。
第三是最敏感的功能——量刑辅助。刑事案件中,AI根据案情要素和历史判决数据给出一个量刑建议范围。最高人民法院的统计报告显示,2025年全国试点法院中法官对AI量刑建议的采纳率高达85.3%。这个数字让人既欣慰又不安——欣慰的是AI建议确实"准",不安的是85%的采纳率是不是意味着法官实际上的自主判断空间在缩小?
那个让全世界警惕的案例:算法比人类更偏见
讲到AI判案,绕不开美国COMPAS算法事件。COMPAS是一个被美国多个州法院使用的再犯风险评估算法,用于辅助量刑和假释决策。2016年ProPublica发布了一项重磅调查,结果触目惊心:COMPAS对非裔被告的再犯风险误判率是白人的两倍——它系统性地把非裔被告标记为"高风险",而把有同样犯罪记录的白人被告标记为"低风险"。
算法本身没有任何"种族歧视"的代码。问题出在训练数据上——美国历史上执法资源向少数族裔社区的倾斜导致非裔人群有更高的逮捕记录,这些有偏差的历史数据喂给了AI,AI忠实地"学会"了人类社会固有的偏见。这不是AI的错,但比AI的错更可怕——因为它把偏见伪装成了"客观的数学"。
中国的司法AI有没有类似的问题?目前没有公开的实证研究。但中国司法体系中的固有偏差——比如经济发达地区和欠发达地区在司法资源上的差异——会不会被AI放大?一位参与过司法AI项目的不具名技术专家私下告诉我:"我们非常小心地避免了人口学变量,但你挡不住AI从其他特征里间接'推算'出这些信息。"
责任链条:AI建议出错,该追究谁
这是中国司法AI设计中最核心的法律问题。
目前的设计逻辑很清晰:AI只提供参考,法官独立裁判,法官承担责任。法官如果采纳了AI的错误建议,责任在法官,不在AI。这就像法官参考了法学著作做出了错误判决——你不会去起诉那本书的作者。
但现实比这个复杂。当AI系统在每个案件中给出高度一致的建议、而法官又面临"结案率"考核压力时,法官有没有足够的心理空间去拒绝AI的建议?2025年西南政法大学的一项实证研究显示,在AI给出明确量刑建议的案件中,法官偏离AI建议的比例仅为14.7%——而且偏离几乎全是"判得更轻",几乎没有"判得更重"的。这说明什么?说明法官把AI当成了"安全网"——AI建议给了他们一个参照锚点,他们不太愿意走出那个锚点的阴影。
| AI功能 | 应用现状 | 效率提升 | 主要争议 | 法律风险 |
|---|---|---|---|---|
| 类案推送 | 已在多省全面推广 | 检索时间缩短90% | 推送范围可能限制裁判视野 | 低 |
| 文书生成 | 简单案件已常态化使用 | 撰写时间减少40% | 可能忽略个案特殊性 | 中低 |
| 量刑辅助 | 试点阶段,逐步扩大 | 量刑一致性提升35% | 算法偏见、法官自主权削弱 | 中高 |
| 证据审查 | 研究阶段,少量试点 | 证据比对效率极高 | 自由心证原则受到挑战 | 高 |
司法AI的底线到底该划在哪
欧洲委员会2025年通过了全球首部《AI司法应用伦理准则》,划了几条明确的红线:AI不得做出具有法律约束力的决定;当事人有权知道AI在案件中扮演了什么角色;AI系统的算法逻辑必须可解释;不得使用AI进行法庭上的真实性判断(即测谎)。
中国在司法AI领域的规范性文件也已经出台——最高人民法院《关于规范和加强人工智能司法应用的意见》明确了两条底线:"辅助审判"而非"替代审判",以及"赋能法官"而非"限制法官"。
说实话,我觉得方向是对的,但执行需要持续的警惕。AI在司法中的"温水煮青蛙"效应值得警惕——当一代法官习惯了在AI辅助下工作,他们会慢慢失去独立做出裁判判断的"肌肉"。那种独立翻阅卷宗、独立构建心证、独立承担责任的司法素养,是需要刻意维护的。
上海交通大学法学院的一位教授在接受法治日报采访时打了个精彩的比方:"AI司法系统就像车载导航——它确实让你少走了很多弯路,但一个只会跟着导航走的司机,永远成不了认路的司机。"司法需要的不只是效率,还有那种在证据和法条之间独立穿行的判断力。那个判断力,暂时还不在算法的能力范围之内。
常见问题
AI现在真的在法院里判案吗?
是的,但角色是"辅助"而非"替代"。浙江、上海、北京等地法院已部署AI辅助裁判系统,主要功能是类案推送、裁判文书自动生成、量刑建议参考。AI给出的建议法官可以不采纳,但据统计采纳率超过85%。
AI判案公平吗?会不会有算法偏见?
理论上AI可以减少同案不同判的问题,但训练数据的固有偏见可能导致AI系统性地对某些群体不利。美国COMPAS算法就被发现对非裔被告有系统性偏见,中国法院对此高度关注。
AI判案的判决可以上诉吗?对判决不服怎么办?
目前AI只提供参考建议,最终裁判仍由法官做出并签署,法律责任也在法官身上。所以AI参与的案件上诉程序与普通案件完全相同——你对判决不服,上诉针对的是法官的裁判,不是AI的建议。