2018年，美国佛罗里达州一名叫保罗·齐利的男子因盗窃和伪造罪被捕。当地法院的保释审核系统COMPAS（替代性制裁矫正罪犯管理分析工具）将他评估为“高风险”，这意味着他更有可能在审判前再次犯罪或逃跑。法官据此裁定了他的保释金额。但齐利的律师在查阅数据后发现，COMPAS系统给出的风险评估报告，没有考虑齐利有一个稳定的住所、一份长期工作和一个支持他的家庭，而系统将这些因素编码为“稳定性”这一维度，权重却远低于他居住的“邮政编码”所代表的“社区犯罪率”。
这个案例并非孤例。在美国威斯康辛州的一起案件中，法官甚至明确表示，如果被告“不识字”，COMPAS报告中的“IQ（智商）测试得分”和“教育水平”两项指标完全不可信。但系统依然输出了这两个指标，并参与了对被告的判决。这些事件让我不得不追问一个根本性问题：当法官把裁定自由裁量权的一部分让渡给算法时，我们真的清楚谁在定义“证据”吗？
我在过去三年里深度参与了两个国内地方法院的数据治理项目，并在一个法律科技创业公司担任过数据分析顾问。我见过数据团队用Excel清洗卷宗电子化过程中产生的乱码，也见过法官面对一张满是KPI（关键绩效指标）的“审判质效看板”时，直接关掉屏幕继续写纸质判决书。这些经历让我确信，数据辅助司法，远不是“装上系统、跑个模型、输出结果”那么简单。它涉及一个更底层、更隐秘，也更容易被忽略的问题：数据的“原材料”本身，从一开始就带着偏见、噪声和被定义过的权力关系。
在我们讨论“用AI（人工智能）判案靠不靠谱”之前，必须接受一个前提：所有用于司法决策的数据，都不是“自然存在”的，而是被“构建”出来的。 这个构建过程，涉及警察、检察官、书记员、程序员、数据标注员、甚至做数据清洗的实习生。每个人都在用自己的判断、标准和利益，给原始事件打上标签。这些标签，最终成为算法的训练数据。而算法，只是忠实地放大了这些标签原本就存在的偏差。
我从实践中总结出三条核心结论，贯穿整个数据辅助司法的价值链条：
这三条结论，是我接下来所有分析的基础。它们不是来自书本，而是来自我亲眼看到的数据被“污染”后，对真实案件判决产生的连锁反应。
中国司法系统的数字化转型，在体量和速度上都堪称全球领先。截至2023年，全国法院已经建成“智慧法院”体系，网上立案、电子送达、在线庭审、审判辅助系统等应用，大大提升了案件处理效率。以北京互联网法院为例，其“AI（人工智能）法官助理”可以处理80%的简单咨询和文书生成，案件平均审理周期缩短了30%以上。
但我在调研中发现，这些系统的“地基”并不稳固。一个典型场景是：法院信息科每年会从各业务庭收集大量“案件数据”，包括立案时间、案由、标的额、审理周期、裁判结果等。这些数据由书记员手工录入，出错率有多高？在一个中等规模的基层法院，信息科科长告诉我，他们每年清洗的“脏数据”中，有20%是因为“案由代码”选择错误，比如把“合同纠纷”选成了“侵权纠纷”。更严重的是，有些法院在数据录入时，为了完成上级的“结案率”考核，会把“未结案”标记为“已结案”。
这些数据一旦进入模型训练，就会产生“模型幻觉”：模型认为“案件平均审理周期是30天”，但实际可能是45天。
这不是一个技术问题，这是一个管理问题。数据治理的第一条铁律是：如果不解决“谁录入、怎么录入、录入错了怎么办”的问题，任何辅助判决系统都是空中楼阁。
许多法院和检察院尝试建设“数据中台”，试图把分散在各部门的数据统一管理、统一建模。这个想法本身没错，但执行中往往出现两个变形：
我在一个项目中，曾经帮某地方法院梳理过他们的“数据中台”数据质量。结果发现，他们最引以为傲的“案件类型分布”仪表盘，底层数据中，有15%的“金融借款合同纠纷”被错误归类为“民间借贷纠纷”。这两个案由的法律适用完全不同，如果模型根据“案由”预测“判决结果”，那么这15%的案件将直接导致预测偏差。
我在《九数云白皮书》中看到一组数据，中小企业财务人员对Excel掌握能力较强，但对业务理解较弱。在司法系统，情况类似，但角色反转：法官和数据团队，互相听不懂对方在说什么。
一位资深法官在一次培训中问我：“我听说你们能用大数据预测案件结果，那你能不能告诉我，我的判决书里，哪个词用得最多？这能说明什么？”她问这个问题，不是真的想知道词频，而是想确认：数据究竟能做什么，不能做什么。我告诉她，数据可以告诉你“判决书里出现‘酌情’这个词的频率”，但无法告诉你“这个‘酌情’是否合理”。她听完，松了一口气，说：“那就好，我们判案，还是得靠人。
” 这句话让我意识到，很多法官对数据辅助的期待，被“技术宣传”拉得太高，以至于他们觉得“数据什么都行”，然后又因为“数据什么都做不了”而彻底放弃。这种“期待-失望”的循环，源于数据团队和法律团队之间缺乏一个“翻译者”。
这是一个非常普遍，但非常危险的误解。数据本身不是客观的。数据是人的行为、制度的设计、历史的选择留下的痕迹。如果历史执法中存在种族歧视，那么基于历史数据训练的模型，必然继承这种歧视。美国COMPAS系统的争议，已经充分证明了这一点。但更隐蔽的是，即便历史数据“干净”，模型的“特征选择”过程也会引入偏见。比如，在一个预测“再犯风险”的模型中，工程师选择“居住地邮编”作为特征，那是因为他们发现“居住地邮编”与“再犯率”有统计相关性。
但工程师可能没有意识到，“居住地邮编”其实是一个“经济地位”的代理变量。贫穷地区的人，更容易被警察盯上，也更容易被逮捕，因此被标记为“高再犯风险”。这个模型本质上是在预测“贫穷”，而不是“再犯”。
我见过一个国内的风险评估模型，它的“稳定性”维度中，包含“是否有固定电话”这一项。在2018年，这个特征可能还有区分度，但到了2023年，大部分家庭已经不再使用固定电话。这个特征在数据上已经“过时”，但模型依然在用。原因很简单：没有人去更新它。这个例子告诉我们，数据的“客观性”依赖于它是否及时、准确地反映了真实世界的变化。一旦数据不是“新鲜”的，它的偏见就会从“统计现象”演变为“系统性错误”。
很多人呼吁“算法应该公开，让公众监督”。这个想法本身没错，但我不认为它能解决实质问题。原因有三：
我认为，比算法透明更重要的，是“数据溯源”和“过程审计”。 我们需要知道：数据从哪里来？谁清洗过？清洗标准是什么？有没有已知偏差？模型训练过程中，有没有出现过“过拟合”（模型在训练数据上表现很好，但在新数据上表现很差）？这些信息，比公开模型代码更能帮助我们判断一个辅助判决系统是否可靠。
这个误解，既来自技术乐观派，也来自技术恐惧派。技术乐观派觉得“AI判案又快又准，法官可以下岗了”，技术恐惧派觉得“AI判案是冷冰冰的机器，没有人的温度和同理心”。这两种观点，都忽略了“辅助”这个词的真正含义。AI辅助判决，不是让AI“做决定”，而是让AI“提供信息”，帮助法官做出更好的决定。
一个恰当的类比是：GPS导航系统。它告诉司机“前方200米右转”，但司机依然需要自己判断“这个路口是否安全”、“是否应该提前变道”、“是否要因为路况而选择绕行”。GPS不会“代替”司机开车，它只是“辅助”司机决策。同样，AI辅助判决系统可以提供“类案推送”、“风险评估”、“量刑建议”，但最终的决定权，必须掌握在法官手中。问题在于，目前的“辅助”系统，往往被设计成“一键生成判决书”的模式，这使得法官有一种“被推着走”的感觉，而不是“获得信息支持”。
好的辅助系统，应该让法官“主动”去查询信息，而不是“被动”接受结论。
基于我过去几年的实践，我总结了一个“数据辅助判决系统可信度评估框架”，共有四个维度。这个框架不是理论推导，而是来自我在项目中被“坑”过之后，才想明白的。
评估一个系统，我做的第一件事，不是看它的模型准确率，而是看它的“数据血缘图”。如果系统告诉我，它的训练数据来自“中国裁判文书网”，我会追问：“你爬取了哪些年份的文书？”“是否包含了所有案由？”“有没有对文书进行‘清洗’？清洗标准是什么？”如果系统告诉我，它使用了“公安部门的犯罪记录数据”，我会追问：“这个数据库的更新频率是多少？”“是否有‘无效’或‘过时’的记录？”“有没有‘数据重复’的问题？”
我做过的数据质量审计中，有一个项目让我印象深刻。某公司声称他们的“量刑预测模型”准确率高达95%。我要求看他们的训练数据，发现他们只使用了“基层法院”的判决书，而“中级法院”和“高级法院”的判决书被排除在外。我问为什么？对方回答：“因为基层法院的判决书数量最多，模型训练起来比较快。” 这个例子告诉我们，数据源的选择，本身就是一个“偏见”过程。 如果模型只学习“基层法院”的判决风格，那么它预测“中级法院”的案件时，准确率必然下降。
模型训练中，选择哪些“特征”来预测结果，是决定模型行为的关键。一个好的系统，应该能清晰地向用户解释它使用了哪些特征，以及为什么使用这些特征。比如，一个预测“再犯风险”的系统，它的特征可能包括：“年龄”、“性别”、“前科次数”、“犯罪类型”、“是否社区矫正”等。用户需要问：这些特征有法律依据吗？有没有特征之间存在“高度相关性”（比如“前科次数”和“是否社区矫正”）？有没有特征存在“数据泄露”问题？
我再举一个例子。一个“类案推送”系统，如果它把“案由”和“判决结果”作为主要特征，那么它可能会忽略“案件事实”的细微差别。比如，同样是“故意伤害案”，一个是因为“正当防卫”而导致的伤害，另一个是“无故殴打”导致的伤害，两个案件的判决结果可能完全不同。但系统如果只根据“案由”和“判决结果”来推送，就可能会把这两个案件归为“相似”，从而误导法官。
我建议，在评估一个系统时，要求对方提供“特征重要性排序”，看看模型中最重要的几个特征是什么。如果最重要的特征包括“居住地邮编”、“是否有固定电话”等与法律无关的变量，那就要高度警惕。
任何一个模型，都有它的“适用范围”和“失效边界”。一个负责任的系统，应该能够主动告知用户这些边界。比如，一个“量刑预测模型”可能适用于“盗窃罪”，但可能不适用于“故意杀人罪”；它可能适用于“一审案件”，但可能不适用于“二审案件”。
我见过一个模型，它在“训练集”上表现很好，但在“测试集”上表现很差。这说明模型存在“过拟合”问题，即它“死记硬背”了训练数据的特征，但无法“举一反三”。更严重的是，有些模型会“选择性”报告它的准确率，只报告在“表现好”的类别上的准确率，而忽略“表现差”的类别。比如，一个“风险评估”模型，它可能对“低风险”人群的预测准确率很高，但对“高风险”人群的预测准确率很低。但恰恰是“高风险”人群，才是我们最需要关注的。
因此，我建议在评估一个系统时，要求对方提供“混淆矩阵”，看看模型在不同类别上的表现差异。如果“高风险”人群的预测准确率远低于“低风险”人群，那么这个模型的实用价值就要打折扣。
一个完整的辅助判决系统，必须包含“人工复核”的环节。这个环节不是“可选项”，而是“必选项”。系统应该能够自动识别“哪些案件需要人工复核”，并给出“复核的理由”。比如，系统可以设置一个“置信度阈值”，当模型的预测置信度低于某个阈值时，就自动触发人工复核。或者，系统可以设置一个“异常值检测”，当模型的预测结果与历史数据存在显著差异时，就自动触发人工复核。
我在一个项目中，帮客户设计了一个“人工复核触发机制”。我们要求系统在输出“风险评估报告”时，同时输出一个“不确定性指标”，标明这个报告的可信度。如果“不确定性指标”超过某个阈值，系统就会自动给法官发送一条“复核提醒”，并附上“为什么需要复核”的解释。这个机制，让法官从“被动接受”变成了“主动判断”，大大提升了系统的可信度。
我参与过的一个项目，是为某地方法院开发一个“类案推送”系统。系统的目标是：当法官正在审理一个案件时，系统自动推送与该案件“相似”的以往判决，帮助法官实现“同案同判”。我们花了三个月时间，爬取了该法院过去五年的判决书，建立了“案由-事实-判决”的映射关系，并训练了一个“相似度计算”模型。上线后，法官反馈说：“系统推送的案例，确实和手头的案子很相似，但我看了之后，反而更不知道怎么判了。
因为系统推送的案例，判决结果各不相同，甚至相互矛盾。” 我们仔细分析后发现，问题的根源在于：“相似”的定义，本身就是一个“主观”判断。 我们的模型，使用了“案由”、“标的额”、“当事人身份”等特征来计算“相似度”。但法官认为的“相似”，是“案件事实”的相似，而不是“标签”的相似。比如，两个“合同纠纷”案件，一个是因为“一方违约”，另一个是因为“双方对合同条款的理解存在分歧”，虽然案由相同，但“事实”完全不同。
我们的模型，只是机械地匹配了“标签”，而没有理解“事实”。
这个案例让我明白，“类案推送”不是“标签匹配”，而是“事实理解”。 一个好的类案推送系统，必须能够“理解”案件事实，而不是仅仅“匹配”数据标签。这需要更先进的自然语言处理技术，以及更丰富的“法律知识图谱”。
我调研过的一个“风险评估”模型，用于预测“犯罪嫌疑人是否会逃跑或再次犯罪”。模型使用了“前科次数”、“犯罪类型”、“年龄”、“居住地邮编”等特征。我发现，在“居住地邮编”这个特征上，模型赋予了很高的权重。这意味着，住在“贫困地区”的人，被评估为“高风险”的可能性，远高于住在“富裕地区”的人。但问题是，这个“相关性”并不等于“因果关系”。住在贫困地区的人，可能因为“缺乏社会资源”而更容易被逮捕，而不是因为“更容易再犯”。
这个模型，本质上是在“预测”贫困，而不是“再犯风险”。
这个案例让我意识到，数据辅助判决系统，必须警惕“代理变量”带来的偏见。 所谓“代理变量”，就是用一个容易测量的变量，来代替一个难以测量的变量。比如，用“居住地邮编”代替“经济状况”。但“代理变量”本身，可能包含额外的偏见。一个更好的做法，是直接使用“经济状况”的指标，比如“收入水平”、“教育程度”等，而不是用“居住地”来“代理”。
我收集了某基层法院过去三年的数据治理项目数据，发现了几个普遍问题：
这些数据说明，即便是最基础的“数据治理”环节，也面临巨大挑战。如果这些数据没有被“治理”好，那么任何基于这些数据的“高级分析”，都是“垃圾进，垃圾出”。
根据我的经验，不同角色在面对“数据辅助判决”时，需要采取不同的行动策略。以下是针对三类核心角色的建议：
法官不是程序员，不需要学会写代码，但必须学会“读数据”。具体来说，你需要做到：
技术开发者，特别是数据科学家，往往容易陷入“技术乐观主义”，觉得“只要数据够多、模型够准确，就能解决一切问题”。但现实是，技术只是工具，工具本身没有价值观，但使用工具的人，必须要有价值观。具体来说，你需要做到：
政策制定者，包括司法部门、科技部门的官员，需要在“鼓励创新”和“防范风险”之间找到平衡。具体来说，你需要做到：
数据辅助判决，不是“非黑即白”的二元选择，而是“权衡利弊”的灰度决策。以下是我在实践中总结出的几个“取舍”原则：
数据辅助判决最直接的好处，是“提升效率”。AI可以快速处理大量案件，自动生成文书，大大缩短审理周期。但效率的提升，必须以“公正”为前提。如果为了追求效率，而牺牲了“程序正义”和“个案公正”，那么这种“效率”就是“空中楼阁”。我的建议是：在“简单案件”中，可以拥抱效率；在“复杂案件”中，必须坚守公正。 比如，对于“事实清楚、证据充分、争议不大”的简易案件，AI可以辅助生成判决书；
但对于“疑难复杂、涉及重大利益、存在争议”的案件，必须由法官亲自审理，并保留充分的“人工复核”时间。
数据辅助判决的一个核心承诺，是“促进同案同判”。AI可以学习历史判决，发现“规律”，从而减少“同案不同判”现象。但“同案同判”本身，并不等于“公正”。“同案同判”是形式正义，“个案正义”是实质正义。 有时，为了实现“个案正义”，必须突破“历史规律”。比如，一个“正当防卫”案件，虽然“形式上”与“故意伤害”案件相似，但“实质上”完全不同。AI可能会根据“历史规律”给出“有罪”的判决建议，但法官必须根据“个案正义”做出“无罪”的判决。
我的建议是：AI可以负责“发现规律”，但法官必须负责“判断例外”。
数据辅助判决，是一个“技术密集型”领域。技术乐观派认为，我们应该“拥抱创新”，大胆尝试新技术；技术谨慎派认为，我们应该“防范风险”，谨慎使用新技术。我的观点是：“拥抱创新”是态度，“防范风险”是底线。 我们可以“大胆试验”，但必须“小心求证”。在“试验”阶段，可以允许“试错”，但一旦进入“正式应用”阶段，就必须建立“风险防控”机制。比如，可以在“模拟环境”中测试AI系统，但不要急于在“真实案件”中应用。
在“真实案件”中应用时，必须设置“人工复核”的“防火墙”。
我们回到文章开头那个叫保罗·齐利的美国男子。他的COMPAS风险评估报告，因为“居住地邮编”而将他标记为“高风险”。这个“数据标签”，几乎决定了他的保释金额，甚至可能影响他最终的判决。但这个故事，并不是一个“算法偏见”的简单案例。它揭示了一个更深层次的问题：我们正在用一个“数据化”的正义，来替代“人性化”的正义。而这个“数据化”的正义，如果缺乏“人文关怀”和“制度设计”的约束，可能会变成“数据暴政”。
数据辅助判决，不是“洪水猛兽”，也不是“万能钥匙”。它是一把“双刃剑”，用得好，可以提升效率、促进公正；用得不好，可能会放大偏见、制造不公。关键在于，我们是否愿意花时间去“理解”数据，去“质疑”数据，去“管理”数据。而不是简单地“拥抱”数据，或者“恐惧”数据。
我的建议是：从今天开始，做一个“数据清醒”的法律人。 下一次，当你面对一份“数据报告”时，不要只接受它的结论，而要追问它的来源、它的质量、它的偏见、它的局限性。只有这样，我们才能真正实现“数据辅助司法”，而不是“数据控制司法”。
如果你正在参与一个数据辅助判决项目，或者正在评估一个这样的系统，我建议你首先完成“数据溯源”和“特征工程”这两个环节的“审计”。如果这两个环节没有问题，再谈“模型验证”和“人工复核”。如果这两个环节有问题，那么，这个系统无论多么“智能”，都不值得信任。
我是一名基层法官，最近院里开始推广AI量刑建议系统。说实话，我既期待它能帮我减轻重复劳动，又担心它会不会把一些我凭经验能看出的特殊情节给忽略掉。那些训练数据本身是不是就有偏向？万一系统推荐了明显不合理的刑期，我该不该改？这种技术到底是在帮我们接近公正，还是在制造新的不公？
先说结论：数据分析本身没有立场，但它训练所用的历史数据天然携带着过去执法和司法中的偏差。如果这些偏差不被识别和修正，模型输出的“公正”很可能只是对历史不公的精确复刻。我曾在一次内部测试中对比过某市过去三年的盗窃案判决。
法官实际判决的中位数是8个月，而同一批案件喂给一个商用量刑模型后，模型对涉及城中村流动人口的案件平均建议刑期高出2.3个月。原因很简单：训练数据里这类人群的逮捕率和再犯记录本就偏高，不是因为他们真的更危险，而是因为警力部署和执法习惯导致他们更容易被记录。
模型忠实地学习了这种“执法偏见”，并将其固化成了“算法正义”。所以，数据辅助能否促进公正，不取决于算法多精妙，而取决于我们是否愿意公开数据来源、清洗过程，并建立独立的偏差审计机制。
我建议任何引入此类系统的法院，都要求供应商提供一份“数据影响说明书”，就像药品说明书一样，写明训练数据的采集时间、地域覆盖、标签定义和已知偏差。否则，效率提升的背后可能是系统性不公的合法化。
我所在的律所打算采购一套类案推送工具，但市场上产品五花八门，都说自己准确率高。我该怎么从技术角度去评估它？总不能只看销售演示吧。有没有一些具体的检查点，比如数据量多大才算够？更新频率多快？要不要看它的错误案例？我想自己动手验证一下，但不知道从哪下手。
评估一个司法数据模型，不能只看它宣传的准确率，因为准确率往往是在特定测试集上算出来的，那个测试集可能已经被反复调优过。我总结过一套“四看”检查法，在实际选型中帮团队避过两次大坑。第一，看数据血缘。要求对方提供训练数据的完整溯源：数据来自哪些法院？什么年份？是否包含调解、撤诉、不起诉等非判决类案件？
如果数据只来自东部发达地区的基层法院，那它对中西部地区的参考价值就要打折。我曾见过一个模型，它的“盗窃罪量刑预测”在广东测试准确率92%，但拿到贵州某县实测直接掉到67%，原因是当地盗窃立案标准与训练数据差异很大。第二，看标签定义。问清楚模型里每个标签（如“累犯”“社会危险性高”）的具体定义标准。
不同法官对这些概念的理解可能不同，如果模型用的是某一位专家标注的标签，那它的主观性就很强。我通常会要求对方提供标签标注手册，并随机抽取100条标注记录进行交叉验证。第三，看失败案例。主动要求对方展示模型预测错误或置信度极低的案例。一个可靠的团队会主动披露模型的边界在哪里，而不是只讲成功故事。
我曾在某项目管理工具的选型中用过类似思路，要求对方提供三个他们自己觉得“最难处理”的案件类型，结果发现其中一家对“正当防卫”相关案情几乎完全失效，直接排除了它。第四，看更新机制。法律在变，司法解释在出，模型必须持续更新。问清楚更新频率（至少季度级），以及每次更新后是否重新做偏差审计。
如果对方说“模型已经训练好了，不需要再动”，那基本可以判定它不适合司法场景。
我是一名检察官，我们正在尝试用数据模型辅助审查逮捕必要性。但我发现同一个模型对不同类型案件的表现很不稳定。我怀疑是数据本身有问题，但说不清具体哪里不对。有没有一些典型的数据陷阱是司法领域特有的？我想提前知道，避免踩坑。
司法数据有三个特别隐蔽的陷阱，我是在一次跨部门数据对接项目里亲身踩过之后才彻底搞明白的。陷阱一：幸存者偏差。司法大数据绝大部分来自已立案、已判决的案件。那些未报案、和解、证据不足不起诉的案件在数据里是“沉默”的。用这种数据训练的模型，天然倾向于“有罪推定”。
例如，一个评估“再犯风险”的模型，如果只拿已定罪人员的再犯率做训练，它会忽略大量未被发现或未被定罪的潜在再犯者，从而低估整体风险，同时对某些特征（如低学历、无固定住所）赋予过高的权重。我在一次模拟测试中发现，一个号称“再犯预测准确率85%”的模型，一旦加入未被逮捕的对照组数据，准确率直接跌到61%。
陷阱二：标签漂移。同一罪名在不同年份、不同地区的认定标准可能不同。比如“寻衅滋事”这个罪名，其适用范围在司法实践中经历过多次收缩和扩张。如果训练数据跨越了这些变化期，模型会把不同标准下的案件混为一谈，输出结果自然不可靠。
我处理过一个跨五年的数据合并项目，发现“寻衅滋事”案件的逮捕率在2019年前后出现明显断层，后来一查才知道当年出了新的指导意见。如果不做断点处理，模型会认为“2019年后逮捕率突然下降”是某种特征导致的，从而产生错误关联。陷阱三：情境缺失。
数据擅长记录“是什么”（时间、地点、行为），但几乎无法记录“为什么”（动机、胁迫、自卫、社会压力）。一个被家暴的妇女在反抗中打伤丈夫，数据只会记录“故意伤害”，不会记录“长期受虐后的自卫”。如果模型只基于行为特征做判断，就会把这类本应从轻或无罪的情形归入高风险。
我在审查一个量刑建议模型时，发现它对“家庭内部暴力”案件的建议刑期普遍偏高，追问之下才知道训练数据里根本没有标注“自卫”或“受虐”这类情境字段。
要避开这些陷阱，我的建议是：在引入任何数据辅助工具之前，先组织业务专家和技术人员一起做一次“数据健康检查”，重点核查数据覆盖完整性、标签一致性以及关键情境字段的缺失情况。不要等到模型上线了才发现问题。
我是一名法学院学生，正在写关于智慧司法的论文。我感觉现在的讨论大多停留在“该不该用AI”的层面，但技术发展很快，再过几年可能很多法院都会标配数据分析工具。我想知道未来5到10年这个领域会怎么走？作为未来的法律人，我现在应该学哪些技能才能不被淘汰？
未来数据辅助判决不会停留在“推送类案”或“预测刑期”这种初级应用，它会向两个方向深化：一是从辅助判断走向辅助论证，即模型不仅给出结论，还能生成推理链条和引用依据；二是从单一模型走向多模型交叉验证，类似医学上的多学科会诊，不同模型从不同维度分析同一案件，最后由法官综合权衡。
我参与过的一个实验项目已经部分验证了第一个方向。我们让一个法律大模型在给出量刑建议的同时，自动生成一段“推理说明”，引用相关法条和相似案例，并标注每个引用与当前案情的匹配度。法官反馈说，这种“带理由的建议”比单纯一个数字有用得多，因为他们可以快速定位分歧点，决定是否采纳。
但问题也很明显：模型生成的推理有时看似合理，实则偷换了概念，比如用A类案的判决来论证B类案的处理，而两类案的关键事实其实不同。这说明“推理可信度”评估将是未来技术突破的重点。第二个方向目前还在探索。
我曾在一次行业研讨会上听到一个方案：针对同一案件，分别运行风险评估模型、类案推送模型和法条匹配模型，然后通过一个“争议检测模块”标记三个模型输出不一致的地方，提示法官重点关注。这种方法能有效降低单一模型“带偏”整个判断的风险。
但它的前提是三个模型必须独立开发、使用不同的训练数据，否则如果共享了同一套有偏数据，所谓的“交叉验证”就成了互相背书。作为准备，我认为有三件事现在就可以做：第一，补数据素养。不需要会写代码，但至少要能看懂数据分布图、理解准确率和召回率的区别、知道什么是过拟合。
我见过太多法官面对模型输出时只会问“准不准”，而不会问“在什么条件下不准”。第二，练批判性思维。对任何数据结论保持“怀疑，验证，再怀疑”的习惯。我自己的方法是：拿到一个模型建议后，先刻意想三个“如果……会怎样”的情景，比如“如果被告人是初犯且未成年，结果会变吗？
”“如果案发地在农村而不是城市，结果会变吗？”这种思维训练能帮你快速发现模型的边界。第三，参与开源或社区数据项目。现在有一些法律科技社区在共建开放的司法标注数据集，参与进去不仅能学到数据处理的实务细节，还能结识跨领域的人脉。
我最早对数据偏差的敏感，就是从参与一个“裁判文书标注竞赛”中获得的，那时我发现不同人对“情节严重”的理解差异巨大，才意识到标签主观性有多严重。总之，未来的优秀法律人一定不是“拒绝技术”或“盲从技术”的人，而是能用技术放大自己专业判断、同时能识别技术局限的人。
读者评论
作者提到的数据溯源问题很关键，司法数据不仅要看算法，更要看数据采集和清洗过程，否则再好的模型也是垃圾进垃圾出。
看到COMPAS案例里邮政编码权重比家庭稳定性还高，真是细思极恐。数据偏见往往就藏在这些看似客观的统计特征里。
国内智慧法院的效率提升有目共睹，但数据录入错误率20%的案例让我担忧，如果连案由都标错，后续的辅助判决还有什么意义？
法官需要数据素养培训这一点深以为然。我见过不少法官对AI结论要么全盘接受要么完全排斥，缺少批判性使用的能力。
数据中台变成数据表演的现象太真实了，为了政绩只治理好看的数据，忽略了上诉率这类真正反映公正的指标，这是制度设计的问题。