为什么 AI 改变编程比改变法律工作更快?

最近和朋友聊到一个问题:为什么 AI 在 coding 上已经带来结构性变化,而在 legal 上还没有那么明显?我觉得关键不在于谁更‘聪明’,而在于谁更容易被验证。

·姚迪·12 分钟
EN💬 讨论与批注
播客深读

用几分钟对谈拆解本文核心推演

00:00
00:00

最近和朋友聊天,聊到一个很有意思的问题:为什么生成式人工智能对工程领域,尤其是编程,已经带来了如此明显、甚至可以说是结构性的变化,而在法律行业,人工智能虽然同样很热,但似乎还没有产生同等程度的“翻天覆地”?

一个直觉性的回答是:也许编程更容易被人工智能取代,而法律工作中还有很多事情机器做不了。

这个判断有一定道理,但如果继续往下想,我觉得真正的区别并不是“程序员的工作比律师简单”,也不是“法律比代码更需要智力”。

更根本的区别可能是:

编程比法律工作更容易形成一个人工智能可以自己完成、自己检查、自己纠错的闭环。

而这件事,可能决定了为什么人工智能革命首先在软件工程领域发生。

一、编程最大的优势,不是容易,而是可以验证

今天,一个编程智能体已经可以完成这样的流程:

读取代码库,理解任务,修改代码,运行程序,执行测试,发现报错,重新修改,再测试,最后提交。

它的工作流程大致是:

生成 → 运行 → 测试 → 失败 → 修复 → 再运行

这里最重要的,并不是人工智能第一次生成的代码有多好。

真正重要的是,系统本身会告诉人工智能,它错了。

代码能不能编译?

测试有没有通过?

接口有没有返回预期结果?

性能有没有超过设定阈值?

这些问题往往存在相对明确的反馈。

所以,一个编程智能体即使第一次做错,也可以不断试错、迭代,直到通过测试。

换句话说,软件工程天然提供了一个非常强的反馈闭环。

而法律工作恰恰缺少这样的机制。

比如,一个人工智能给公司法务提出建议:

“在这种情况下,我们可以考虑向监管机构主动披露。”

问题来了。

怎么测试?

没有一个按钮可以运行“法律建议测试”,然后返回“通过”或者“不通过”。

法律建议的“正确”往往不是二元的。

它可能同时涉及法律文本、监管实践、执法概率、公司风险偏好、政府关系、商业利益、声誉、全球政策、内部先例,以及未来可能发生的事情。

两个同样优秀的律师,面对同一组事实,完全可能提出不同的建议。

而且两个人都未必是错的。

这就构成了法律人工智能最核心的结构性难题:

内容生成正在变得越来越便宜,但验证仍然昂贵。

人工智能越来越容易生成一个法律答案。

但确认这个答案是否值得依赖,仍然需要昂贵的人类判断。

二、软件工程和法律工作面对的是两个不同的世界

如果进一步比较,会发现编程和法律工作的最终产出本身就非常不同。

代码最终必须面对机器。

机器相对“诚实”。

它不会因为你和它关系好,就接受一个无法工作的接口。

也不会因为政治环境变化,就突然重新解释一段程序。

代码最终会被执行。

所以,大量工程工作的结果可以通过系统行为来检验。

但法律工作最终面对的是:

人和制度。

监管机关会怎么理解?

法官会怎么判断?

交易对手会不会接受?

董事会愿意承担多少风险?

公众会怎么看?

某个政府部门今天和六个月后是不是同一个态度?

这些问题没有稳定的运行环境。

所以可以这样概括:

编程运行在一个以机器为核心的环境中。

法律工作运行在一个以人和制度为核心的环境中。

这两种环境对人工智能的友好程度差别很大。

三、还有一个容易被忽略的差别:法律问题经常连目标都没有定义清楚

很多编程任务的目标相对容易明确。

比如:

建立一个接口;

输入用户编号;

查询数据库;

返回结构化结果;

响应时间低于两百毫秒;

同时加入自动测试。

这不是说任务简单。

而是说,“完成”是什么,通常比较容易描述。

但公司律师收到的问题经常是:

“政府今天打电话来了,你觉得我们应该怎么办?”

这句话背后可能隐藏着十几个问题。

这是正式调查还是非正式询问?

为什么是现在?

之前公司有没有处理过类似情况?

总部知道吗?

我们是否希望合作?

如果合作,会不会形成先例?

如果不合作,会不会升级?

中国法怎么说?

美国法有没有冲突?

业务团队实际上希望达到什么结果?

谁应该去和政府沟通?

很多关键背景甚至根本不在任何数据库里。

它存在于人的脑子里。

存在于组织历史里。

存在于对某个监管机构的理解里。

存在于过去十次会议形成的默会知识里。

所以,高级法律工作很大一部分并不是信息检索。

而是:

重新构建背景。

而这是今天人工智能仍然很难完整获得的东西。

四、更深一层:法律经常不是在寻找答案,而是在决定“我们想要什么答案”

人工智能最擅长的一类问题是:

给定条件,寻找答案。

但是很多高级法律工作实际上是在问:

条件本身应该如何定义?

例如,公司问:

“这个产品能不能上线?”

一个比较初级的法律问题是:

“法律允不允许?”

但真正到了总法律顾问或者高级法务层面,问题往往变成:

“在法律风险、监管关系、商业机会、品牌影响和未来先例之间,我们愿意承担多少风险?”

这时候已经不是单纯的法律推理问题。

它包含:

判断,

价值取舍,

组织授权,

以及责任承担。

人工智能可以告诉你有哪些选择。

可以告诉你每个选择有哪些风险。

甚至可以模拟监管机构的反应。

但最终仍然需要有人说:

我们愿意承担这个风险。

这个动作,本质上是主体性。

所以我越来越觉得,理解法律人工智能不能只讨论智能水平。

还要讨论:

谁有权作出决定?

谁承担后果?

出错以后谁负责?

五、所以法律工作并不是不会被人工智能改变

恰恰相反。

我认为法律行业受到的冲击可能非常大。

只是它的路径不会完全复制软件工程。

很多法律工作已经非常适合被人工智能大幅压缩。

比如:

合同条款提取;

文件比对;

尽职调查;

案件时间线整理;

标准化法律研究;

监管规则梳理;

初稿起草;

政策比较;

证据审阅;

大量标准化合同工作。

这些工作的共同特征是什么?

输入相对有限。

输出相对明确。

信息来源相对可识别。

验证相对容易。

换句话说:

它们越来越像编程。

所以真正应该问的,并不是:

“法律会不会被人工智能替代?”

而是:

这项法律任务有多像编程任务?

一个法律任务越接近“输入明确—输出明确—可以验证—可以纠错”,人工智能介入的速度就会越快。

反过来,如果一个任务高度依赖关系、判断、模糊目标、组织权力和不可逆后果,那么人工智能自主执行的速度就会更慢。

六、可以建立一个简单的人工智能可替代性框架

我觉得可以用几个变量来判断一个任务有多容易被人工智能接管:

可形式化程度

任务能不能被清楚描述?

可验证程度

人工智能做完以后,能不能低成本判断它对不对?

数字化程度

完成任务需要的背景和数据是否已经数字化?

可逆程度

犯错以后是不是容易回滚?

以及:

判断密度

完成任务需要多少规范性、制度性、人际和商业判断?

编程往往具有这样的特征:

可形式化程度高;

可验证程度很高;

数字化程度很高;

可逆程度较高;

判断密度中等。

所以,人工智能的采用非常快。

法律往往恰恰相反。

而在这些变量里面,我认为最重要的可能是:

可验证性。

人工智能能不能取代一个人,很大程度上不取决于人工智能能不能第一次做对。

而取决于:

人工智能做错以后,系统能不能告诉它,它错了。

这是编程的巨大优势。

也是法律的巨大障碍。

七、真正危险的可能不是律师消失,而是法律职业的“生产层”被掏空

过去,法律职业大致是一个金字塔:

资深律师,

中级律师,

初级律师,

律师助理。

初级律师做大量研究、审阅、起草和尽职调查。

然后在这些工作中逐渐形成判断。

但人工智能出现以后,一个可能的新结构是:

资深律师负责判断、主体性和关系管理,

下面不再需要那么多人工生产,

而是一个很大的人工智能层。

研究、起草、审阅、比对、总结,大量由人工智能完成。

这意味着,人工智能不一定首先让资深律师消失。

反而可能首先压缩的是初级和中级律师的生产性工作。

但这又带来一个非常深的问题:

如果判断过去是通过生产工作训练出来的,那么当生产工作被人工智能做掉以后,未来的高级判断从哪里来?

一个律师过去可能要读一百个案例、改五十份合同、写三十份备忘录,才慢慢形成“感觉”。

如果未来年轻律师只负责批准人工智能的输出,他们会不会失去形成这种直觉的机会?

所以,法律人工智能的长期挑战可能不是:

“我们怎么用人工智能替代律师?”

而是:

在机器承担大部分生产工作的时代,我们如何训练人的判断力?

这个问题,我觉得目前远远没有被充分讨论。

八、工程可能只是比法律提前了一代

今天,编程已经越来越从:

“帮我写这段代码。”

走向:

“这是问题,你去解决。”

也就是从辅助工具进入智能体阶段。

而法律人工智能目前大多数时候还停留在:

帮我查;

帮我总结;

帮我写;

帮我审阅;

帮我分析。

真正的法律人工智能革命,可能要等到它跨过下一条线:

“这是这个案件或者事项,你来运行整个流程。”

比如,未来一个法律智能体可以:

收到监管机构的要求;

自动找到公司过去的类似案例;

查询相关法律;

调取内部政策;

识别相关利益方;

生成风险矩阵;

起草回复;

提出升级建议;

更新案件管理系统;

追踪截止日期;

最后交给律师批准。

到了这里,法律工作才真正开始进入智能体时代。

所以,也许软件工程和法律工作并不是走在两条不同的路上。

只是工程已经提前让我们看到了一部分未来。

九、人工智能真正改变的,可能不是“谁更聪明”,而是什么东西变得便宜

过去,好的生产能力很贵。

代码很贵。

法律研究很贵。

合同起草很贵。

分析也很贵。

人工智能正在快速让这些生产活动变便宜。

一旦生产变便宜,职业价值就会向其他地方移动。

在工程领域,价值越来越可能向系统架构、产品判断、系统设计和任务编排移动。

在法律领域,也可能发生类似变化。

当研究、起草、比较、总结都越来越便宜之后,真正稀缺的东西可能是:

判断、主体性、信任和责任承担。

所以,我越来越不愿意用“人工智能会不会取代律师”来理解这个问题。

更准确的问题可能是:

当答案越来越便宜以后,什么东西还值得由人来做?

而我的初步答案是:

人工智能可以越来越高效地生产答案。

但人仍然需要决定:

哪个答案值得相信;

哪个风险值得承担;

哪个目标值得追求;

以及最终,我们希望这个答案把组织带向哪里。

这也许才是人工智能时代专业工作的核心变化:

人工智能让生产变得便宜,而人的价值将更多地转向判断与主体性。

↗顺藤摸瓜 · 下一层追问 · 思想序列 02 (2/10)AI 时代的可验证性定律与“判断力阶梯”

既然法律天然缺乏代码那样的客观编译器,我们在实务中究竟该如何搭建一套“四层法律 AI 验证台架”?

推荐紧接精读 #1

如何把法律工作装进反馈闭环:为法律人工智能构建“验证台架”

顺藤摸瓜读下一篇 →

认知地图延伸 · FURTHER READING

同主题深度文章推荐

查看全部文章 →

One essay a week on law, AI, and judgment.

Bilingual essays, audio podcasts, and new book chapters straight to your inbox.

思想沙龙与读者批注 · READER SALON

讨论与交锋

Di Yao
姚迪作者寄语我会亲自阅读并回复每一条深度批注。无论是反驳、补充,还是对某句话的直觉共鸣,都欢迎写下。
可直接输入想法,或点选下方「本文思辨引子」切入讨论
正在加载沙龙批注...