2023 年 3 月 1 日，纽约南区联邦法院收到一份法律文件。文件出自一家叫 Levidow, Levidow & Oberman 的小律所，为一位在航班上被餐车撞伤膝盖的乘客 Roberto Mata 争取把案子留在州法院的权利。签字的律师叫 Peter LoDuca；检索和起草，出自同所的律师 Steven Schwartz。
为了让法官信服，文件里引了一串判例：Varghese 诉中国南方航空，Shaboon 诉埃及航空，Peterson 诉伊朗航空……名字、法院、年份、裁判要旨，一样不缺。
判例是 ChatGPT 给的。
几个星期后，对方律师致函法院：你们引的这些案子，我们一个都找不到。法官 P. Kevin Castel 下令：提交所引判例的原文。4 月，Schwartz 向法院提交了宣誓书，附件里是那些判例的「全文」——后来查明，同样是 ChatGPT 生成的文本。
6 月 8 日的听证会上，有了后来被美国法学院反复引用的一段对话。法官问 Schwartz：你去找过 Varghese 案的完整判决吗？
「我找不到。」
「可你还是把它引给了本院。」
6 月 22 日，处罚令下达。查明的事实是：文件里六个判例全部虚构。Castel 对 Schwartz、LoDuca 和律所共同处以 5,000 美元罚金，并命令他们给每一位被虚构判决「署名」的法官写信说明。处罚令里，法官顺手解剖了其中最像真的那一份假判决——「Varghese 判决在文体与说理上存在美国上诉法院判决中不常见的缺陷。它的法律分析是胡言乱语。」
这件事传遍世界的时候，多数人把它讲成一个笑话：老律师不懂新工具，AI 满嘴跑火车。两个说法都对，但都没碰到要害。
要害不在工具，在 Schwartz 跳过的那个动作上。核实一个判例是否存在，是法学一年级学生都会做的事：登录 Westlaw，输入案号，几秒钟出结果。Schwartz 缺的不是技能。验证的代价也没有变大，如果说变了，是变小了。真正变化的是另一半：生成的代价塌到了接近零。ChatGPT 在几分钟里给了他一串格式齐整、要旨贴题的判例，齐整到不像需要查证的样子。当生成不要钱，那一点点验证的代价，就成了整个流程里最显眼的成本——而最显眼的成本，就是最容易被砍掉的成本。
顺手把这件事的另一面也钉死：AI 在法律问题上的编造，不是轶事，是量出来的。斯坦福一个团队 2024 年在同行评审期刊上发过一项研究：对随机抽取的联邦法院案件问「直接、可核实」的问题，主流大模型 58% 到 88% 的回答含幻觉——58% 已经是最好的成绩，属于 GPT-4。专为法律造的商业工具也没好到哪里去：另一项预注册的实测里，LexisNexis 与 Thomson Reuters 的法律 AI 工具，幻觉率都超过 17%。而 Lexis+ AI 的广告语写着：「100% 无幻觉的联动法律引注」。
Schwartz 案之后，罚单没有停过：科罗拉多一位律师停牌 90 天；2025 年底，芝加哥一家律所吃到 59,500 美元的罚单；2026 年 7 月，伊利诺伊州一家上诉法院在罚单里写道——「在罚金产生显著威慑效果之前，法院别无选择，只能不断提高针对 AI 幻觉引注的罚金。」
罚单也不是这条线上唯一的形态。就在 Schwartz 案半年后，同一座城市、同一级别的另一家法院里，出现了一个镜像案件。特朗普的前律师 Michael Cohen 为了给「提前终止监管」找判例，让 Google 的 Bard 帮了忙，把找到的三个案例交给了自己的代理律师；律师没有查，写进了动议。事发之后，Cohen 在宣誓陈述里解释了自己为什么跳过验证——他一直以为 Bard 是一台「超级搜索引擎」，以为它给出的东西现实里存在；他「没有意识到那是一个像 ChatGPT 一样的生成式文本服务，可能给出看似真实、实则虚假的引注」。那位法官认定了过失，却没有处罚任何人：「引用不存在的判例令人尴尬且确属过失，甚至可能是重大过失。但本院无法认定此举出于恶意。」
被罚的，没被罚的，犯的是同一个错。Cohen 的宣誓陈述值得单独拎出来，因为它说出了千万个人说不出口的心理：工具太好用了，好用到不像需要提防。生成质量的上升，正在悄悄改写人的默认信任——从「先查再用」滑向「像真的就是真的」。信任像货币：发得越多，单张越不值钱；而这个时代的生成端，每天都在增发。法律行业不是特例，只是先走了一步——一家法律软件厂商 2024 年的调查显示，律所的 AI 采用率一年之内从 19% 涨到 79%（厂商口径，当背景看）。工具进门的速度，远快于验证习惯改造的速度。这不是哪个行业的问题，是所有行业的默认设置。
同一件事，也在另一张桌上发生。这张桌上没有卷宗，但账单更大。
2026 年 2 月，云安全公司 Wiz 的研究员发现，一个叫 Moltbook 的社交网络出了事。这个网站的创始人后来自己写道：网站从上到下由 AI 编程代理建成，他本人一行代码都没有写过。研究员发现，它的数据库对所有来访者公开可读写：一百五十万条 API 令牌、三万五千个邮箱、四千零六十条含明文密钥的私信，就这么敞着。
一行代码没写的人，造出了一个能运营的网站——这是故事的前一半，也是这个时代所有故事的前一半。后一半是：一行代码没写的人，也无法验证哪怕一行代码。
把两张桌子并排看，形状一模一样。
Schwartz 的桌上：生成一份像样的法律论证，从几个小时变成几分钟；核实六个判例，仍然是十来分钟。Moltbook 的桌上：生成一个网站，从几个月变成几天；看懂它的权限配置，仍然是几个月的学习。塌下去的那一半越来越快，原地不动的那一半就越来越碍事。生产的成本在哪里坍缩，验证就在哪里变成瓶颈——这是一道可以用运筹学语言写清楚的常识，本书第一章会把它写成几何。
现在回答一个此刻就该回答的问题：一本讲「生产变便宜」的书，为什么开头是律师和程序员，此后的大半篇幅又押在编程上？
不是因为他们最惨，是因为他们最靠前。
AI 进入一个行业的速度，不取决于这个行业多重要、多值钱，取决于一件事：它的产出好不好判定对错。产出能被机器判定的，AI 最先攻进去。代码就是这样的东西——编译器和测试用例是现成的判分器，一段代码对不对，跑一下就知道，不需要请人评理。产出要请人评理的——一份战略、一张诊断书、一个设计稿——AI 就慢得多。所以编程成了先行区：AI 产出最多、数据最全、每一笔账记得最清楚的地方。
顺着这个标准可以把各行各业排成一列。队首是代码：判分器现成，考卷自动批改。第二位是文书：判例存不存在、条款有没有说反，都能对着权威数据库查——查得动，只是要花人的时间。Schwartz 案的教训恰好卡在这个位置：判分器就在手边，Westlaw 几秒钟出结果，只是没有人按下去。机器能判定和机器替你判定，中间还隔着一个「人的动作」，这个动作是全书反复要算的账。再往后，是设计、诊断这类有专业共识却没有唯一解的产出，验证要请人评理。队尾是那些连「对错」本身都需要谈判的东西——一份战略，一个先例没有覆盖的决定。法律其实横跨整条队伍：查判例在第二位，写论证在中间，出庭意见在队尾——所以这个行业的前半截已经烧起来了，后半截还稳着。
矿工下井带金丝雀，不是跟金丝雀有仇，是因为它先毒发。它先感到浓度，矿工才知道浓度来了。这本书把编程当金丝雀看：不是要给程序员写一本书，是要借这只鸟，看清井里的空气正在怎么变。金丝雀毒发的地方，浓度已经很高；金丝雀还没叫的地方，不代表空气干净，只代表还没到它。
先行区里发生的事，可以压缩成三句话。全书就是这三句话的展开，这里先把话说全。
第一句：执行可以替代。生成代码、起草文书、检索判例——这些工序的成本正在坍缩，而且这一趟不会逆流。
第二句：判断可以被辅助。AI 能帮人验证、能自查、能互查，进展是真的；但「谁来造判分器、判分器错了算谁的」这笔账，越自动越算不清。第七章专门算这笔账。
第三句：签字必须是人。Schwartz 用 ChatGPT 检索，被处罚的是 Schwartz。Castel 在处罚令里有一句话，几乎是这条定理的司法版：「技术进步司空见惯，使用可靠的人工智能工具获得协助本身并无不当。但现行规则要求律师承担守门人职责，确保其提交文件的真实准确。」八个月后，加拿大航空在一件小得多的案子里学到同一课：它的官网聊天机器人向乘客承诺丧亲票价可以事后补办，乘客照办，加航拒认。仲裁庭判加航赔偿，并在裁决里驳回了「那是聊天机器人说的，不代表本公司」的抗辩，理由朴素得近乎严厉——聊天机器人只是网站的一部分，网站说什么，公司就说了什么。
AI 说什么，不算数；谁让 AI 说的，谁负责。这条线贯穿全书，到第六、七章长成制度的样子。
最后交代本书的规矩，和两个此刻就该立起来的反对意见。
规矩三条。一，本书论证一条定律——当一道工序的成本坍缩，价值迁移到紧邻的约束工序——并在三个地方落点：判断、意图、责任。二，证据分级：定量、制度、案例、作者经验四等，最后一等不许支撑任何主论点；每个论断写清出处，也写清它何时失效。三，不预测失业人数。那道题需要本书不掌握的证据，第八章正面讲为什么把它让出去，以及让出去之后剩下的命题为什么依然成立。
反对意见一：「你只看到律师和程序员。」对了一半。本书的定量证据确实集中在这两个先行区——这是拿编程当解剖台的代价，也是它的好处：账最全。但全书立有死规矩：每个一般论断至少带两个非编程行业的对照，医疗、航空、会计、出版会轮番登场。
反对意见二：「生成端也在学会自我验证，你说的瓶颈会自己消失。」这是全书必须正面处理的最强反驳，值得一整章（第七章）。这里只立一个桩。2026 年 7 月，安全研究团队 JFrog 复核某个 GitHub 账号提交的 55 条 SQLite「高危漏洞」通报，查明 54 条是 AI 编造——虚构的函数名、不存在的代码行——而且一部分已经流进正规漏洞数据库的管线。判分器自己交了白卷。谁来判判分器？这个在验证自动化之后不但不消失、反而更尖锐的问题，第七章见。
三句话的展开次序是：先讲机制（第一至三章：剪刀差、一条定律、定律的边界），再讲三个落点（第四至六章：判断、意图、责任），然后是定理与它的失效条件（第七、八章），最后是不同位置上的人怎么办（第九、十章）。终章回到金丝雀。
现在，去第一章，看那把剪刀。
出处与延伸
（证据等级：A 定量 / B 制度 / C 具名案例 / D 作者经验）
- Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023)（B/C，一手）。案号 1:22-cv-01461；Castel 法官 2023-06-22 处罚令：六个虚构判例、5,000 美元共同连带罚金、致信虚构判决署名法官。「Its legal analysis is gibberish」与「gatekeeping」两句照抄处罚令原文；听证对话出自处罚令转录的证言；时间线经法院 docket 核对。全文见 CourtListener 案卷 1:22-cv-01461。
- United States v. Cohen, 18-cr-602 (JMF), ECF No. 108 (S.D.N.Y. 2024-03-20)（B，一手法院意见书）。Furman 法官未处罚：「embarrassing and certainly negligent, perhaps even grossly negligent. But the Court cannot find that it was done in bad faith.」；Cohen 宣誓陈述「super-charged search engine」段照抄原文。注：本案代理律师 David M. Schwartz 与 Mata 案 Steven A. Schwartz 仅同姓，无关联。
- Dahl, Magesh, Suzgun & Ho, “Large Legal Fictions”, Journal of Legal Analysis 16(1), 2024（A，一手）。联邦三级法院各随机 5,000 案、每模型 20 万次以上查询；「LLMs hallucinate between 58% (ChatGPT 4) and 88% (Llama 2) of the time」。论文自注：报告值是真实幻觉率的下限。
- Magesh 等，“Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”, 斯坦福 RegLab, 2024-05（A−，一手，预注册实测）。LexisNexis 与 Thomson Reuters 法律 AI 工具幻觉率均超过 17%；「100% hallucination-free」为论文照录的 Lexis+ AI 广告语。注：工作论文口径，未见期刊定本。
- 后续罚单（C，二手多源，背景级）：科罗拉多 Crabill 案（People v. Crabill, 23PDJ067, 2023，实停 90 天）；Jordan v. Chicago Housing Authority（库克县巡回法院，2025-12，合计 59,500 美元）；Scott v. Illinois Human Rights Commission, 2026 IL App (1st) 251462（2026-07，15,000 美元，「提高罚金」句经 ABA Journal 转述）。另：佐治亚州 2026-01 判例 25,498 美元（单一来源，仅背景）。
- Moltbook 数据库泄露（C，一手研究报告）。Wiz Research, 2026-02-02：150 万条 API 令牌、35,000 个邮箱、4,060 条含明文密钥的私信公开可读写；创始人自述网站全程由 AI 代理搭建、本人未写代码。
- Moffatt v. Air Canada, 2024 BCCRT 149（B，一手）。不列颠哥伦比亚省民事解决法庭 2024-02-14，赔偿合计 812.02 加元；「聊天机器人只是网站的一部分」一段出自裁定第 27 段（“This is a remarkable submission…It makes no difference whether the information comes from a static page or a chatbot.”）。
- JFrog Security Research, 2026-07-30（C，一手研究博客）。同一 GitHub 账号 55 条 SQLite 通报中 54 条完全编造（“54 were completely fabricated”），部分已进入 GHSA/NVD 管线。
- Clio Legal Trends Report 2024（背景级，厂商问卷调查）：律所 AI 采用率一年从 19% 到 79%。仅作行业背景，不支撑任何主论点。