← 生产变便宜之后
第二部 · 三个落点

第六章 · 责任接口

把弥散的生产,压缩成一个可追责的点
连载中 · 全书完稿 · 12 件

2001 年 10 月 12 日,芝加哥,安达信会计师事务所的内聘法律顾问南希·坦普尔给同事发了一封电子邮件。此时她的雇主——安达信会计师事务所,安然公司的审计师——刚刚得知证券交易委员会要来问话了。邮件很短,建议对方「提醒项目组注意我们的文件留存政策」。

这句话字面上无懈可击,甚至是善意的合规提醒。但它启动了什么,后来看得很清楚。10 月 20 日,坦普尔在电话会议里指示项目组「务必遵循文件政策」。10 月 23 日,休斯顿、芝加哥、伦敦、波特兰的办公室里,碎纸机开始全速运转——按照后来联邦起诉书的记载,文件的清理与销毁从 10 月 10 日前后就已断断续续开始,一直延续到 11 月 9 日。中止的方式同样是一封邮件:「Per Dave——不要再碎了。我们的文件已被正式调取。」此时距离 SEC 传票送达,已经过去了足够的碎纸时间。

接下来的一年像一部倒放的成长史。2002 年 3 月,联邦大陪审团以妨碍司法起诉这家事务所;6 月 15 日,休斯顿的陪审团定罪;8 月 31 日,安达信交出在全美五十个州执业的注册会计师执照,退出上市公司审计——不是被吊销,是自己交出:定罪之后,执照已经保不住了。10 月 16 日量刑,五十万美元罚金,顶格。这家 1913 年由一位西北大学会计学教授创立的事务所,鼎盛时在八十四个国家有超过八万五千名员工,此刻美国雇员不足一千人。前面几章反复出现的那些词——执照、签名、执业资格——在这里显出了它们的分量:它们不光是仪式,是命。

这个案子还有一个尾声,比正片更冷。2005 年 5 月 31 日,美国最高法院一致推翻了对安达信的定罪——陪审团收到的指令有重大缺陷,「明知自身行为不当」这个要件没有被正确交代。法律上,这家公司最后是清白的。商业上,它三年前就死了。八万五千个岗位没有跟着判决书回来。

这个尾声值得多想一秒。一个设计良好的追责制度,居然可以在事后被证明搞错了对象,而且这个错误本身不可逆——这看起来是制度的丑闻,其实是制度的原理:追责的要害不在「事后正确」,在「事前可信」。市场在每一个当下都要知道「错了找谁」,这个问题不能等到判决之后再回答。所以制度把牙齿做得又快又狠,狠到偶尔咬错也认——因为牙齿的可信度,比牙齿的准确率更值钱。这个道理,下一章要正面立成定理;本章先做考古:这些牙齿是什么,长在哪里,凭什么咬得动人。


一、四组签名,三个世纪,一个结构

把四个行业的签字制度并排摊开,会发现它们共享同一个骨架。骨架看清楚之前,先看原件。

会计。美国的联邦规则对上市公司审计报告有一条技术性要求,技术到几乎不像话:「审计报告:(一)须注明日期;(二)须手工签署;(三)须注明签发城市和州。」手工签署——在 2020 年代,这条规则像是在守护一种书法。签的是谁的名?事务所的名。2002 年的萨班斯法案把这层关系说得更死:任何未在监管机构注册的会计师事务所出具或参与出具审计报告,本身即属违法——报告与一个可被吊销注册的主体,直接绑定。而注册的个体责任也不含糊:2017 年起,每份审计报告都要向监管机构申报「签字合伙人」的姓名和编号——报告签的是所的名,责任落的是人的档。中国的版本更直白,财政部 2001 年的文件规定:审计报告应当由两名具备资格的注册会计师签名盖章、并经事务所盖章方为有效——单位责任与个人责任,钉在同一张纸上。

医疗。美国联邦法规对管制药物处方的要求:「所有管制药物处方须注明开方日期,并于开方当日签名」;纸质处方「须由执业者手工签名」。签名是处方的生效要件——没有签名的处方在法律上不是「有缺陷的处方」,是「不是处方」。病历同理:联邦医保的医院参与条件规定,所有病历记录必须「由负责提供或评估该服务的人员以书面或电子形式签署认证」。中国《处方管理办法》要求医师先「签名留样或者专用签章备案」方可开方;《病历书写基本规范》规定手术记录由术者书写,「特殊情况下由第一助手书写时,应有手术者签名」——手术这件事,法律要求钉在具体医生名下。

航空。美国联邦航空规章第 91.3 条,第一款,一句话:「航空器机长对该航空器的运行负有直接责任,并是其最终权威。」欧盟的空管条例里有逐字等价的两句。注意「最终权威」四个字的份量——不是「重要参与者」,是最终:三百吨的飞机在空中,规则的最终解释权收拢在一个持有执照的自然人手里。

结构工程。加州法律:所有土木(含结构)工程图纸须由持照工程师编制、或在其「责任主管」下完成;「凡报批或放行施工的图纸与规格书,均须载有持照人的签名、印章或戳记及签盖日期」。「责任主管」的法定定义值得一提——「以主动性、技能与独立判断进行独立控制与指导」,并且特意注明「不指财务责任」:它要的是判断的责任,不是出钱的责任。中国的《建设工程质量管理条例》第十九条:「注册建筑师、注册结构工程师等注册执业人员应当在设计文件上签字,对设计文件负责。」楼塌了,追责追得到一个注册可吊销的人。

四组制度,三个世纪的时间跨度,大陆海洋两大法系,行业天差地别——结构完全同构。抽象出来是三条:

第一,产出可以来自任何人,如今也可以来自任何机器;生效要件是一个自然人的签名。代码、文书、诊断、图纸,起草者的身份越来越不重要;「谁签字」越来越重要。第二章说过稀缺迁移律——价值离开塌方的工序,搬到约束工序。签名就是约束工序的物理形态。

第二,签名的作用是把弥散的生产过程压缩成一个可追责的点。一部审计底稿、一台手术、一次飞行、一栋楼,背后是成千上万个动作、几十个参与者、可能还有几个 AI 的贡献。制度不追这个过程——过程太复杂,追不动;制度只认那个点。点之前的所有复杂度,由签名者的「责任主管」吸收。这是法律世界对复杂系统的封装方式,和软件世界的接口是同一个发明:把一大团内部状态,压缩成一个对外承诺。本书管这个叫责任接口。

责任接口:弥散的生产过程(人起草、AI 起草、AI 计算、AI 复核)压缩进自然人签名(生效要件),签名者挂着可吊销/可赔付/可判三件抵押,下游是投资者患者乘客住户;旁注:AI 的清单是空的
图 6-1 · 责任接口:把弥散的生产,压缩成一个可追责的点——签名者挂着三件抵押。

第三,也是本章要立住的硬命题:签名之所以可信,是因为签名者有可失去的东西。执照可吊销,执照背后是多年训练和整个职业生涯;注册资格可取消,资产可赔付,情节够重时自由可限制。安达信案例的分量在这里:它证明牙齿真的咬得下去——咬穿的是一家百年事务所的存在本身。追责的可操作性,说到底就是一张清单:有什么可以吊销,有什么可以赔,有什么可以判。清单上有东西,责任就成立;清单是空的,责任就是修辞。


二、AI 的资格缺陷:一张空的清单

现在把 AI 拿到这张清单前面对一下。

它有什么可以吊销?没有执照。它有什么可以赔?没有资产。它有什么可以判?没有自由,也没有可以破产的声誉——一次糟糕的输出不会让下一轮对话更谨慎,因为它没有需要守护的记录。四个没有加起来,就是一句话:它无可失去。安达信为一个签名死了八万五千个岗位;AI 每天产出亿万次「签名」级的判断,没有一次需要它付出任何东西。

有人会说:AI 会道歉。会,道歉的文案往往还很诚恳。但道歉和担责之间隔着一堵墙,墙的名字叫抵押物。道歉是表达,担责是支付——支付职业生涯、支付赔偿金、支付自由。Castel 法官罚 Schwartz 五千美元的时候,没有一个环节是在「教育 ChatGPT」; Moffatt 案里赔八百多加元的是加拿大航空,不是那台聊天机器人。序章立下的那句话——AI 说什么不算数,谁让 AI 说的谁负责——到这里有了机制版本:追责系统找不到可以下嘴的地方,就一定会绕过 AI,咬住它背后的人。

这不是情绪,是结构。责任接口必须有人类的形状,因为下游的所有制度——投资者读审计报告、病人拿处方、乘客登机、住户住楼——依赖的都是同一个东西:一个出了事可以找到、找到了会疼的主体。「会疼」不是修辞,是制度设计的核心参数。疼痛不存在的地方,承诺无法锚定。


三、反方:给 AI 上保险行不行

本章最强的反方意见,值得写成最强形态。

「责任接口要求签名者有可失去物——这个前提可以被工程绕开。保险公司完全可以给 AI 的产出承保:交保费,错了保险公司赔。这样『可赔付』就有了,不需要自然人签名。金融世界里风险转移是最成熟的行业,你们把一个保险问题讲成了形而上学。」

这个方案聪明,而且部分已经在发生(AI 责任保险是真实的产品线)。但把它拆到底,会发现它转移的是账单,不是责任。

第一,保险转移的只是清单上的一项——「可赔付」。清单还有两项:可吊销、可判。保险公司赔钱之后,如果事故涉及执业过错,吊照的程序照样指向一个持照的人;涉及刑事,刑罚从来不可投保。保险能接住的是财务后果,接不住追责的指向。

第二,也是更根本的:承保这个行为本身,需要一个最终的被保险主体。保单保的是「某某主体的责任风险」——保单上要写投保人是谁。给「AI」上保险,投保人只能是开发它的公司或部署它的机构。于是风险的价格最终落在人类主体的资产负债表上,精算师给「AI 出错」定保费,等价于承认:这笔账的债务人是一个人间的主体。保险不是消灭了责任接口,是把接口上的标价换了一种货币。

第三,保险自己的牙齿也长在人身上。保险公司要控制风险,就要审计被保险的流程、要求免责条款、拒保高危用法——这些动作全是人对人的。链条每加一层,最后一环仍然是:某个人,签了字。

这个论证的完整形式化(包括「验证自动化之后责任去哪里」),下一章做。本章先立住:责任接口的形状之所以只能是人的,不是因为浪漫,是因为整栋制度大厦的承重结构就画在「可追责的自然人」这根梁上——换梁的动作,历史上有人试过。试的结果,是下一节。


四、接口失灵的历史实验:2008 年的评级机构

如果说安达信展示的是牙齿咬下去的样子,2008 年金融危机的评级机构展示的是牙齿不在时会发生什么。

评级机构干的是本章语境里最标准的活:验证。给按揭证券打个 AAA,等于在说「我们查过了」。次贷繁荣的年代,这个验证工序被做了一次要命的重组:付费的是被验证者——证券的发行方付钱给评级机构买评级(发行人付费模式),而且购买评级的证券可以货比三家,挑给分高的那家。验证者与被验证者的利益,接到了同一根管子上。

金融危机调查委员会——国会成立的、职权相当于事故调查委员会的机构——在 2011 年的最终报告里写下了结论页上的那句话:「我们认定,信用评级机构的失败是金融毁灭之轮中不可或缺的齿轮。处于危机核心的按揭相关证券,若无它们的盖章批准便无法发行和销售。投资者依赖它们,且往往是盲目依赖。……没有评级机构,这场危机不可能发生。」同页的数字触目:2000 到 2007 年,仅穆迪一家就把将近四万五千只按揭相关证券评为 AAA;2006 年,每个工作日给三十只盖 AAA 章,其中 83% 最终被降级。

这个案例为什么属于本章?因为它是一次接口设计的对照实验。评级机构的「签字」——AAA 印章——形态上具备签名的一切外观,唯独缺了本章开头那张清单上最关键的性质:错了不疼。评级机构的收入来自发行方,评级错了,下一单生意不受影响;投资者信错了,损失在投资者。责任接口的两端,被发行人付费模式焊在了同一边。委员会在报告里点名了「来自付费购买评级的金融公司的压力」——压力在,制衡不在。

制度的回应也印证了本章的结构判断。危机之后的《多德-弗兰克法案》第 932 条做了什么?不是取消评级(市场仍然需要那个封装),也不是把责任推给模型,而是重新给人立接口:证监会内部设立信用评级办公室,对每家评级机构至少每年检查一次,法定职责写着「确保评级不受利益冲突的不当影响」;评级信息从「提供」升格为「报备」——从随手可撤的说法,变成留档可查的承诺。牙齿重新长回人的嘴里。

这个实验将在第七章被引用为「放弃追责方案」的历史对照组:一个验证系统,无论多专业、多数学、多自动化,只要责任接口是断的,它的退化只是时间问题——而它的崩塌,按委员会的说法,拖垮了半个世界。


五、接口的健康样本:GitLab 的深夜

安达信和评级机构是病理切片,还需要一张健康切片——责任的接口文化长什么样,最好有一次「事发了、没人藏、制度没散」的全记录。软件行业恰好有一次几乎理想标本的公开复盘。

2017 年 1 月 31 日深夜,GitLab——一家代码托管公司——的工程师在排查数据库主从复制的故障。他想清空从库的数据目录来重建复制,命令敲下去,一两秒后意识到:那是主库。中止,已经晚了,约三百 GB 数据被删。接下来的几个小时揭示了真正的系统问题:例行备份的云存储桶是空的——备份工具的版本不匹配,一直在静默报错,而报错邮件被邮件协议设置拒收了;五套备份恢复机制连环失效,唯一可用的恢复源,是六个多小时前有位工程师手动拍的一张快照。最终丢失了当晚六小时的数据:约五千个项目、五千条评论、七百个用户。代码仓库本身分开存储,无损。

这家公司接下来的动作,是这个行业被谈论至今的原因:恢复过程在视频网站直播,峰值五千人围观,一度冲到全站直播第二名;一份公开的在线文档实时记录每一步操作和判断;十天后,CEO 署名发布完整复盘,从故障机制到每一层备份为什么失效,全部公开。

把这个样本放在本章的框架里看,责任接口的健康形态有三个特征。第一,追责的对象是层,不是人。复盘通篇没有把工程师钉在耻辱柱上——一个人在深夜犯了一个两秒钟的错误,是复杂系统的常态;要修的是那五层连环失效的备份和被拒收的告警邮件。「谁的错」这个问题被换成了「哪层接口失效」——这是工程文化对责任概念的贡献:不稀释责任,而是把责任做成结构。第二,公开本身就是责任的支付。直播恢复不是公关天才的灵光,是接口文化:利益相关方(用户)有权看着恢复,公司用透明支付信任的损耗。第三,签名始终在场。复盘是 CEO 署名的。错了,名字在文件上。

把三张切片放在一起——安达信(牙齿咬死人)、评级机构(牙齿不在,系统烂掉)、GitLab(牙齿修成结构)——本章的结论可以落地了:责任不是一种惩罚文化,是一种接口设计。它有健康与病理的分别,但它没有「删除」这个选项。


六、三个落点收拢

到这里,第二部的三个落点齐了,可以并排放在一张桌上。

判断(第四章):看得出错在哪。来自犯错史,可以被压缩,不能被跳过;它是验证端的坐标系,AI 错法地图是它的对岸。

意图(第五章):划得出界在哪。「不做什么」没有默认值,不能外包给统计规律;它是题的质量,放大器时代它决定放大的方向。

责任(本章):错了谁付。产出可以由任何主体起草,生效要件是自然人的签名;追责的可操作性清单(可吊销、可赔、可判)是承诺的抵押物,而 AI 的那张清单是空的。

三者的关系不是并列,是递进着收窄的:判断和意图都可以被辅助、被放大、被外包一部分——签名人的坐标系再强,也乐于让 AI 起草初稿。但三件事在终点汇合成一条线:判断决定放行不放行,意图决定立项不立项,责任决定放行和立项的那个人是谁。前三件事 AI 都在场,最后一件只有人在场。

序章预告过三句话定理:执行可替、判断可辅、签字必人。前两句的证据已经在前五章铺完,第三句的证据在本章。但定理要立得住,必须扛住最强的一轮攻击:如果验证也自动化了呢?如果 AI 连判断也接走了呢?如果有人说「干脆不要追责了呢」?下一章,把这三发子弹全部打进定理正面,看它站不站得住。


出处与延伸

(证据等级:A 定量 / B 制度 / C 具名案例 / D 作者经验)

  1. 安达信案(B/C,一手意见书 + 档案报道)。Arthur Andersen LLP v. United States, 544 U.S. 696 (2005):时间线引句(2001-10-12 坦普尔邮件、10-20 电话会、11-09「No more shredding」邮件、指控区间)均照抄意见书原文;「Only persons conscious of wrongdoing…」为判决核心标准句。交执照(2002-08-31,五十州)、85,000 员工/84 国(LA Times 2002-08-31 + Britannica)、量刑($500,000 + 5 年缓刑,LA Times 2002-10-17)为高质量二手。注:波特兰办公室碎纸细节出自媒体对起诉书的转述,二手;起诉书 2002-03-07 签发、03-14 公开(学术转述,二手)。
  2. 签字制度四组(B,全部一手核到法规原文,详见 casefiles/Ch5-6案例库.md E 组):SEC Reg S-X 2-02(a)(2)「Shall be signed manually」;SOX §102(a)(未注册事务所出具审计报告违法);Form AP 签字合伙人披露(PCAOB 2015-12 通过、SEC 2016-05 批准、2017-01-31 生效);财会〔2001〕1035号(两名注册会计师签名盖章+事务所盖章);21 CFR 1306.05(处方当日签名/手工签名);42 CFR 482.24(c)(1)(病历由责任人签署认证);《处方管理办法》第八、十条;《病历书写基本规范》第八条、第二十二条(十五);14 CFR §91.3(a)(机长最终权威,逐字);欧盟 SERA.2015/3201(b)(ICAO 附件 2 的逐字镜像);Cal. BPC §6735/§6703(图纸签名印章;「责任主管」定义「不指财务责任」);《建设工程质量管理条例》第十九条。弃用:AS 3101 具体段落(官方站不可达,二手段落号互相矛盾);「手术记录须术者签名」作为联邦法规条文(出自 CMS 执法指引非法规)。
  3. FCIC 报告与 Dodd-Frank §932(B/A,一手官方 PDF 到页)。The Financial Crisis Inquiry Report(2011),结论页(印刷页 xxv):「the failures of credit rating agencies were essential cogs in the wheel of financial destruction…This crisis could not have happened without the rating agencies.」;发行人付费压力句;45,000 只 AAA、2006 年每工作日 30 只/83% 降级。Dodd-Frank §932(Pub. L. 111-203):OCR 设立条款「ensure that such ratings are not unduly influenced by conflicts of interest」、每家至少年检一次、furnished→filed。
  4. GitLab 删库复盘(C,一手官方博文全文)。Postmortem of database outage of January 31(2017-02-10):机制、备份连环失效、损失范围(约 300GB;5,000 项目/5,000 评论/约 700 用户;仓库与 wiki 无损)、直播(峰值约 5,000 观众、全站第二大直播)均照抄原文。注:官方复盘无「疲劳」字样,深夜为事实表述。
  5. 保险方案反方:本章为论证性拆解(机制层),现实产品线(AI 责任保险)作为现象提及;完整形式化见第七章。
《生产变便宜之后》· 代码便宜了,判断没有;生产便宜了,责任没有 内容采用 CC BY-NC-SA 4.0 · 免费开源,勿信任何售卖渠道