席贝贝起身,语速极快:“区分太形式主义。holmes的实质是‘避免更大恶’――不管谁决策、何时决策。算法设计就是事前决策,和船长的即时命令同样具有agency。至于黑箱,法院可以要求开源审计,这不是法律障碍,是证据问题。如果允许区分,所有新技术都能逃逸旧规则,法律就永远是马车时代的法律。”
教室里空气更紧了。
甚至能听见后排某人在键盘上疯狂敲击――可能是记笔记,也可能是在查席贝贝引的那个开源审计先例。教授笑了笑,那种猫看见老鼠靠近洞口的光。“托比,”他忽然说,“你刚才说‘救多数’。席贝贝,你对效用主义怎么看?”
“危险。”席贝贝摇头,“holmes拒绝纯数人头,要求程序公平。如果算法预设保司机――因为车厂怕诉讼――那等于让私人利益override公共安全。政策上不能通过。”
“所以你的桥是?”教授走回白板,写下“程序正义”和“公共利益”两个圈。
“新标准,”席贝贝说,“算法必须通过独立伦理委员会的预先审批,相当于司法审查的前置。类比不是holmes,是mathewsv.eldridge――程序性正当程序的权衡框架。”
后排有人倒抽一口气。跨领域类比。连我都没想到。
教授终于露出这天第一个明显的表情――眉毛抬了半寸。“好。”他轻轻说,“你把马车的桥拆了,用正当程序的钢架造了座新的。现在――托比,你是州立法顾问。你接受这座桥吗?为什么?”
托比擦了下额头:“不接受。成本太高。每家公司提交算法给伦理委员会?诉讼会拖垮创新。而且委员会成员谁选?正当程序的mathews框架要求‘政府利益’――这里是私人车企,不是政府。”
“所以你造什么桥?”
托比顿了两秒。“严格责任。无论算法怎么设计,只要出事,车企担绝对赔偿责任。让市场用保险费率倒逼安全设计。不用伦理委员会,不用先例类比,用侵权法的威慑逻辑。”
“那穷人的安全呢?保费转嫁,算法只会贵族化――”席贝贝插话道,