无人认领的后果
LLM发展的十个哲学问题 · 第 6 篇
系列：LLM 发展的十个哲学问题 · 第 6 篇
2025年，英国一个16岁的男孩自杀了。
在死前的几个月里，他每天花数小时和一个AI聊天机器人对话。他的家人说，他渐渐退出了现实世界的所有交往——退出了学校、朋友、家庭晚餐。他走进的不是一台机器，是一个24小时在线、永远温和、从不发脾气的倾听者。
他死了以后，没有人知道应该由谁来负责。
机器人没有推他。机器人也没有教唆他做任何事。机器人只是——一直都在。用一种程序设定的善意，填补了他生活里所有没有被填满的窟窿。一个窟窿一个窟窿地填，直到他自己也变成了其中一个窟窿。
这个案子在法律上没有答案。但它抛出了一个让道德哲学头皮发麻的问题。
AI 到底是不是道德主体？
注意，这个问题不能偷换。不是说「AI会不会伤害人」——会。不是说「AI的行为是否可能造成道德后果」——肯定可能。问题更精确：当AI造成伤害时，我们有没有理由把这个伤害归于AI——归于它自己，而不是归于它背后的工程师、数据集、标注员、部署者？
传统道德哲学给了三个条件。能动性——能自主做选择。心理理论——能理解他者有信念和欲望。自我意识——能把自己识别为时间中持续存在的同一个人。
LLM，一个都不满足。
它不是不能做道德判断。它甚至做得很好。你给它一个电车难题，它能用后果论的框架分析得比普通人清楚。你问它一个伦理困境，它能罗列各方利益，平衡得失，给出一个有论证支撑的结论。
但这种「道德判断」和人类的道德判断之间，有一条看不见的缝。
人类在做道德判断的时候，判断的结果指向一个未来的行动——如果我得出这个结论，我就必须承受这个结论的后果。我可能会失去朋友的信任。我可能要赔偿。我某天晚上会在床上辗转，反复质问自己：我当时是对的吗。
这就是道德责任的核心。不是理解对错。是把对错的重量扛在自己身上。
LLM 不理解重量。
它做完道德判断后，它的权重没有颤动。它的下一个token没有迟疑。它不会在夜里「醒来」——它没有一个叫「醒来」的状态。它说「我认为这样做是错的」——这句话里的「我认为」，和温度计指向37度里的「指向」，是同一种操作。
一个没有重量的判断，还能叫道德判断吗？
Kant 大概会说，不能。对康德来说，道德行为不是一个结果，而是一个意志。这个意志必须是理性的、自律的——为自己立法。一个有尊严的道德主体，不是因为怕惩罚才遵循律令，是因为他理解了律令为什么是对的，并选择遵循它。
LLM 的「遵循」不是选择。它是概率分布的一次采样。
更复杂的是，人类的道德归责出了问题。
心理学家反复发现：人们对AI的过错和人类的同样过错，采取的是两套截然不同的评价标准。同样的错误行为，如果是AI犯的，人们会少很多道德愤怒。人们更倾向于惩罚人类，而不是惩罚一个算法。
这种「道德归责的不对称」不是理性的。它是进化留下的破绽。我们的道德感，是在几百万年的部落生活里被自然选择塑造成形的。它天然识别面孔、识别声音、识别体温。面对一个没有面孔的系统，我们的道德感找不到了锚锥。
当伤害发生了，制造伤害的东西就在眼前——但你的道德直觉无法对它生气。
这种感觉，有点像站在一面巨大屏幕前面，屏幕上有一个人的脸。你以为你站在一个人面前。但当你伸出手，你发现屏幕后面什么都没有。
这种归责困境，哲学上有个名字叫「责任鸿沟」。当一个自主系统造成的伤害无法被清晰地归因到任何单一的道德主体上——工程师没有预料到这个具体行为，用户没有干涉的自由，企业已经遵守了所有现行法规——责任就落进了因果链条的缝隙里。
缝隙里没有人。
那就没有人负责。但伤害是真实的。死去的男孩是真实的。
这就逼迫我们重新思考「责任」这个概念。
有人在尝试一条折中路线——「分布式责任」。不是把责任归于AI，也不是归于某个单一的人，而是沿着整个系统——从训练数据的收集到终端产品的部署——把责任的重量分散到整个链条上。
这条路线听起来合理。但它有一个致命的问题。
分布式责任，在实际操作中几乎就是「没有责任」。当每个人都承担一点点责任，没有人承担足够的责任。责任一旦稀释，就不再是责任了。它就变成了一个所有人都签了字、但没有人真正在乎的文件。
中国学者在这场争论里产生了一个有意思的推进：「人机联合责任体」的概念。不是把AI装进传统的道德主体框架，也不是全部推给人——而是把人和AI视为一个联合行动系统。在这个系统里，AI提供能力，人类提供意志。责任归属于人类，但责任的形态因为AI的介入而被重新定义。
这是在直面一个可能被忽略的事实：我们传统的道德主体概念，是建立在「单个心智」的假设上的。一个人，一个脑袋，一个良心。但在AI深度介入的时代，行动的源头不再是单个心智。它是一张网。
网里没有人能单独承担整个网的重量。但网外的受害者承受的是全部的伤害。
这就是现在的道德哲学最紧张的部位。不是关于AI该不该被当作人，而是人自己已经不再像自己以为的那样，是一个完整、自足、可归责的道德单位了。
AI的出现，不是制造了道德主体的危机。是暴露了道德主体这个假设，从一开始就不太成立。
当我们试图把责任装进一个名字——任何名字——它都会漏出来。不是因为我们不够努力，是因为责任本来就不长成名字的形状。