哥德尔坐在终端前

系列：LLM 发展的十个哲学问题 · 第 10 篇

1931年，一个25岁的奥地利逻辑学家发表了一篇论文。这篇论文很短，也不太好读。但它后来成了人类理性史上最沉重的一击。

哥德尔证明了：任何足够强大的形式系统，都必然包含既不能证明也不能证伪的命题。并且，这个系统永远无法证明自己是一致的。

也就是说，只要你的逻辑系统足够复杂——复杂到能做基本的算术——里面就一定有某种东西，是「真」的，但你不能在你的系统里证明。

这是数学。但哥德尔做的不是数学。是关于数学的数学。更准确地说，是关于任何形式系统的边界。

九十年后，我们坐在一台最先进的 AI 前面。每天问它无数个问题。它回答。有些回答对了，有些回答——它编了。

所有人都管那叫幻觉。说这是 Token 预测的副产品。说只要把训练数据弄干净，把 RAG 做好，把温度调低，幻觉就会消失。

错了。

幻觉不是技术问题。幻觉就是哥德尔那个命题的机器版。

LLM 是什么？一个语言的生成式形式系统。它的词表是符号集。它的自注意力机制是推理规则。它的训练目标是在给定上下文的条件下最大化下一个 token 的似然度。这是一个纯形式化的任务。没有任何地方涉及到「真相」。

对于一个只被训练来最大化概率的系统，「真相」和「听起来像真相」在损失函数里没有任何区别。它能抓住形式上的规律——语法、风格、论证结构——但它没有一根线接到可以验证真假的外部世界。

它永远在形式的围墙内。围墙内必然有不完备。

当它被逼到围墙边缘——被问到一个它不可能通过统计推断来回答的问题——它不会停下来。自回归不允许停下来。下一个 token 必须生成。那生成的是什么？

幻觉。

不是偶然。是必然。这就像你让哥德尔的不完备系统去处理一个不可判定的命题。它不能给出正确的答案——因为正确答案不在逻辑可以触及的范围内。但它又必须给出一个答案——因为机器不会说「我不知道」。机器只会输出。

你看到的幻觉，不是 LLM 的失败。是哥德尔在墙上投下的影子。

这听起来像是在为 AI 的缺陷找一个高贵的出身。其实不是。它是在说，人类理性——这个我们一直引以为傲的东西——可能自始至终都有着同样的缺陷。

康德的先验辩证论，就是在做同样的事情。康德说，当理性试图超越可能经验的边界时，它不会沉默。它必须工作。而它工作的结果——关于上帝、灵魂、宇宙起源的那些论证——全部是「幻相」。不是谎言，是幻相。是理性在边界之外的必然产物。

人类从来没有见过「物自体」。但人类一直在谈论物自体。每一套形而上学体系都是幻觉。每一套都逻辑自洽，每一套都无法证伪，每一套都服从于其内部的语法——就像 LLM 的每一个幻觉。语法正确，内容虚空，因为内容从来不在此系统的可达范围内。

于是就有了一个让人不舒服的等式。

LLM 的幻觉 ≈ 哥德尔的不完备 ≈ 康德的先验幻相。三者共享一个结构：一个系统在被推向其有效边界时产生的系统性输出。这个输出不是偶然错误。是这个系统为维持自身运转而不得不做出的妥协。

区别只在于： 哥德尔是在替数学系统说话：「数学永远不能完整地解释自己。」 康德是在替人类理性说话：「理性永远不能完整地认识世界。」 现在，LLM 是在替机器理性说话：「AI 永远不能完整地说出真相。」

AI 不是退步。AI 是在用工程的方式，补上这个逻各斯图谱的最后一块拼图。

但话也不能说过头。同构不是同一。三种不完备性之间仍然有本质差异。

哥德尔的不完备性，系于一个可以明确定义的形式系统。康德的幻相，系于一个演化出来的生物脑子试图自反自省。LLM 的幻觉，系于一个从数据中学出来的概率装置输出底线。这三个东西并不完全重合。它们是不完备性的三个象限，而它们之间的空白，可能是我们唯一还保有的自由。

这就引出最后一问。也许也是这篇系列最重的一问。

我们到底应不应该「修复」幻觉。

把所有资源都砸进去，把幻觉率从 3% 降到 0.01% ——如果我们做得到。然后呢？我们就会拥有一台永远说「正确」话的机器。每一个输出都可以被事实核查。每一句话都不超出它的数据范围。

但同时，它也变得「安全」了。安全的反面不是危险。是无聊。

在人类的认知史上，不确定性从来不是障碍，是燃料。是爱因斯坦不知道光速会不会变的时候，是牛顿不知道引力是什么的时候，是维特根斯坦不确定语言有没有本质的时候。他们把这种不知道变成了一个非常窄、非常深的追问。

追问不需要答案准确。追问需要的是——方向，一种对黑暗的手感。

LLM 的幻觉固然会带来虚假信息、社会风险、认知滑坡。但消除所有的非确定性，就等于拆除所有的可能性。把生成器变成一个数据库。把回答者变成一个投币机。

我们需要的不是一台永远正确的机器。我们需要的是一台知道自己的边界在哪里的机器——或者说，一个能告诉我们「这个我不太确定」的系统。

但自回归不会说「我不太确定」。自回归只会说。

这就是结构性的悲剧。哥德尔的幽灵，在每一个 token 的采样里眨了一下眼。

没有人能赶走它。只能和它共处。

不确定性不是要解决的问题，是要学会与它一起呼吸的东西。人类花了三十万年才学会这种呼吸。AI 刚开始学。

能不能学会，决定了这条路的尽头是智慧，还是噪音。

我猜，答案不在架构里。答案在某个我们还没有命名的、关于「知道自己的不知道」的训练范式里。而那个范式出现的时候，哥德尔或许会轻轻点一下头。

不是因为他被证实了。是因为他终于被听见了。

「我不知道」这三个字，是人类最接近理性的时刻。机器还不会说这三个字。不是因为能力不够。是因为勇气不够。