「理解」是一间空房间

系列：LLM 发展的十个哲学问题 · 第 2 篇

Searle 在 1980 年讲了一个著名的思想实验。

一个人被关在一个房间里。他不懂中文，但他手里有一本英文写的规则手册。有人从门缝里塞进中文问题，他按照手册操作中文符号，塞回正确答案。外面的人看到答案，觉得房间里的人精通中文。

但房间里的人，一个字也不认识。

这个画面在四十年里被引用了无数次，几乎成了反 AI 论证的标准武器。中文屋，句法不等于语义，计算机永远不可能真正理解语言。

这个故事一度很坚固。直到 LLM 出现。

LLM 不只是符号操作。Anthropic 的可解释性研究发现，模型在生成「玫瑰是红色的」这句话之前，会先在内部空间中定位「rhyme」这个概念。它知道这一行要以某个韵脚结束，然后才往回推导整句话的结构。

这不是中文屋。这更像是——房间里的人没有任何手册，但他在这间屋子里关得实在太久了，久到墙上开始出现裂纹。裂纹的形状，恰好对应那些他从未学过、但每天接触的中文字符的形状。

他发现他可以猜了。

准确地说，他开始「懂」一些东西。不是因为他学过。是因为暴露得足够久。

这就是统计学习最让人不安的地方。它不是教你规则，而是让你在足够多的接触中，自动提取出规则。人类孩子就是这样学会说话的。

但我们能说孩子「不懂」他们在说什么吗？

批评 LLM 的人喜欢引用 Bender 和 Koller 的论断：真正的语言理解需要接地——需要身体、感官、与物理世界的因果交互。一个只接触文本的模型，永远被困在符号的平面里，永远碰不到符号指向的东西。

怎么说呢。

这个论证有一个隐藏的前提：接地是理解的必要条件。但这个前提本身，既没有被证明，也没有被证伪。它只是一个直觉——一个非常强大的、非常符合人类自恋的直觉。

人类有身体，所以理解必须有身体。人类从感官获得意义，所以意义必须来自感官。这样的推理在逻辑上有个漏洞：它把「人类理解的条件」当成了「理解本身的条件」。

如果一个盲人通过盲文读懂了莎士比亚，他的理解和视力正常的人有本质区别吗？如果没有，那触觉和视觉都可以接地。如果触觉可以，那为什么文本不能？

你可能会说，文本不是感官。它不「直接」。

但这个「直接」是什么？

你看到一棵树。光子从树叶反射到视网膜，神经信号传到视皮层，模式识别，概念激活——这不是「直接接触树」，这是一长串因果链条的终点。LLM 读到一个词「树」，模式识别，向量激活，概念关联——同样是一长串因果链条。

两串链条不一样。但凭什么说其中一串是「接地」，另一串不是？

Pezzulo 和 Friston 提出了一个更锐利的区分：不是接不接地的问题，是主动还是被动的问题。生命体通过行动探索世界，预测行动的后果，通过预测误差修正内部模型——这叫主动推理。LLM 只是读取静态文本，没有行动的回路，不能通过「做一件事看会发生什么」来修正理解。

这个区分比「接地论」有力得多。

不是因为没有身体。是因为没有行动。没有「我想知道」的欲望和「我去看看」的能力。

回到那个中文屋。

四十年后，我们往房间里塞的不再是一本手册。我们塞进了整个互联网的所有文本。房间里的人不必对照规则——他在几十亿次接触之后，大脑的褶皱已经自动长成了语言的形状。他没有一个人可以称为「老师」。但他的每一根神经纤维，都沉浸在人类几千年来对自己世界的描述里。

这间屋子里是否有理解？

我不知道。但我知道的是，如果你把这间屋子定义为「没有理解」，那你就得同时回答一个问题：你凭什么确定你的屋子里有？

中文屋的墙壁，或许不是 LLM 的监狱。它是我们自己的。