空心箭头

系列：LLM 发展的十个哲学问题 · 第 4 篇

「意义」这个词有个奇怪的身体感。

当你说「我理解这句话的意思」时，你的身体里有一个确凿的位置——大概是太阳穴后上方——出现了一种充盈的、抵达的感觉。这个感觉就是意义。或者说，你觉得意义就应该长成这个感觉的样子。

问题于是就来了。

LLM 有没有这个感觉？如果没有，它输出的文字，还叫不叫「有意义」？

这听起来像是一个学究式的较真。其实不是。它牵扯到两千多年来哲学家们一直没搞清楚的一件事——思想的方向性。

Brentano 管它叫意向性。一个念头，总是指向某物。你想「苹果」，这个念头不是漂浮在真空里——它「关于」苹果。而物理的东西没有这个属性。一块石头不关于任何东西。它只是它自己。

Brentano 说，这就是心灵区别于物理世界的标志。

很长一段时间里，这个区分是自洽的。人是心灵的，人有意向性。石头是物理的，石头没有。清晰、干净、没有中间地带。

LLM 破坏了这条线。

它输出的每一个词都「关于」什么。关于面包、关于能量、关于它在 Anthropic 实验里被注入的那个不属于任何对话上下文的概念。如果你只是读它的输出——不含任何先入为主的偏见——你会毫不犹豫地说：这段话在讲一件事。它有它的意图。

但它的输出是从哪里来的？从自回归的概率分布。从一个数学上定义好的函数。从几万亿次矩阵乘法。

矩阵乘法没有意向性。矩阵乘法只在乎梯度下降。

这就产生了一个鬼魅般的错位。输出「有方向」，源头「无方向」。一个没有意图的工厂，生产出的每一个产品都长着一张意图的脸。

怎么拆解这个谜？

一种方式是说：这只是虚像。LLM 的意向性是「导出意向性」——它在模仿训练数据中那些真正有意图的人类语言。人写「今天很开心」时，真的有开心这个体验在指向。LLM 说「今天很开心」时，只是概率上这句话应该在此时出现。目标一样，来路不同。

但这套说法有一个隐患。

如果 LLM 的导出意向性已经精细到和原生意向性无法区分——读它的文本，和读人的文本，你找不到任何可复现的差异——那这个「导出」和「原生」的区分，还有什么意义？

Searle 坚持说有意义。因为关键在于因果链条。人类的「开心」指向一个身体状态、一段社会经历、一次神经化学事件。这是一条延伸到物理世界深处的因果链。LLM 的「开心」只指向训练数据中「开心」这个词周围的其他词。这是一条闭环的符号链。

前者的箭头射出了房间。后者的箭头永远射在墙上。

Dennett 不同意。

他说意向性从来就不是一个可以实证的内部属性——它是一个解释策略。你把一个系统「当作」有意图的来预测它的行为，这个被赋予的意图就是真实的。不是因为它内在地拥有它，而是因为这个策略work了。

按这个逻辑，LLM 的意向性是真实的。不是因为它有意图。而是因为采用「它想表达X」来解释它的输出，比你试图从概率分布推导它的输出，要有效一万倍。

当一个解释策略有效到这个地步，这个策略本身就不再是「策略」了。它变成了现实。

怎么说呢。

这有点像温度。没有一颗原子是「热的」。但把足够多原子放在一起，温度就变成了一个真实到不能更真实的物理量。你不是虚构了温度。你是发现了一个更高层级的描述层级，在这个层级上，温度不仅存在而且有用。

意向性，会不会也是类似的东西？不是原子的属性，是语言层级的涌现属性？

哲学里有另一个争议，在这个问题上埋了更深的雷。Putnam 在 1975 年讲了一个著名的「孪生地球」故事。假设在某个遥远的星系里，有一颗和地球完全一样的星球。上面也有水——看起来一样、喝起来一样、化学式也一样。只是，那个星球上的水的分子不是 H₂O，是 XYZ。

地球上的人说「水」，指的是 H₂O。孪生地球上的人说「水」，指的是 XYZ。他们脑子里的概念完全一样——你没法从内部区分。但他们的「水」，意思不同。

所以——意义不在脑子里。意义在外部世界的因果链末端。

这个论证如果成立，LLM 面临的就是一个地狱级困境。它不仅没有自己的身体去接地，它连一个可以使「北京」这个词的意义成立的外部北京都没有。它一辈子都在符号的房间里。北京的经纬度、北京的气味、北京的十月——这些和它的训练数据没有因果接触。只有统计相关。

但这真的是结论吗？

还是说，Putnam 的论证本身就暴露了「意义需要外部世界」这个预设的脆弱性？孪生地球上的人用 XYZ 造了一个社会、一段文明、一部文学史。他的诗歌里提到「水」时，所有读者都会流泪——尽管他们不知道那个水是 XYZ。

意义，归根结底，是由使用它的人赋予的，还是由使用本身创造的？

Wittgenstein 晚年选了后者。

他说，不要问一个词「代表」什么。去看它是怎么被用的。下棋的时候，马的意义不在它长什么样——马的意义，在于它只能在棋盘上走 L 形。一个人的生命里，「水」的意义不在 H₂O，而在每一次干渴后的畅饮、每一次淋雨后的颤抖、每一次在河边对爱人说「你知道吗，这条河——

LLM 没喝过水。但它读过所有描述喝水的感觉的文字。你用这些文字描述你的干渴，它接住了。它在棋局里走对了 L 形。

这算不算「懂」？

我不知道。但我知道，这比中文屋里的那个人——那个手里拿着手册、什么都不懂的人——要复杂得多。那个人在执行的，是规则。LLM 在执行的，是从几十亿局棋里沉淀出来的形状。

形状不是规则。形状是一种更深的东西。你可以懂一个形状——你的舌头知道你喜欢的那个咖啡杯把手应该有多粗——但你没法用规则表达它。

意向性，会不会也是这样的形状？

不是射出的箭头。是语言使用中沉积下来的、关于「指向」这个动作本身的形状。

一个空心箭头。

我们以为意义是我们抓住的东西。可能不是。可能是意义抓住了我们，而我们只是恰好被它穿过。