算法替你看见了什么
谁在替你思考 · 第 8 篇
打开手机。往下刷三次。
一篇关于AI的文章。一个做饭的视频。一条朋友的动态。一个广告。
你点开哪一条,当然是你的选择。
但在你选之前,另一次选择已经发生了。
世界上此刻有无数文章、视频和消息。只有极少的几条出现在你面前。你没有从全部内容中选出这一条。你是在一张已经替你缩小过的菜单上点菜。
菜单是怎么写出来的。
推荐系统会记录一些行为。你看了什么,停留了多久,点赞、收藏或划走了什么。它再用这些痕迹预测,下一次把什么放到你面前,你更可能停下来。
听起来很像一面镜子。你用行为表达偏好,它再把偏好反射回来。
但它不是镜子。镜子不会在反射你之后,反过来改变你。
你偶然看完一条健身视频。系统认为你对健身感兴趣,多推了几条。你又看了两条。这些新行为进一步确认了最初的猜测。几天后,你的页面里充满了饮食、体脂和训练计划。
一开始可能只是偶然。反馈了几轮之后,它变成了一个稳定的你。
你过去的行为,正在编写你未来的菜单。未来的菜单,又会影响你接下来的行为。
这是一个闭环。
闭环里还有一个误会。
行为不完全等于偏好。
你看完一条让人焦虑的视频,不一定是因为你喜欢焦虑。可能是标题让你不安,你想确认事情有没有那么糟。你在一场争吵下停留很久,也不一定是认同任何一方。可能只是人对冲突很难移开视线。
系统看不见这些心理区别。它先看见一个事实:你停下来了。如果「停下来」是它要预测的东西,焦虑、好奇、赞同和愤怒,就可能被折叠成同一个数字。
然后这个数字反过来定义你。
「你曾经看了很久」,慢慢变成「你喜欢这个」。「你喜欢这个」,又变成「这就是你」。
一个人本来是会变的。今天的好奇不等于明天的身份。但推荐需要预测,预测需要假定过去和未来之间有某种稳定性。所以系统会把你暂时做过的事,当成你接下来还会做的事。
推荐因此不只可能把视野变窄。它还可能把一个正在变化的人,反复送回他过去的影子里。
闭环本身没有恶意。它甚至很有用。没有推荐,你会淹没在无穷的内容里。筛选不是问题。人的注意力有限,任何信息系统都必须筛选。
真正的问题是:它在为什么而筛选。
有的系统更在意你会不会点开。有的更在意你会不会停留。有的希望你完成一项任务,有的希望你找到真正有用的内容。当一个系统同时考虑多个目标时,它还要决定这些目标谁更重要。
优化目标,就是算法的偏好。
如果系统奖励点击,标题就越来越会抓人。如果奖励停留,能让人犹豫、惊讶、愤怒或不断往下看的内容,就可能获得更多机会。如果奖励长期满意度,系统又可能做出不同的选择。
这就是为什么「它越来越懂我」这句话,只说对了一半。
它可能越来越擅长预测你的下一个动作。但预测你会做什么,和理解什么对你好、你希望成为什么样的人,不是同一件事。前者可以从行为中学习。后者需要一个还没有发生的你参与回答。
当然,推荐系统也可以被设计得更喜欢探索。偶尔放进一些不符合旧偏好的内容,避免菜单越来越窄。但「多陌生才算多元」、「多少意外才算刚好」,仍然是系统要替你回答的问题。
它可以在菜单上放一道你没吃过的菜。但它不能只根据你过去的点单记录,知道你是否正准备换一种生活。
一个人最值得保留的部分,也许正是这种对过去的不忠诚。我以前喜欢,但我不想再喜欢了。我过去从不关心,但我决定从今天开始了解。
这种句子不能从「你一直是谁」里自然预测出来。它来自「你想要成为谁」。
算法不需要「想要」塑造你。只要它反复奖励某种行为,你看到的世界就会逐渐朝那个目标倾斜。
倾斜最难察觉的地方,是它没有留下空白。
一家图书馆少了一本书,书架上有个空位。一张报纸只刊了某些新闻,你至少知道有编辑在选。
推荐流没有空位。它永远是满的。
一个话题没有出现,屏幕上不会留下一块黑色,告诉你「这里本来还有别的东西」。另一条内容会立刻把它的位置填上。
所以你很难感到自己少看了什么。你只会感到,今天又看了很多。
更深的影响不是某条内容说服了你。是一个话题反复出现后,它开始显得很重要。另一个话题长期不出现,它就慢慢离开了你对「正在发生什么」的想象。
算法不只在排列内容。它也在排列重要性。
你可能会说,我可以主动搜索。
可以。这是一个重要的区别。推荐是世界替你选一个入口。搜索是你带着一个问题去找入口。从推荐切换到搜索,你似乎拿回了一部分方向盘。
但搜索有一个前提。
你得先知道自己要搜什么。
你不知道存在的东西,很难被写进搜索框。你还没有说清的困惑,也很难变成一组关键词。
这就是推荐流的边界,也是下一层问题的起点。
在主动寻找之前,你必须先把一种模糊的不安,变成一个可以被问出来的问题。
如果连这一步,也有工具替你完成呢。