回到第七章的分工表。学生的眼睛确实观察到了一个完整的思考过程——但观察到的是哪一半?
是他没做的那一半:生成位。而生成位向外呈现出来的,是一条已经修直的路。
对话结束时留在屏幕上的东西,具有下述性质:
真实的判定过程不长这样。真实的判定过程包含大量被提出又被放弃的方向,而这些方向占据了绝大部分的认知工作量。屏幕上的那条路,是所有这些工作完成之后剩下的东西。
所以必须削一刀:
学生观察到的不是思考过程,是思考过程的产物。
这一刀削掉之后,“眼睛看到了过程”这句话所许诺的那点安慰就没有了。看一条修好的路,学不到修路。
上一节的结论可以再推进一步,得到本书最锋利的一条判断。
在一个岔口上,“判定”这件事的实质内容,不是选中了哪一条,而是排除了哪些条。
选中的那条是结果,排除掉的那些是过程。理由:如果只有一个候选,就不存在判定,只存在执行。判定的信息量完全来自候选集的规模与排除的依据。
而在对话中:
于是:
可观察的是路径,不可观察的是否决。而判定住在否决里。
这是本书题名的来源,也是对第九章的补全。学生不是”看到了过程但没有亲自做”——他看到的东西里,压根不包含过程中信息量最大的那一部分。
需要说明”不显示”是怎么造成的,否则容易被误解为一个可以靠提示语轻易修好的小毛病。
它有三个来源,强度递增。其一是输出规范:简洁、直接、不啰嗦,是对话系统被普遍要求的品质,而列出三个候选再排除两个,在任何长度约束下都是要被砍掉的部分。其二是评价压力:用户对输出的即时评价奖励清晰与简短,一个反复展示”我考虑过这个但排除了”的系统会被评为啰嗦、不自信、效率低。其三,也是最难处理的一层:系统内部的排除过程未必以可陈述的形式存在。事后要求它说明”你为什么没走另一条路”,得到的是一段重新生成的解释,不一定是当时实际发生的排除。
三层的后果不同。前两层可以靠约束缓解——这正是实验二 B 臂所做的事:强制列出候选并给出排除依据,即使那份依据是事后重构的。事后重构的依据对学习者仍然有用,因为学习者需要的是候选空间的存在感,而不是系统内部的真实机制。第三层则说明一件更根本的事:对话式学习中的”过程”,从来不是 AI 内部的过程,而是 AI 为用户重新生成的一段可读文本。学生观察到的从头到尾都是一份说明文,不是一次判定的现场。
由此还可以解释一个反直觉的观察:为什么 AI 讲解得越清楚,学习效果反而可能越差。讲得清楚,意味着路径被修得更直、分支被清理得更干净、犹豫的痕迹被删得更彻底。清晰度的提高,就是否决可见性的降低。这一条被写进第三十八章,作为本书最容易被打掉、也最值钱的一条预测。