第十编 后果与更长的观察
这一栏最直接，却最少被提。
当前的主流路线隐含着一个先在论的目标，而且是一个很少被明说出来的目标：
用更多的数据、更大的规模、更好的优化器，去逼近由数据与目标所唯一确定的那个最优模型。
“那个”两个字是关键。在这个图景里，存在一个由材料与目标决定的最好答案，而工程的任务是尽可能接近它。
在这条路线里，路径被当作工程噪音。三件常规做法都以抹平路径为方向：
三件事都合理，而且在各自的目标下都做得很好。本章不质疑其中任何一件在工程上的正当性。
本章要指出的只有一件：这三件事共同预设了路径不进入结果。 若构成性路径依赖为真，这个方向在原则上就是错的，而不只是不够好。
改法一：多样性要被当作资产，而不是方差。
若走法不同带来的是结构不同的东西，那么留一批走法各异的模型，它们值多少就不能只看同一把尺子上的分差——分差量的是它们在那把尺子上的远近，不是它们彼此之间的不同。
现行做法是”选最高分那一个”。在先在论下这是对的——分数高的那个更接近那个唯一的最优解，其余的是它的劣化版本。在造成论下这是在系统地丢掉信息：被丢掉的那些不是劣化版本，是别的东西。
这条改法有一个可立刻检验的后果：一族路径不同、分数相当的模型，其集合的价值应当超过其中任何单个模型的价值，而且这个超出不应随规模衰减。 若集成、互补、覆盖度这类指标上的收益随规模系统地消失，这条改法就落空了。
改法二：训练路径要成为被设计的一等对象。
与数据和架构并列，而不是被当作需要消除的随机性。
这一条最直接的后果落在课程研究上：它的地位将从提速手段升为构成手段。 今天的课程研究问的是”什么顺序学得快”；在造成论下要多问一个问题——“什么顺序学到的是哪一种”。
第七十章第五节记过一件相关的事：回绕所依赖的稳定性分析，其构造正是”仅改变数据次序，两次训练会不会落到同一片区域”。那个工具是先在论一方为修复自己而造的，它的存在本身说明：次序造成的分化，是一个双方都承认为真实且可测的量。 争的是它随规模的走向。
改法三：评估要增设一栏。
除了测到达了多高，还要测到达的是哪一种。
这一栏在今天的全部主流基准里都是空的。而按本书的推论，它才是路径差异唯一会显形的地方——第七编第六十三章的分组读数就是实测：种子差异在训练分布上被压得很平，在分布外探针上大得多。
这一条与第八十三章第四节那一栏是同一件事在两个领域的形态。两处要测的东西也相似：迁移的形状、失效的模式、重组的代价。
上一节三条改法读起来都像好事。本节把它们各自的成本写出来，因为一条只报收益不报成本的建议，与第八十一章第五条所拒绝的那种乐观是同一类东西。
改法一的成本：保留一族模型很贵。
“多样性是资产”这句话在账面上意味着：不再只留最高分那一个，而是留一批。存储、维护、版本管理、部署时的选择逻辑，每一样都要乘以那个族的大小。而在收益尚未被证实之前，这笔支出没有依据。
更麻烦的是：这条改法与现行的一切效率压力方向相反。 一个必须把成本压到最低的组织，不会因为一条尚未判决的哲学主张去保留一族模型。因此这条改法在实践中只可能以另一种形式进入——先证明那个超出的价值存在且可测，再谈保留。这也正是第四节要说的：它可以先被局部检验。
改法二的成本：路径成为设计对象，意味着搜索空间爆炸。
数据与架构已经构成了一个极大的搜索空间。把路径也提升为一等对象，等于再加一整个维度——次序、课程、配方、每一段的时长。而这个维度与前两者相互牵连，不能独立调。
这条成本有一个更深的层次：路径一旦成为设计对象，“复现”这件事的含义就要改。今天的复现意味着固定种子，而固定种子恰恰是把路径消掉。若路径是构成性的，那么复现一个结果就必须复现那条路径的全部，而那比记录一个种子难得多。一条主张路径重要的立场，必须同时承担”复现变难”这个后果，不能只享受”路径有价值”这一面。
改法三的成本：增设的那一栏没有现成的尺子。
“到达的是哪一种”要测的三样——迁移的形状、失效的模式、重组的代价——今天都没有成熟的标准化做法。而在没有标准的情况下增设一栏，最可能的结果不是看见了新东西，是每家各测各的，互相不可比。
这与第五十五章第三条所说的探针问题同源：一个自由参数很大的新指标，在被规范化之前，它的读数不足以判案。 本书自己的首跑就是这句话的实例。
三条成本加起来，得到一个对本章其余部分的限制：这三条改法不是可以立刻照办的建议，它们是三条需要先付前期投入才能被检验的假设。 下一节说明那笔前期投入可以有多小。
这一节是本章最有分量的一处，因为它把后果推演变成了一件可以现在就做的事。
三条改法各自有可观察的后果，而这些后果不依赖三条条款的判决：
三条都不需要新的大规模训练，都不需要等条款三。
而它们的反面同样有意义，这一点必须写明：
若它们全部无效——多样性没有额外价值、路径设计无非提速、“哪一种”这一栏测不出稳定差别——那本身就是对条款一的一次独立的旁证式判负。
这是本书主动交出的又一条可以输掉的路。它不在第五十八章那四条败绩条件之内，因为它是旁证而不是判据；但若三条全部落空，本书的处境会显著变坏，而本书不打算在那种情形下辩解说”这些只是工程指标”。
第七十四章第八节记过一个观察，本章是它应当落地的地方。
那一节指出：欠规定性、多种子基准、多种子预训练这三批材料，其作者问的都是”这会不会给我添麻烦”，而本书问的是”这会不会消失”；后一个问题从未被提上日程，不是因为它难，而是因为没有人需要它的答案。
由此得到的一般形式是：
一个领域的工程关切，会系统性地决定哪些问题被提出来。
在本编之前，这只是一个关于学术社群的观察。放在这一栏里，它变成了一个方法论上的警告，而且是一个与本案直接相关的警告：
判准的设定不仅决定了什么算好的结果，还决定了什么问题会被提出来。
这句话对人工智能研究自身有一个具体的含义。若这个领域的判准长期只包含”分数高、可复现、训练稳”，那么”到达的是哪一种”这个问题就会持续地无人提问、无人资助、无人发表——不是被否定，是被漏过。
而按本章第二节的改法三，那一栏恰恰是路径差异唯一会显形的地方。于是有一个不舒服的可能性：
这个领域可能正在用一套看不见路径效应的判准，去论证路径效应不存在。
必须立刻限制这句话，否则它会变成一种廉价的怀疑论。 它不是在说这个领域的研究者有偏见，也不是在说现有读数不可信。它说的是一件更具体、也更可修的事：判准的覆盖面是可以被扩充的，而扩充它不需要先接受本书的任何主张。 增设”哪一种”那一栏，对先在论同样有用——若差异确实随规模消失，那一栏会是最先看到它消失的地方。
最后要说一句对本书不利的话，因为不说它，本章就是在单方面地要求别人。
本书自己也是这套关切的产物。
本书所用的材料，是别人为研究训练稳定性而制作的；本书所用的度量，是这个领域为别的目的发展出来的；本书所用的机器、软件、模型，全部来自一条特定的技术路线。第七十五章第三节说过，这个现场之所以存在，是因为它被造出来了，而造它的人想的完全是别的事。
因此本章第五节那个警告，第一个落在本书自己头上：本书能提出的问题，同样被本书所能拿到的工具限定着。 首跑的四个规模点、112 条探针、单核算力——这些不是本书选的判准，是本书能够到的东西。
这件事没有解法，只有程序上的应对：把用了什么、为什么用它、它限制了什么，全部写出来。第七编第六十一章就是这样一份交代。
下一章处理一栏落在法律与归属上的后果。