第九编 反击与边界
条款一的全部重量压在结果距离 d 上。而表征相似度的度量并不中立：不同度量对不同类型的变换敏感程度不同，同一批模型在不同度量下可以得到不同的相似度排序。于是有一个致命的可能——那个不可消解度的正负，是 d 的自由参数，不是世界的性质。
度量取得足够细，任何两个不同的实现都必然不同，它自动为正；取得足够粗，一切差异都被抹平，它自动为零。既然如此，条款一测的就不是路径是否进入规定，而是实验者选了多细的尺子。
这是方法论上最危险的一记，比第七十五章那一记更难缠。
难缠在哪里，要说准：第七十五章那一记可以被逼成可测命题——把它请到地址上，它就落进条款二。这一记不能。它攻击的正是”可测”本身。 若它成立，第六编不是被推翻，是从一开始就是循环论证：本书先选了一把能看见差异的尺子，然后报告说看见了差异。
本章用三步回答，然后用两节写这三步没能挡住的部分——而那两节里有一节是首跑给出的实测。
第五十九章把噪声基线列为冻结项第二条，理由当时只写了一句”它是归一化的分母”。现在把它的分量说足：它不是一个技术细节，它是条款一之所以能成立的结构。
噪声基线的定义应当是：同一条路径、同一批数据、同一个种子，仅因硬件数值非确定性而重跑所产生的距离分布。
这条基线与路径间的距离用的是同一把尺子。
于是条款一真正要判的，不是”路径间距离是否大于零”，而是
路径间距离 ÷ 同路径重跑距离
这个比值随规模的行为。
尺子整体变细或变粗，分子分母同时变，比值不动。
度量的尺度自由度在这里被消掉了。这一步不是补丁，它是设计。而且它有一个额外的后果，本书据此提出一条对文献的要求：
任何不给出噪声基线的路径依赖读数，本书都不认为构成证据。
这一条同时约束造成论那一侧的材料。第七十四章那批欠规定性与多种子的读数，绝大多数没有做这种归一化，因此它们在本书里只能作为理由，不能作为读数——这一点第七十四章第八节已经写过，本章给出它的方法论根源。
尺度自由度被比值消掉了，但形状自由度没有。
不同的度量对不同的变换敏感性不同，这不是尺度问题——把一把尺子整体放大缩小，改变不了它在哪些方向上敏感、在哪些方向上迟钝。
对此本书的处置是设两条通道：
条款一要求两条通道给出一致结论才算通过。若一条判正而另一条判负，结论写”未能分辨”。
这条纪律在第五十五章被写成第四条硬规定，在第六十四章被论证为一个结论而非弃权。它在本章的位置是：它是对形状自由度的唯一有效约束。 两把在不同方向上敏感的尺子同时指向同一个方向，比一把尺子指得再准都更可信。
比值消掉了尺度，双通道约束了形状，仍有一个自由参数没有被消掉：
分布外探针集合的选择。
探针选得偏，行为距离就偏。而行为通道本来是用来独立约束表征通道的，它自己带一个自由参数，就削弱了这个约束。
本书不能从内部解决这一点。 没有一个原则能告诉人”正确的探针集”是什么——探针的选择本身就预设了要看哪一类行为。
能做的只有程序上的限制：探针在碰到任何读数之前就写定并公开，而且尽量从与本案无关的现成公开基准里取，不为这次实验另造一套。
还要认下一条：假如有人换一套同样事先写定的探针，跑出相反的读数，那么该下的结论是这条判据还不够稳，而不是哪一方赢了。
上面三步是本书在开跑之前写下的回答。现在把首跑的实际情况摆出来，而实际情况对本书不利。
第一步没有被兑现。 第二节说噪声基线应当是”同种子、同数据次序、仅数值非确定性的重训”。首跑用的不是这个，用的是同一轨迹内相邻检查点这个代理。理由是算力——重训跑不起。
代理的后果在第六十五章有完整记录：它测到的是训练在该规模该时刻的推进速率，跨规模不可比。在三个较小规模上它稳定在 0.011 到 0.013 之间，到最大规模跳到 0.031。归一化后的比值在最大规模处从 40.4 掉到 13.4，主要不是分子变了，是分母变了。
于是本章第二节那个漂亮的结构——“尺度自由度被比值消掉”——在首跑里没有生效。分母不是一把恒定的尺子，它自己在变。
更要紧的是第六十五章第三节那一层：“相邻”这个说法里的间隔本身也是自由参数。 首跑取的是一千步，而一千步是那组公开检查点的发布间隔，不是设计给的。取一百步基线更小，取一万步基线更大。
结论必须写得直白：这一记攻击的是”比值能消掉度量自由度”这个回答；而首跑表明，在实际执行中，比值引入了一个新的自由度——分母的定义——而且这个新自由度当初没有被识别为自由度。
第三步的承认也比原先写的更重。 第四节说探针”应尽量取自既有公开基准”。首跑的分布外探针全部由本实验构造，其中中文那一组连构造方式的先例都没有。而第六十三章第五节的分组读数显示，四组探针在最大规模上的比值分别是 3.66、2.39、1.75、1.37——结论对探针配比高度敏感，敏感到换一个配比就可能改变判决方向。
只有第二步经受住了。 两条通道确实独立，确实一个判正一个判负，确实按规则判了”未能分辨”。这一步是三步里唯一在首跑中真正起了作用的。
上一节说第二步经受住了。本节要收回一部分，因为这一记还有一个更狠的形态，而首跑正好落在它上面。
更狠的形态是这样的：两条通道给出相反的读数，本书把它读作”世界上有两件事，而它们不一致”。但还有一个同样融贯的解释——两把尺子在不同方向上敏感，所以它们量到了不同的东西，而世界上可能只有一件事。
表征通道用的是一个对内部结构敏感的度量；行为通道看的是输出分布在一批探针上的差异。一个对结构敏感、一个对输出敏感。两个模型若在结构上不同而在输出上接近，前者报告大距离、后者报告小距离，这完全可能只是两把尺子的分工，而不是两个通道的分歧。
若是这样，那么第六十四章整章论证的那个”未能分辨”，其地位就要重估：它不是”两个读数口给出了相反的答案”，而是”两把不同的尺子量了不同的东西，然后被拿来比较”。
本书对这一形态的回答只有一条，而且它不完整。
两条通道确实量的是不同的东西——这一点本书从不否认，第五十五章第四条硬规定正是建立在此之上：不得合成，因为合成会把两件不同的东西混成一个数。
但从”量的是不同的东西”推不出”它们之间的比较无意义”。条款一问的是极限行为，而极限行为是每条通道各自可以回答的：表征距离随规模趋于什么，行为距离随规模趋于什么。两条各自的答案不一致，说的就是”在结构这一侧路径差异不消失，在输出这一侧它在消失”。这仍然是一个关于世界的陈述，而不是关于尺子的陈述。
不完整在哪里：上面这个回答要成立，两条通道各自的极限行为必须是可靠测到的。而按第五节，首跑的归一化在两条通道上都受分母失控的影响，行为通道还额外受探针配比的影响（第六十三章第五节那张分组比值表，四组在最大规模上分别是 3.66、2.39、1.75、1.37）。在这两处未定之前，“两条通道的极限行为不一致”这句话本身就不牢。
于是本节的结论是一句本书不愿意但必须写的话：
首跑那个”未能分辨”，目前无法与”两把尺子量了不同的东西”区分开。
它仍然是执行前写死的规则所给出的结论，这一点没有变；它作为纪律的意义（第六十四章）也没有变。变的是它作为读数的分量——它比第七编所呈现的更弱。
这一节是本书对第七编的一处下修，写在这里而不是写在第七编，是因为它只有在这一记的逼问下才显形。
最后一点必须说明，否则本章会显得是一次单方面的自我攻击。
表征收敛那一线的读数，同样建立在表征相似度度量之上。
第六十八章第五节已经写过：任何一个对齐度都只看见它所用的那个核能看见的差异；“表征在趋同”这句话，严格说应当读作”在某个特定的相似性核下，表征的某一类结构在趋同”。
而那一线工作同样面临”相似度上升是否只是度量的产物”这一质问，并且它同样没有普遍采用噪声基线归一化——很少有人报告”同一路径内的正常波动有多大”，因而也很少有人能说清所观察到的对齐度上升相对于什么而言是显著的。
因此这不是一记单方面的攻击，而是对双方的共同约束。
本书的态度是接受这个约束，并主张：谁先把比值、基线与双通道一致性做齐，谁的读数才进入判决。
这句话对本书自己最不利——因为按第五节，本书自己至今只做齐了三样里的一样。写在这里，是因为本书没有资格用一条自己尚未达到的标准去要求别人，除非同时承认自己也没达到。
第六十六章那份下一跑清单的第一条是”换基线”，它的正当性全部在本章。