对话六 分布语义与大语言模型：从甜的表示到甜的发生
一 一份品尝记录提出的六个问题
设想一次品尝记录工作。甲尝了编号为青的饮料，说：“入口时我没有觉得甜，后来有甜意，但我不喜欢这杯。”乙整理成“甲认为青很甜，并且喜欢它”。一个只收到这两段文字的语言模型被请来检查记录。这里没有真实实验结果；我们用这一构造案例，把不同解释放在同一事件记录、同一纠错任务下比较。另一名未品尝的人工审核者也只获得同样材料。
合格的校正应当保存三项区别：甲报告了先后变化，没有报告整个过程都很甜；感到甜不推出喜欢；整理者不能把自己的概括冒充甲的原话。模型若能稳定指出这些问题，就完成了有内容的语义工作。它没有尝过青，并不构成否定这项成绩的理由。人工审核者同样没有尝过，双方此时取得判断的渠道都是记录。
然而，“记录被准确理解”“青的实际味道被确定”“审核者亲历了青的甜”并不是同一项结论。我们还可以问：有关区别能否从内部表示中读出，能否用于新的纠错任务，样品身份有没有可靠接续，判断是否来自自身品尝，以及参与者怎样承担错误记录造成的后果。这六个问题彼此相关，却不能用一项成功把其他五项一并盖章。
本篇从分布表示进入这些区别，既承认语言规律的解释力量，也追踪规律所代表的发生。争点不是机器是否可以说出“甜”，而是它在何种活动中、根据什么条件、以什么归属说出这一词语。相同文字可以是报告、引述或整理结果；这些地位的差异不能仅凭字面相同消除。
二 从分布关系到语境表示
Lenci把分布语义说明为一种基于使用的研究取向：语言项目在语境中的统计分布，是刻画其语义行为的重要依据，语料共现能够用于构造表示。[Lenci 2018，摘要]这一路线的强处，是从大量实际用法中获得单条词典释义未能充分展示的关系。它并不必然把每个词当成与其他词毫无联系的原子。
对“甜”，一种为词型保存固定向量的模型，可以集中表达它与其他用法的分布联系。固定的是这种表示方案给词型配置的向量，不是宣称一切具体使用都没有差异。此类向量还可以被后续组合程序使用。因此，即便一项静态表示混合了味觉和评价线索，也不能由此断言所有使用该表示的系统都必然混淆两者。
BERT则提供另一种技术层次：通过掩码预测等预训练，生成结合左右语境的深层表示，再适配具体任务。[Devlin等 2019，第4171—4174页]它在这里作为语境表示的明确例子，不被当作所有生成式对话模型的统一结构。“甜”处于“后来有甜意”与“喜欢甜味”时，不能预设系统内部仍只有同一个不变词向量。
所以，SDE不能以“模型只有固定词义”为靶子取得胜利。对案例而言，更强的竞争解释是：系统利用语境、否定、时间次序和句间关系，识别乙增加了原记录不支持的内容。这足以说明为何一份文本校正可以成功。发生学若要增加解释，必须说明尚有哪些关于来源和成立条件的问题没有由这项表示及其使用解决。
三 会纠错意味着什么
首先要把表示的可区分性与系统实际使用区别开来。研究者若训练一个额外的分析器，从内部表示读出“喜欢”与“感到甜”的差异，只证明在该方法下相关信息可被提取。还要检查执行记录审核的系统是否真的依此纠错，是否在改换说法、交换句序后仍能保存区别。这不是要求一种表示包办全部功能，而是把能力归属到它实际支持的环节。
进一步的任务可以沿原案例展开：乙承认添写了“喜欢”，但坚持将“后来有甜意”改成“青一直很甜”。审核者需要定位第二项错误，而不是因一次道歉便接受整个新版本。接着甲说明自己原话中的“后来”指吞咽以后，系统应当更新时间说明，同时保留尚未说明的强度。这里检验的是有根据的局部修订，不是文字越详细越好。
若模型完成这些工作，我们应承认它能够处理公共报告中的时间、态度与证据关系。说这些能力来自统计学习，并没有使能力自动消失；来源名称不能代替表现分析。反过来，得到一段流畅的正确回答，也不能省去迁移和错误控制的检验。偶然答对与稳定掌握有关区别，证据强度不同。
SDE在此首先承担解释上的自我约束。若同一材料和评分标准已经被语境模型充分处理，三属性术语不能成为额外加分项。发生分析应说明，这种成功怎样借助甲的报告、乙的转录和审核过程取得公共效力；它不能把自己的解释范围扩大后，反过来宣布对手没有完成原来较窄的任务。
四 形式与意义的界线如何使用
Bender与Koller把讨论对象限定为只以字符串预测训练的系统，并以语言形式与交际意图的关系界定意义；他们据此论证，仅有形式不足以学得该关系，同时区分约定意义与交际意图。[Bender与Koller 2020，第5185—5187页]这一立场提醒我们检验训练信号与能力声称之间的距离，却不等于对所有架构、所有任务作出同一个结论。
本书也不把他们的意义定义直接当作三属性发生学。交际意图不是主体属性意义的别名，更不能用“推测甲想表达什么”替代品尝如何成立。甲可以诚实但描述含混，也可以准确说出感受却不希望别人据此选择饮料。理解其意图与判断记录能够证明什么，需要分别处理，不能让一项意图推断吞并样品和经验的全部规定。
案例中的文字确实来自现实品尝，但这种来历没有把经验原封不动地运进审核系统。它保存了某些差别，也省略了某些过程。可靠转述可以传递知识，转述链却可能抹掉时间、归属或保留条件。正因如此，既不能说记录只是空壳，也不能说掌握记录就等于占有原经验的全部发生。
这里出现一个必须正视的反例：没有品尝能力的人，可以比粗心的品尝者更准确地指出记录失真。他所缺少的亲历，不妨碍这项理解。SDE若用亲历作为所有甜味语义的通行证，就会误伤其自身所承认的公共分工。因此，缺口必须具体写成“该次品尝的自身承担没有成立”，不能扩大为“关于甜的一切意义都没有成立”。
五 对象接入不只有增加一种输入
Bisk等区分语料、网络文本、感知、具身行动与社会活动的研究范围，并把能够行动及承受行动反馈，与被动获取感知资料区别开来；社会层面还涉及语言对参与者产生的实际作用。[Bisk等 2020，第8721—8725页]这说明相关研究早已包含超出文本的方案，不能被概括成一整派拒绝对象和互动的理论。
将这一分层用于青，取得杯子的照片，可以帮助核查编号，却不能单凭照片确定甲所报告的甜。取得某项成分测量，又需要说明测的是哪杯、何时取样、数值支持何种结论。把照片、读数和报告堆在一个输入窗口里，并不自动形成可追溯的对象接入。接续关系若错了，更多资料可能使错误解释显得更完整。
现在再设想一个能够提出复核请求、调用取样设备并接收结果的系统。它参与了原先文本审核者无法执行的过程，应重新评估其能力范围。但取样闭环成立，仍需区分设备操作、报告核验与味觉亲历。能追踪青并据反馈修订判断，构成对象接入的实质进步；这项进步不能直接被命名为系统已经感到甜。
共同承担也需要具体化。模型提出“请甲复核吞咽后的描述”，人据此改变记录流程，这是真实语言互动的一个环节。它能否继续保存异议、在来源被纠正后撤回旧判断，与是否亲历味觉不同。整个工作组完成复核，不等于每个组件都具有工作组的全部能力；人工执行建议，也不抹去模型对流程的实际贡献。
六 为什么客体之甜也不能被单独保全
三属性共生使本书不能满足于“模型已有完整客体意义，只欠主体感受和互动动作”。在本案例中，“青在后来显出甜意”并非仅由一个样品名称与一个形容词组成。它通过甲的辨别、具体品尝次序与可以被追查的报告形成规定。若这些关系被换成乙的错误概括，所谈的客体之甜也被改写了。
这一判断不意味着饮料成分随记录任意变化。被改写的是此次具体判断把什么算作证据、把哪种变化归给哪杯，以及能够据此作出什么推论。成分测量可以保持原值，记录仍然可能失真。发生学需要解释的是某项对象规定如何取得，而不是以“万物纠缠”推出所有可测量读数必然共同变化。
模型依据可靠材料，可以形成有根据的、间接的对象判断；对于“记录中的青”，这种判断甚至可能充分满足审核要求。但它不能仅由这一成绩声称已经完整实现“被自己亲历的青之甜”。这里没有给同一个意义硬贴三个缺失标签，而是追踪两种不同发生如何相接：品尝形成可报告的差别，审核形成可承担的公共记录。
纠缠的具体效力表现为校正的回写。甲确认时间范围，乙修订记录，审核系统随后限制“这杯很甜”的概括范围；对象规定、报告者的证据地位与审核程序一起获得更准确的边界。三者不是三个孤立答案相加，而在同一校正中相互规定。一个环节的改变是否足以要求其他环节修改，仍由这次接续的实际关系确定。
因此，同一份得到确认的记录完全可以只有一个符合当前要求的修订版本。构成多元不要求审核输出必须多解。即使所有参与者一致认可“甲后来感到甜，但不喜欢这杯”，仍需辨别此句中的对象限定、报告资格与确认过程。所谓内发性，指这些规定共同参与这次意义的成立，而不是解释者能够随意增加不同答案。
七 让发生学与模型接受同一检验
可以据此设置一项共同检验：向各系统提供相同的原话、转录和后续澄清，预先规定哪些增写应撤回，哪些时间和归属应保存。先测记录校正，再测来源被纠正后的更新；需要对象接入时，向各比较方案提供相同的接入权限。不能给SDE分析者额外的样品记录，却把竞争模型限制在第一句话里。
发生学的增量主张应落到可观察的差别上，例如是否把一项澄清错当成全部确认，是否在更换样品身份后继续沿用旧报告，是否将人的亲历转写为系统自己的第一人称证言。若增加发生关系的明确追踪能减少这些错误，便取得对该追踪机制的局部证据；是否进一步支持SDE的特有解释，还须与维护相同来源和修订依赖的一般方案比较；若一般语境模型在同等条件下已经稳定处理，本书应承认没有展示额外预测收益。
更强的反例是，竞争模型没有显式设置三属性栏目，却在全部预定变式中正确维护这些依赖。此时不能因为内部名称不同便否认其解释。需要进一步问，它提供的是成功压缩还是已说明相应构成；若双方能建立充分对应，纠缠分析可能成为对既有机制的解释，而非另一个必不可少的计算装置。这一区分把本体讨论与架构竞争分开。
如果一个更广泛的系统后来建立了此前缺少的接入和纠错机制，也应撤回针对旧配置的缺口判断。何种证据足以支持主观体验，则不能由本项记录实验单独裁决。分布表示说明可学习的语言关系，任务检验说明这些关系怎样被使用，SDE追问具体意义由何种承担和接续成立。三者可以分工，也能在明确的成立主张上相互挑战。
参考资料
Lenci, Alessandro. 2018. “Distributional Models of Word Meaning.” Annual Review of Linguistics 4: 151–171. 本篇引述范围为出版者摘要。
https://www.annualreviews.org/content/journals/10.1146/annurev-linguistics-030514-125254
Devlin, Jacob, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. 2019. “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding.” NAACL-HLT 2019, 4171–4186.
https://aclanthology.org/N19-1423/
Bender, Emily M., and Alexander Koller. 2020. “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data.” ACL 2020, 5185–5198.
https://aclanthology.org/2020.acl-main.463/
Bisk, Yonatan, et al. 2020. “Experience Grounds Language.” EMNLP 2020, 8718–8735.