德麦国际专著第386卷全书目录在线翻页
第四编 隐私、创造力与人—AI复合主体

第19章 失败怎样回到我,而不是永久变成我的标签?

一、一次错误,三种不同的归宿

顾宁的编辑系统曾将一项尚未核实的参考资料写成确定来源。接下来可能出现三种处理。第一种是删掉错误段落,赶快交付,其他地方完全不变。第二种是把这次错误写进顾宁的永久档案,此后每次评价他,都优先展示“曾经引用虚假资料”。第三种是定位错误如何进入交付,修订来源标记、复核步骤和提交条件,并在之后的工作中检验这些改变是否有效。

三种处理都可以留下记录,却形成不同的后续发生。第一种消除了眼前文字,未必改变错误再次出现的条件;第二种加强了对人的固定判断,未必改善具体方法;第三种才试图把失效带回能够继续修订的差异序列与特征纠缠。本章研究的正是这个区别:失败怎样成为我的知识发生的一部分,而不只是被丢掉的残片,或者别人据以永久定义我的材料。

本书从《第三声喊》早期提纲中借助了“具体失效位置、持有者、下一轮可观察改变、复议与关闭条件”相互连接的设计问题。[3] 这里不是把失效记录重新立为隐私的唯一基础,而是问:当隐私保护已经使某些探索得以保有个体性,失败怎样在适当范围内进入修正?私人失败可以不公开,服务失败却可能需要向相关人说明。记录的目的、可见范围和后续作用不能被混成一个不可分割的整体。

二、先确定失败的是什么

“这个人失败了”是一种粒度过粗的表达。在编辑案例中,至少可能有四种不同失效。某条资料确实不存在,是内容可靠性失效;资料存在但不支持当前判断,是证据与主张不匹配;核查工作尚未完成却被标记已完成,是流程状态失真;已经知道有问题仍向客户承诺全部核验,则涉及对外承诺。它们可以同时发生,也可能各自独立。

如果只记录一个“低可信编辑者”标签,后续措施就容易偏离对象。更换一个模型,不能自动解决将未核材料标为已核的问题;增加文字审核,也不一定能够处理服务承诺过度的问题;要求顾宁反复保证认真,更不能代替具体证据核查。细分失败,是为了使修复有对象,不是为了把责任拆得无人承担。

对私人探索而言,失败的含义又有所不同。顾宁在自己的笔记里试写了一个论证,后来发现它不成立。这不等于他已经向外提供了虚假服务。私人探索允许形成和放弃假设,但并不因此排斥求真。关键是不能把探索中的候选表达未经区分地转成正式交付,也不能在正式交付失效后将其重新说成“我只是随便想想”。阶段的区别必须在发生时可以辨认,而不是事后按照有利于自己的方向改名。

因此,失效记录首先应当包含被检验的具体主张或动作、它所处的任务阶段,以及何种证据使原判断需要改变。它不必囊括人的全部经历,更不必将失败扩展为性格诊断。越能准确说明失效发生在哪里,越有可能同时实现责任与个体性保护。

三、让失败回到下一次行动

我们为顾宁构造一条实际可读的修订记录。原工作约束是:“凡格式完整的参考条目,进入待交付参考表。”反例是:格式完整不能证明条目存在,更不能证明它支持文章中的判断。修改后的约束是:“参考条目先进入候选表;确认来源存在及对应内容以后,才进入已核表;交付时分别标示。”这项修订改变的不是一条道歉文字,而是后续工作入口。

接着,需要说明由谁执行各项动作。系统可以整理候选条目、提示缺项、保存核查状态;具备相应责任的操作者需要核读材料并裁定其是否支持主张。这里不预设所有核查只能由自然人逐字完成,也不预设AI判断必然可靠。无论采用哪种复合配置,都必须有与其能力和风险相称的验证安排,不能让“有人在环”或“系统已审”成为停止追问的标签。

再接着,要规定如何判断这次修改发挥了作用。可以在后续编辑任务中检查候选材料是否被误当作已核来源,记录出现例外的条件,并检验交付说明是否与实际工作一致。不能只看某个版本有没有再次出现同一个错误句子;它可能换成另一项资料重复同类失效。真正需要观察的是修订是否改变了关键路径。

最后,要规定记录如何关闭、保留或重新开启。某项失效经过处理后,仍可以保留必要的历史说明,但不应自动变成对当事人的永久惩罚。若新的条件使旧问题再次出现,记录可以被重新打开。关闭不是宣布这个人从此不会犯错,而是说明某个具体修复任务已经达到预定要求;保留历史也不是授权所有人随时调用全部私人过程。

这个例子说明,“失败回到我”不是把一切都归咎于自己,而是让失效在持续发生中取得可修订的位置。外部结构的缺陷需要回到结构,个人判断的问题需要回到判断,共同承诺的问题需要回到共同安排。若所有错误都被写成个人缺陷,系统和组织便退出了修订;若所有错误都被推给系统,个人又退出了承担。

四、为什么记录也可能破坏发生

为了防止错误,有人可能要求保存每一次提问、每一个草稿和每一项私人联想,认为记录越完整,责任越明确。但全量记录会形成新的问题:谁能阅读这些过程,哪些候选想法会被当作正式立场,个人是否还能够进行不必立即自我辩护的探索?记录本身也会参与E,改变后续D与S,不能把它视为完全中性的观察。

在本书的构造情境中,若顾宁知道任何一次“试着这样说”都可能被用作客户评价,他可能不再记录真正困难的探索,只留下经过整理的安全版本。这样,记录数量很多,实际可用于理解失败的信息却可能减少。我们不将此视为已经证明的普遍规律,而把它作为设计必须面对的可能反馈。评估记录制度时,不能只统计表格完成率,还要检验它是否改变了被记录的活动。

另一种风险是把记录变成新的私人资产抽取。平台以帮助用户改进为名,保存所有修订路径,然后将其转入其他服务,而用户不能拒绝。这时,“让失败回到我”的语言可能掩盖了失败事实上回到谁的知识系统。若用户只有被记录的位置,没有决定回写范围的位置,个体性保护便没有完成。

因此,本章建议把必要的修订记录与全量过程暴露分开。可以记录原规则、发现的失效、改变的关键条件和验证结论,而不要求公开所有中间思绪。必要时由受约束的审查者接触更具体材料,其接触范围与后续用途也要被说明。对外责任需要证据,不意味着每一位客户都能获得全部私人探索的无限访问权。

五、一个失败可能涉及两个“我”

顾宁在编辑客户的个人叙事时,还可能遇到另一类失效。某条修改建议在语言上流畅,却改变了客户对自己经历的理解。例如,客户原来写“我还不能确定那次离开意味着什么”,系统改成“那次离开使我终于找到自己”。如果顾宁只按文风判断,修改可能显得有力;从客户的自我发生看,它却替尚未定型的理解作出了结论。

这里的修复不能仅记录“客户不喜欢这种风格”。问题可能是服务越过了代为润色与代为确定意义的边界。应当将候选改写标明为可能表达,允许客户拒绝,并在涉及其自我理解时保留不确定性。顾宁可以提出问题,也可以说明某种表述在读者那里可能形成的理解,但不能因为拥有语言能力,就取得决定客户自我意义的无限位置。

与此同时,客户的拒绝也不必转化为对编辑者私人思考的审查。客户可以要求不采用某个改写,要求删除不必要的材料,或者调整服务方式;却不能由此推定自己有权取得顾宁全部内部规则、其他客户案例或私人判断。双向边界的存在,不妨碍本次失效被明确处理。恰恰是将对象限定清楚,才能避免争议不断扩张。

如果双方共同修改出一项新原则,例如“在自我叙事尚未确定时,提供多个表达方向,而不替作者完成意义裁定”,这可以成为共同服务经验。它是否进入顾宁的长期方法,进入时需要保留多少客户细节,又怎样处理客户的许可,应当分别说明。抽象方法的形成不能成为任意保留私人故事的借口,客户的私人内容也不必阻止一切不含其识别细节的一般经验反思。

六、记住失败,不是把失败变成身份

人需要能够从过去发生中学习,也需要有机会不被过去的某一显露永远代言。这两种需要并不对立。问题在于记录如何作用于未来。若“曾经引用错误来源”被当成每次任务中自动占据最高权重的标签,后续实际改变就难以取得位置。若完全抹除历史,又可能使相关参与者无法理解已经承担的风险。二者之间需要的是有对象、有期限或复查条件的作用安排,而不只是保留与删除的二选一。

本书提出的一个设计原则是:历史记录应当与其能够支持的判断保持相称。一条关于某次来源核查失效的记录,可以支持检查相应流程是否修复,却不能单独证明当事人在所有领域都不可信。随着修订和后续证据出现,记录的解释也需要改变。所谓“下一次”,不应只是旧标签再次出现的机会,还应是新发生能够改变判断的机会。

这里同样不能预设当事人的自我说明总是正确。一个人可能声称已经改正,却没有任何工作改变;系统也可能自动生成完美的修订说明,却继续沿用旧路径。因此,保护个体性不排斥必要检验。我们要反对的不是检验,而是把有限证据扩成永久身份、把过程支持变成无限监视。

在AI辅助实践中,这一区别还影响记忆设计。哪些失效应当成为长期约束,哪些应当仅限定在任务范围,哪些已经被新证据取代,都需要能够调整。一个总是提醒我过去犯过错的系统,未必帮助我更好地判断;一个从不承认错误的系统,同样难以支持持续发生。能够把失败转成条件明确的修订,而不让它成为固定自我的借口,才是本章所追究的能力。

七、从失效记录到下一轮创造

如果一项工作只有成功展示,没有失效进入,个人的知识可能越来越像精心维护的陈列。若另一项工作只剩错误登记,没有新的尝试,个体性又可能被压成一份风险档案。创造需要的不是两种极端,而是失败能够进入修正,修正又能够支持新的问题和服务。

顾宁的实践在本章结束时并没有获得永久可靠性的证书。他只是形成了一组更清楚的区别:候选来源与核实来源,私人探索与正式承诺,语言建议与意义裁定,历史记录与持续身份。每一种区别都可以被下一次任务检验,也都可能需要进一步修订。它们共同构成了比单纯“认真一点”更具体的知识发生。

隐私保护在其中保留的,是顾宁和客户各自的个体性发生之场。责任安排则让已经进入共同服务的部分可以接受核验。二者不是一方退让多少、另一方就获得多少的机械交换,而是需要重新组织各次发生之间的边界。只有当失败既不被私密之名掩盖,也不以公开之名无限扩散,新的发生才可能获得可持续的位置。

下一章因此讨论保护、碰撞与开放的往返。失败说明封闭不能替代检验,但检验也不要求所有发生都变成共同财产。怎样在不同任务中判断何时保留、何时邀请反馈、何时正式公开,是创造力进入持续实践时无法回避的工作。