SDE · AI越强,人就越弱吗?
第五编

第二十二章 “离不开工具,就没有独立性”

王德生 著 · 本章正文3,715汉字 · 打开第150页

本章小节

一、把所有支持拿走以后,剩下的才是我吗?

设想一位长期借助翻译与资料工具开展交流的人,被问到这样一个问题:假如这些工具全部消失,你还能做什么?这个问题可以帮助他辨认依赖,却也可能偷偷规定一种标准:只有在全部支持被拿走以后仍然存在的能力,才算真正属于他。照此标准,许多实际生活中的能力都会先被排除,然后才开始评价。

我们可以暂时移除某一种工具,研究个人在该条件下的表现;但这不同于想象一个完全脱离语言、教育、记录和他人劳动的人。所谓孤立能力测试,仍然包含许多保留的文明条件。它之所以有用,是因为有选择地控制条件,而不是因为终于找到一个没有发生史的纯粹主体。

因此,独立性首先需要说明独立于什么。独立于某个具体界面,独立于某一家服务,独立于他人临场替自己作决定,与独立于一切外部支持,是不同命题。前几种可以具有实际目标,最后一种则容易把相互依赖的生活预先判为不真实。

本章不是赞美所有依赖。它要把可以支持行动的依赖,与使人受制的依赖分开。一个人可以借助大量外部条件生活,同时保留真实的选择与改变空间;也可以表面上亲自完成许多步骤,却无法改变影响自己的安排。两者不能仅凭工具使用多少来区分。

二、自给自足与自主行动并不等同

设想两位使用者。第一位亲自整理全部材料,但组织只允许他按照固定结论交付,异议无法进入;第二位借助自动流程处理材料,却能够提出不同问题、保存依据、要求修正,并选择适合的合作方式。前者手工承担更多,后者外部依赖更大,但不能据此宣布前者必然更自主。

自主行动关注的是愿望、理由与实际选择怎样进入活动,而不是执行步骤是否全部发生在身体内部。一个人可以自主选择接受服务,也可以在没有工具时被迫重复不愿意的劳动。依赖与自主之间不存在简单的反比例关系。

当然,能够说“这是我的选择”也不足以证明选择条件充分。某些替代方案可能只存在于名义上,改变安排的代价也可能高到难以承受。分析需要进入实际处境:有哪些可行路径,相关信息能否获得,拒绝或修订会导致什么后果,而不是只看是否有一个选择按钮。

这也使独立性不宜被理解为永远不受影响。人的目标可能在交流、学习与工具互动中改变。问题不是所有影响都必须消除,而是影响能否被理解、讨论和修订,是否把参与者锁在无法回应的安排里。没有影响的主体并不是本书追求的生活理想。

三、可靠依赖为什么可以扩大行动余地?

一项稳定封装使使用者不必每次亲自承担内部过程,可以减少某些反复负担。对交流者而言,翻译支持让他有机会与原来难以沟通的人讨论;对记录者而言,检索支持使过去经验不必全部靠即时记忆维持。这些依赖可能成为行动空间扩展的条件,而不是独立性的简单减少。

但可靠依赖具有具体要求。服务在需要时能否获得,适用范围是否清楚,失效时是否有办法处理,长期积累能否保留,都会影响它是否真正支持行动。熟悉一个界面,不等于已经拥有稳定条件;曾经顺利使用,也不等于未来所有变化都已得到保障。

这里需要分开功能可靠性与关系可靠性。工具在技术上表现不错,使用条件却可能不稳定;使用条件长期稳定,具体功能又可能不适合当前任务。两种可靠性都与依赖有关,不能让其中一项替另一项作证。

因此,依赖可以被建设,而不只是被接受或拒绝。改善接口、保留材料、明确维护与支持、设置适当替代路径,都是使复合生活更稳健的方向。它们并不要求个人退回一切亲自实现的状态,而是让外部支持不至于成为无条件受制。

四、脆弱依赖的几种具体形态

第一种形态是能力只能在一个不可替代的入口中显露。使用者积累了大量材料与流程,却没有办法带着这些积累进入另一种安排。一旦入口改变,过去的工作便很难继续。这时焦虑具有现实对象,不能仅用主体已经复合来安慰。

第二种形态是条件不透明。使用者不知道某项功能在哪些情形下可靠,也不知道规则改变是否影响旧结果。他看似可以调用,却无法判断何时需要停止。这里的问题不是必须理解全部内部机制,而是缺少与实际承诺有关的必要说明。

第三种形态是责任与权限脱节。使用者被要求为结果承担完整后果,却没有足够材料、时间或修改权限。形式上他仍然是最后确认者,实质上却难以改变关键条件。增加一个确认动作,不会自动弥补这种关系上的缺口。

第四种形态是退出代价被隐藏。一个人可以名义上停止使用,但停止意味着失去工作交接、沟通方式或过去积累。这里的退出不宜只看账号能否关闭,而要看离开之后能否以合理方式继续生活。技术上的可退出与实际上的可退出需要区分。

这些形态可以与工具能力增长同时发生。系统越能完成任务,使用者越依赖它,而参与条件未必同步改善。因此,反焦虑理论不能只解释能力变强,还要检查复合关系是否形成新的受制。

五、从个人备份走向复合韧性

有人把应对依赖的办法概括为人人保留一套完整无工具能力。这在某些特定任务中可能有用,但不能成为普遍要求。一个人不可能独自复制所有基础设施、软件和专业支持。若韧性只能靠每个人成为全能备份,复合文明便无法实际运行。

更现实的韧性可以分布在不同层级。个人保留必要材料与基本辨认,团队形成交接,专业维护承担内部修复,组织准备适当替代方式。不同活动需要不同安排,不能要求所有层级都由同一个自然人完成,也不能假定别人会处理而没有任何实际支持。

依赖是否脆弱,可以问一次具体的接续问题:当前入口暂时不可用时,活动能否暂停而不造成不可逆损失;必要材料是否仍在;谁能提供恢复或替代支持。这不是要求人人准备一套昂贵备份,而是让依赖的后果进入设计。一个高度依赖却有可靠恢复安排的系统,可能比看似独立而没有任何纠错支持的个人活动更有韧性。

替代也不一定意味着两套完全相同的系统。有时只需要在关键服务中断时维持较小范围的功能,有时可以暂时改变任务目标。例如,复杂分析暂时无法运行,仍能保留材料、说明尚未完成,并避免作出超出依据的承诺。这种有边界的降级,可能比勉强维持完整外观更稳健。

韧性还包括学习怎样重新接续,而不只是储存一个备用成品。关键条件、重要版本与实际联系人若得到适当保留,后来者就更容易重建活动。一个只有最终输出的档案,与一个能够支持重新进入的积累,在失效时会表现出不同价值。

因此,独立性的一个实际方向可以是对依赖关系具有更多重组能力,而不是消除所有依赖。这个方向仍需具体证据,不是一句人人都能轻松迁移的保证;但它比要求自然人独自承担全部功能更符合复合活动的现实结构。

六、判断能够托付,独立性会不会一起被托付?

这个问题比一般工具依赖更尖锐。若整理、比较甚至某些判断都由工具承担,人还怎样保持自主?一种回答是永远保留最终判断给人。但正如前文所说,最终判断可能只是无实质条件的形式动作,不能独自担保自主性。

更值得研究的是判断如何进入承诺与行动。哪些标准已经明确,哪些结果可以在限定条件下托付,哪些变化需要重新协商,受影响的人是否有途径提出异议?这些安排可以包含自动判断,也可以包含人的参与,关键在于作用与权限真实对应。

目标同样可能在复合过程中形成。一个人借助讨论发现自己原先追求的东西并不重要,这种改变不必被视为主体性丧失。但若系统以隐蔽方式持续缩窄可见选择,使人难以意识到还有其他路径,就需要讨论影响是否合理。目标受到影响不是问题的全部,影响方式与可回应条件才是关键。

因此,独立性不能靠找出一项永远不可托付的认知器官来保护。它需要在整个关系中获得条件:能够理解必要信息,能够表达不同需要,能够获得支持,能够在适当层级改变安排。这些条件可以由共同制度与工具设计承担,而不是只靠个人意志。

七、依赖他人不应成为羞耻

工具依赖的焦虑有时借用了更一般的羞耻:接受帮助意味着自己不够完整。这样的标准会使许多正常生活方式显得低人一等。一个人需要他人协助,或借助适合自己的工具参与活动,不应因此被认为缺少作为人的资格。

本书在这里提出规范立场,而不是声称所有帮助关系都天然良好。帮助可以支持人,也可以形成控制;接受帮助可以是自愿,也可能是缺少选择。需要评价关系怎样组织,而不是用依赖这个词一概贬低接受支持的人。

同样,具备独立完成能力的人也可以选择协作。他不必每次证明自己其实可以不用别人。分工允许人把精力用于不同活动,成熟封装允许人不再重做内部过程。若每一次协作都要求先完成一场孤立能力展示,合作本身就会被证明负担拖住。

这使人的尊严与能力条件之间获得更合理的关系。能力值得发展,支持值得建设,但没有任何人必须先摆脱全部依赖才配受到尊重。人工智能时代的新依赖,应当接受具体评价,而不是成为新的羞耻标签。

八、画出依赖关系,而不是幻想没有依赖

对于一项重要活动,可以写出自己实际依赖哪些条件。不是列出所有科技名词,而是说明材料在哪里、哪些流程必须可用、谁能提供帮助、哪些环节只有某个人熟悉。这样做的目的,是找到真正脆弱的位置,而不是让依赖清单越长越令人恐慌。

接着辨认哪些依赖值得保留,哪些需要改善。有些关系稳定且合适,不必为了追求独立而重复建设;有些关系集中在一个容易失效的节点,需要增加交接或替代;还有些关系本身超出当前承受能力,可能需要缩小任务范围。不同处理对应不同问题。

这种分析不应变成所有人的日常负担。对普通成熟服务,个人不必亲自审计整个体系;对重要工作,组织应当提供必要支持。依赖关系的建设也具有分工,不能因为我们强调主体性,就把全部治理责任重新塞给自然人。

最有意义的改变往往很具体:保存一份可继续使用的材料,说明一项关键条件,建立一次可靠交接,取消一个没有实际作用的确认环节。它们不宏大,却能使复合活动更有连续性,也让独立性不再只是抽象口号。

九、真正的出路,是更好的相互依赖

回到最初那位交流者。工具消失以后,他可能无法以原来的范围继续沟通,这说明相关能力依赖工具;却不能由此推出他一直没有真实参与,更不能推出他没有独立价值。应当继续问的是,这种依赖是否可靠、是否可调整、是否支持他愿意开展的活动。

若答案存在缺口,他可以寻求适当支持,相关组织也需要承担建设条件的责任。若条件已经相当成熟,他可以不带羞耻地使用,而不必每次重做翻译内部过程。独立性不再通过拒绝一切支持来证明,而通过在复合生活中拥有真实的参与与改变空间来体现。

独立性因此不必以没有依赖为前提,而可以体现为在依赖关系中有可靠接续、回应和调整的条件。下一章进入成果归属:当这些条件确实参与了工作,个人怎样说明贡献,既不独占全部成绩,也不把自己从成果中删除?