丹尼尔·丹尼特(1942—2024)
一句话:我们总觉得心里有一个小屏幕,感觉、念头、画面一样样呈现在上面,还有一个“我”坐在下面看;他说,没有那个屏幕,也没有那个观众——只有一大堆并行的加工,其中某一路暂时占了上风。
读完带走三样:一个问题——我以为我“看见”的那一刻,到底发生了什么?一个动作——遇到一个玄而又玄的问题,先造一个能开能关的旋钮,看它到底管不管用。一个提醒——一台会用词的东西,未必有那个词所指的那样东西。
你在专心开车,和副驾驶聊天。开出十公里,忽然你想起来:刚才那几个红绿灯,我一个也想不起来了。
你刚才是“有意识地”在开吗?红灯你停了,变道你打了灯,一个突然并线的车你躲了。所有该做的事都做了,可那段时间在你的记忆里是空白的。 那几分钟里,有人在开车吗?有;可有人在“体验”开车吗?说不清。
再看一个更细的。有人从背后叫你的名字。你转过头。回想一下:你是先“听见了声音”,然后“认出那是我的名字”,然后“决定转头”吗? 你会发现这个次序完全说不清。事实上,你多半是头已经转了,才觉得自己听见了。 而你的记忆会把次序整理成一个说得通的样子。
还有一个,做一下就知道:把手指放在视野边上,动一动,你能看见它在动。可你能看清它的颜色吗?看不清——视网膜边缘几乎没有颜色细胞。 可你明明觉得,你的整个视野都是彩色的、清晰的、连续的。那些边上的颜色,是哪儿来的? 答案是:大脑并没有真的画出它们,它只是没有告诉你那里是空的。
这几件事都指向同一个疑问:我们对自己心里发生的事的那套感觉,可能根本不是一份可靠的报告。
我们默认的那幅图画是:心里有一个地方,是“一切汇总到这里、于是被意识到”的地方——像一个小剧场,有一块屏幕,有一个坐在下面看的观众。这幅图画从笛卡尔来,三百多年了,几乎每个人都在用它,包括那些明确反对笛卡尔的人。
有一个人,用一辈子拆这幅图画。他给那个想象出来的地方起了个名字,叫笛卡尔剧场,然后说:它不存在。 这一章跟着他把那个剧场一件件拆开,最后再看看拆完之后还剩不剩下什么。 不是说“它很小”“它在某个脑区”,而是根本没有那样一个地方,也没有那个观众。
他叫丹尼特。他是本书里写得最好读、最爱开玩笑、也最不像哲学家的哲学家之一。而他被反对的强度,几乎和他被喜欢的强度一样大——因为很多人觉得,他拆到最后,把意识本身也拆没了。 这一章会把两边的理由都摆出来,因为下一章就是对面那一边。
土。 1942 年,丹尼特生在波士顿。父亲是研究伊斯兰史的学者,二战期间在美国的情报机构工作,被派驻贝鲁特。丹尼特五岁那年,父亲死于一次飞机失事。 母亲带他回了美国。
他后来说,他对父亲的记忆几乎全是别人告诉他的;而这件事让他很早就对“记忆到底是什么”起了疑心——那些他“记得”的场景,其实是他根据别人的讲述重建出来的,可它们感觉上和真记忆毫无区别。这个观察,后来成了他整套意识理论的核心之一:一份感觉上无比真切的东西,可以是事后拼起来的。
他不是一个书呆子:他做木工,做雕塑,养过农场,酿过苹果酒,当过一阵子爵士乐手。他一辈子的比方都取自手艺活,这不是偶然。他后来常说,哲学家最大的毛病是从没修过任何东西:一个修过发动机的人,很难相信一个系统里会有“一个什么也不干、只负责体验的地方”。
路。 他在哈佛读本科,导师是蒯因(第二十二章)。他后来说,蒯因教会了他一件事:把话说清楚,一句废话都不要。 然后他去牛津,导师是赖尔——那位写了一本书专门嘲笑“机器里的幽灵”的人。
形状。 1965 年,牛津博士。他的博士论文写的是心与脑,那时候几乎没有哲学系认真对待神经科学;他自己跑去旁听解剖课,看真的大脑。
回写。 两位老师给了他两样东西:蒯因给了清晰和节俭,赖尔给了那个靶子。他一辈子的工作,是把赖尔那个靶子打得更准、更细,而且把神经科学和计算机科学的东西装了进去。
土。 六七十年代,认知科学刚刚起步;人工智能是一门乐观得过了头的新学科。他从一开始就在这个圈子里,和做计算机的人、做神经科学的人、做动物行为的人天天打交道。这在当时的哲学系里极少见。他后来说,他做哲学的办法很简单:先去搞清楚做这一行的科学家实际上在干什么,再问哲学问题。 一个不了解实验细节的哲学家,提出的问题多半是假问题。
路。 他提出了那个后来传得最广的说法:三种立场(第三节细讲)。它的用处是:解释一样东西的行为,你可以用三种完全不同的办法,而选哪一种,看哪一种更好用,不看哪一种“更真实”。
形状。 1987 年,《意向立场》。
回写。 这套说法今天在认知科学、动物行为学、人工智能里被大量使用;而它最要紧的贡献是一个态度:把“它有没有心灵”这个吵不出结果的问题,换成了“把它当成有心灵来解释,好不好用”。 第十四章图灵干过同样的动作。
土。 八十年代末,关于意识的研究忽然活了过来:脑成像技术出现了,神经科学家开始正面处理这个题目。
路。 1991 年,《意识的解释》。
这本书的标题就是一个挑衅:很多人认为意识不可能被解释,而他直接说他要解释它。书里他做了两件事:拆掉笛卡尔剧场,然后给出一个替代的模型,他叫多重草稿(第三节讲)。
形状。 这本书卖得极好,也被骂得极凶。有人给它起了个绰号,说它其实该叫《意识的取消》。
回写。 这里出现了本书里一次很有意思的对垒:他和查默斯(下一章)。 查默斯说:你解释的全是“大脑怎样完成各种功能”,可你完全没碰那个真正的难题——为什么这一切“有感觉”? 丹尼特的回答是:那个所谓的“难题”,是被一幅错误的图画制造出来的幻觉。 两人辩论了三十年,谁也没说服谁。下一章会从另一边讲这场争论。
土。 他在塔夫茨大学待了一辈子,主持一个认知研究中心。他还养农场、做家具、开船;他说过,一个只在书房里想问题的人,比方会越来越差。
路。 他后来做了两件在哲学圈外更有名的事。
一是关于宗教。2006 年他出了一本书,主张用科学的办法去研究宗教这个现象本身——不是问“上帝存不存在”,是问“宗教这套东西是怎样在人类社会里长出来、又怎样传下去的”。他因此被归进所谓“新无神论四骑士”。这是他名声里最有争议的一块;本书要记一笔的是,他在四个人里是语气最温和、也最愿意承认宗教有正面功能的一位。
二是关于达尔文。1995 年的《达尔文的危险观念》里,他说自然选择是一种算法——一个不需要任何设计者、只要有变异、有筛选、有复制就会自动跑起来的过程。他管它叫“万能酸”:它会一路腐蚀过去,把“必须有一个设计者”这个想法从生物学一直腐蚀到心灵、到文化、到道德。
形状。 他晚年写了一本给普通人的工具书《直觉泵和其他思考工具》,把他一辈子用过的思维工具一件件交出来。这是本书四十人里最好读的著作之一。书里七十七件工具,从“用力想清楚你的对手最强的版本”到“小心那些被悄悄塞进来的形容词”,每一件都两三页。
2024 年 4 月,他去世,八十二岁。去世前几个月他还出了一本回忆录,语气和他一辈子一样:轻快,好奇,没什么怨气。
回写。 他的回写有一个很少见的形状:在哲学系里他有一大批坚定的反对者;在哲学系外面,他是认知科学家、人工智能研究者、生物学家最愿意读的哲学家。 他一辈子的角色是翻译者:把哲学的问题翻给科学家听,把科学的发现翻给哲学家听。
前面三十六章数过各种回写。丹尼特这一种可以叫工具留下来型:他的具体结论至今争议极大,可他造的那些思维工具——三种立场,直觉泵,笛卡尔剧场——已经成了好几个学科的通用语言,而且用的人常常不记得它们的出处。顺带说一句他为人称道的一点:他一辈子在和人吵架,可几乎没有人说他不厚道。 他在《直觉泵》里专门写过一条规则(他说是从别人那里学来的):要批评一个人,先把他的立场复述到他本人会说“我要是能说得这么好就好了”的程度,再开始反驳。 本书第二十一章、第二十八章说过同一件事——这一条在三个完全不同的人那里各出现了一次。
老看法。 一样东西要么有心灵,要么没有。这是一个关于事实的问题。
他怎么翻。 他说,先别问那个。先看我们实际上是怎么预测和解释各种东西的行为的——有三套完全不同的办法。
物理的立场。 用物理定律算。一块石头从楼上掉下来,什么时候落地,算得出来。这套办法最可靠,也最费劲。
设计的立场。 不管它内部怎么运转,只问它是被设计来干什么的。一个闹钟,你不需要懂它的齿轮,只要知道它是用来响的。这套办法省力得多,代价是:它会在东西坏掉的时候失灵——闹钟不响了,光知道“它是用来响的”帮不了你。
意向的立场。 把它当成一个有信念、有愿望、并且会理性地行动的东西来预测。下棋的时候,你不去算对方电路里的电流,你想的是:他想赢,他看到了我的威胁,所以他会防那一手。 这套办法最省力,预测最快,而且常常最准。
关键的一步来了。他说:问“它是不是真的有信念和愿望”,是问错了。 该问的是:把它当成有信念和愿望来看,好不好用? 对人,极好用。对狗,相当好用。对恒温器,勉强可用(“它想让房间保持在二十度”——这话有点可笑,可它确实能预测)。对一块石头,完全没用。
所以“有没有心灵”在他这里不是一个全有全无的事实,是一个程度问题:看意向立场在多大范围内、多准地管用。
打个比方。 你和一台自动售货机打交道。它卡住了,你拍它两下,说“它今天心情不好”。这句话严格来说是胡说,可它居然有点用——它让你知道该换一台。一句严格来说错误的话,有时候是一件好用的工具。而如果要修它,这套说法就立刻不够了,你得换到设计的立场:看它的出货机构。用哪一套,看你要干什么。
别误会。 第一,他不是说信念和愿望是假的、只是我们编的。他的说法很微妙:那些模式是真实的——一个人的行为里确实有一套可以被意向立场抓住的规律,这个规律不是你编的。第二,这套说法最容易被误用的地方是:把“意向立场好用”直接读成“所以它有心灵”。 他从来没这么说;他说的是:那个问题问得不好,换一个问法。
老看法。 心里有一个地方,各种感觉和信息汇总到那里,于是“被意识到”。至于那个地方在哪儿,我们还不知道,但它一定有。
他怎么翻。 他说:没有那个地方。
他先指出这幅图的来历:笛卡尔认为心和身在松果体那里碰头——今天没有人信松果体了,可几乎所有人还在信那个“碰头的地方”。 他管这个叫笛卡尔唯物主义:嘴上说没有灵魂,脑子里还留着那个剧场。
那实际上是怎么回事?他给的替代模型叫多重草稿。
脑子里同时有大量并行的加工在跑:一路在处理颜色,一路在处理运动,一路在猜那个声音是谁的,一路在准备转头。这些加工不断地互相修改、互相覆盖,像一堆不断被重写的草稿。 没有哪一路是“正式版”,也没有一个编辑部把它们汇总成定稿送到屏幕上。
那“我意识到了”是什么? 他说:是其中某一路暂时占了上风,被拉进了报告、记忆、语言和后续行动里。意识不是一个地方,是一种“暂时的优势”。注意这个说法的一个好处:它解释了为什么“意识”是有程度的。 你在专心开车时那段空白、你在半梦半醒时、你在剧痛中——这些不是“有意识”和“无意识”两档,是那场竞争的激烈程度不同。
这带来一个很怪、但可以被实验检验的推论:关于“我到底是什么时候意识到的”,可能没有一个确定的答案。 心理学里有一批经典的实验(两个靠得很近的闪光会被看成一个在移动的点;先出现的刺激被后出现的盖掉),结果都显示:大脑事后会重写那段经历的次序。老图画会问:那到底哪个是“真正被意识到的那一版”?他说:这个问题没有答案,因为没有那块屏幕。
打个比方。 一家没有总编辑的报社。几十个记者同时在写,稿子互相覆盖、互相修改;最后印出来的那一版,不是某个人拍板定的,是某几篇稿子恰好在截稿时占了版面。 你问“到底哪一刻这条新闻被决定了”,答不上来——不是记录丢了,是根本没有那一刻。
别误会。 第一,他不是说“意识不存在”——他说的是意识不是你以为的那种东西。第二,这套模型是可以被实验检验的,而且过去三十年的神经科学,大体上站在“没有单一汇总点”这一边。分歧不在这里,分歧在下一件事。
老看法。 就算脑子里的加工是那样,还有一样东西没被解释:红色看起来的那个样子。你可以把视觉的每一步生理机制都讲清楚,可“红”那种红法本身,还在那儿没被碰到。 哲学上给这种东西起了个名字。
他怎么翻。 他说:那个东西是一幅图画造出来的幻觉。
他的论证路数是:你以为你直接认识那个“感觉起来的样子”,其实你没有。 他造了一堆思想实验来逼这一点。比如:假设有人在半夜动了你的脑子——一种可能是改了你的味觉感受器,另一种可能是只改了你对咖啡的记忆和偏好。第二天早上你喝咖啡,觉得“它变了”。请问是哪一种? 你从内部分辨不出来。他说,这说明一件事:你对自己感受的那份“直接、确凿的认识”,本身也是一份可错的报告。
由此他给出了那个最被反对的主张:所谓“感觉起来的样子”,不是一样额外的东西;它就是那一大堆加工在你身上造成的全部效果——包括你会怎么说它、怎么比较它、怎么被它影响。 把这些全部列出来之后,没有剩下一个“还有那种感觉本身”。
他还给了一个很尖的说法:我们对自己内心的报告,是“用户界面”,不是源代码。 就像你手机屏幕上那个文件夹图标:它不是文件在硬盘里的真实样子,它是一个为了方便你操作而做出来的界面。 内省也是这样——它给你的是一份好用的简化,不是一份真相。
打个比方。 魔术。你亲眼“看见”硬币消失了。你的那份直接经验是确凿的——你确实看见了。可你看见的东西,不是发生的事。 而且知道了手法也没用——你还是会看见硬币消失。 丹尼特说,内省就是这样一场对自己表演的魔术;而且因为表演者和观众是同一个人,你永远抓不到它的手法。
别误会。 这是他和整个反对阵营的交火点,本书要把两边都摆出来。反对的说法是: 你可以把一切功能都解释完,可“为什么这一切是有感觉的、而不是一片黑”这个问题,你一个字也没回答;把它说成幻觉,等于说“那件唯一我们最确定的事情是假的”。这就是下一章的“难问题”,而丹尼特一辈子拒绝承认它是一个真问题。
这是他留下的最实用的东西。
老看法。 哲学靠论证。
他怎么翻。 他说,哲学里真正起作用的常常不是论证,是思想实验——一个精心设计的小故事,把你的直觉往某个方向泵。他管它叫直觉泵。
他的态度是双面的。一方面,直觉泵极其有用:图灵那台机器(第十四章),罗尔斯的无知之幕(第二十八章),帕菲特的传送机(第三十三章),都是。另一方面,直觉泵也可能骗人,而骗人的办法通常是:在故事里偷偷拧了一个旋钮。
所以他给了一套用法:拿到一个思想实验,把它的每一个参数当成一个旋钮,一个一个地转,看结论会不会变。 如果转到某个位置结论就垮了,那这个思想实验依赖的其实是那个旋钮,而不是它声称的那个道理。
他自己最爱拿来练手的,是塞尔的中文屋(这个例子本书第十四章提过)。塞尔说:设想我关在一间屋子里,不懂中文,手里有一本极厚的规则书;外面递进来中文字条,我按规则查出回应,递出去。外面的人以为我懂中文,可我一个字也不懂。 所以:光会按规则操作符号,不等于理解。
丹尼特转了几个旋钮。第一个旋钮:那本规则书有多厚? 塞尔说“一本书”,让人想象的是一本词典。可要能应付任何中文对话,那本书大到无法想象。你的直觉是靠“一本书”这个轻描淡写建立起来的。 第二个旋钮:速度。 故事里那个人慢慢查书,于是“显然他不懂”。如果把速度调到每秒亿万次呢?第三个,也是最要紧的:谁在理解? 塞尔问“屋里那个人懂不懂”,答案当然是不懂。可这就像问“你的一个神经元懂不懂中文”——当然不懂。 该问的是整个系统懂不懂。
塞尔的回应是:那我把规则书全背下来,整个系统都在我脑子里,我还是不懂。丹尼特说:一个人如果真能把那套东西全背下来并实时运行,那他脑子里已经跑着另一套人格了。 两人争了四十年,从学术期刊一直吵到公开演讲,语气都不太客气。
打个比方。 这套“转旋钮”的办法,对任何一个让你觉得“显然是这样”的故事都管用。一个让你一下子被说服的例子,先查一查:它把哪几个数字定得刚刚好? 把那个数调到十倍、千分之一,结论还成立吗?
别误会。 他不是说思想实验都不可信。他说的是:一个好的思想实验,经得起转旋钮;一个骗人的,一转就散。
场景一:先问“用哪一种立场”。 遇到一样东西不听话——一个系统,一台机器,一条流程,一个人——先想清楚你要用哪一套办法。要修它,用设计的立场:它被造出来是干什么的,哪一步卡住了。要预测它,用意向的立场:它“想”达成什么,所以下一步会怎么做。 很多时候的无效努力,是用错了立场:对着一个坏掉的东西讲道理,或者对着一个人只查他的“出厂设置”。
场景二:转一转那个旋钮。 这是这一章最有用的一条。听到一个让你立刻被说服的例子、故事、类比,找出它里面的数字和设定:规模,速度,人数,时间,代价。 把其中一个调大十倍或者调小十倍,看结论还在不在。一个靠具体数字才成立的结论,不能被当成一条普遍的道理。
场景三:别太相信自己的内心报告。 你说“我当时就是那么想的”“我一眼就看出来了”“我记得很清楚”——这些都是报告,而报告是可以错的,尤其是关于次序和原因的报告。人极其擅长事后给自己的行为编一个理由,而且编完就真的相信了。 实用的做法:重要的事,当场写下来;而不是事后回忆当时怎么想的。
场景四:那段“开车的空白”。 熟练的事情可以在几乎没有意识参与的情况下完成,这不是问题,是本事(第十七章讲过同一件事)。可它有一个用法:如果你发现自己整天都在那种状态里——做完了,但想不起来——那说明你已经很久没做需要真正投入的事了。 留意那个空白的比例。
场景五:用户界面,不是源代码。 你对自己的那套解释(“我是个急性子”“我不擅长社交”“我做事有条理”)是界面,不是源代码。界面很好用,别扔掉;可别把它当成真相。 判断的办法很实在:看行为记录,不看自我描述。 过去三个月你实际上做了什么,比你觉得自己是什么样的人可靠得多。
场景六:给用会说话的机器的人。 丹尼特这一章给了今天最要紧的一条提醒:意向立场太好用了,好用到你会不由自主地用。 你会觉得它“懂了”“在努力”“有点敷衍”——这些说法能帮你预测它下一步输出什么,这一点是真的,而且有用。 可它不能被顺手读成“所以它有心灵”。用它来预测,别用它来托付。 这八个字,是这一章给今天最实用的一条。
场景七:先造一个旋钮。 遇到一个玄而又玄、吵不出结果的问题(“我们团队有没有创新力”“这个人靠不靠谱”“这算不算真正的理解”),丹尼特的路数和图灵一样:别争定义,造一个能开能关的东西去试。 什么情况下我们会说它有?什么情况下会说它没有?把那两个边界找出来,问题就从空中落地了。
场景八:承认说不清,也是一种诚实。 他那个“到底哪一刻我意识到的”没有答案——不是我们还不知道,是那个问题问错了。生活里有一批问题是这一类的:“我到底是什么时候不爱他的?”“我是哪一天决定要走的?” 答不上来不是因为你记性不好,是因为那件事本来就没有那一刻。
场景九:把对手的话复述到他满意为止。 这是他留下的最好的一条规矩,也是本书第三次说它(第二十一章伽达默尔,第二十八章罗尔斯,这里)。做法很具体:在你开口反驳之前,用你自己的话把对方的立场讲一遍,讲到他说“对,甚至比我说得好”为止。 做到这一步,两件事会发生:你的反驳会强十倍;而有时候你会发现你不想反驳了。
丹尼特改判的,是内省——那份我们最确信、最觉得不容置疑的东西:我知道我心里正在发生什么。
本书从第二章起就在动这件事。弗洛伊德说“我”不是自己家里的主人;可他留下了一个本我。到这一章,丹尼特要把那个最后的小人也请出去:不只是“我看不见我心里的一部分”,而是根本没有那个“看”的位置。
用土、路、形状这把尺量,他的位置很清楚:他把“意识”从一个形状,改判成了一场竞争的结果。
这和第三十三章帕菲特那一刀是同一族:帕菲特说“我”不是一样额外的东西,是一串连着的事实;丹尼特说“意识到”不是一个额外的地方,是某一路加工暂时占了上风。 两个人从两个方向把最后那个“额外的东西”拆掉了。
而且他那套“多重草稿”,正是本书那条底层规律在脑子里的样子:差异在流(几十路并行的加工互相修改),流出了稳定(某一路占了上风,被拉进报告和记忆),才有了“同一个我意识到了”。 第三章讲胡塞尔时说过:盯住不动的东西会淡掉;这里是同一条律在神经层面的版本。
第二样,本书要直接拿走的是三种立场。它是本书那句老话的一个极好用的操作版:问“它是什么”常常没用,该问“用哪一套办法解释它最好用”。 第二十七章德勒兹说过同一件事(别问它是什么,问它能干什么),可丹尼特给了三档具体的刻度,而且给了选档的判据:看哪一档更省力、更准。
第三样,直觉泵和转旋钮,本书要收进工具箱,而且它有一个特别的位置:它是唯一一件可以用来检查本书自己的工具。 举个例子:第三十三章那台传送机,转一转“复制精度”这个旋钮——如果只复制百分之九十九呢?你会发现那个“是不是我”的直觉,对这个旋钮极其敏感;而这本身就说明了帕菲特想说的事。 这本书里用了几十个思想实验和比方——池塘,传送机,无知之幕,分裂的大脑,会说话的机器。每一个都该被转一转旋钮。
这是他和下一章那位之间三十年的交火点,也是本书必须把两边摆平的地方。
他的立场: 把所有功能都解释完之后,没有剩下任何东西。你说“还剩下那种感觉本身”,那只是你还没从那幅错误的图画里出来。
反对的立场(下一章会细讲): 你解释的是“大脑怎样完成各种任务”;可“为什么完成这些任务的时候是有感觉的、而不是一片漆黑”,你一个字也没碰。这件事恰恰是唯一我们绝对确定的事——一个人可以怀疑外部世界,怀疑自己的记忆,却没法怀疑“现在有感觉”这件事本身。
本书的态度:两边都说中了一件事,而且是不同的两件事。
丹尼特说中的是:我们关于自己内心的那套报告,确实不可靠,而且那幅小剧场的图确实错了。 这一点有大量实验支持,本书站在他这一边。
反对者说中的是:“报告不可靠”和“没有那回事”,是两件事。 一个人的痛觉报告可以被各种方式歪曲,可这不等于他的痛不存在。 用本书的话说:丹尼特成功地拆掉了那个形状(小剧场),可他顺手把土也否认了。
SDE 在这里的接法是本书一路在用的那条:长出来的,不等于不存在的。 “我意识到了”确实不是一个额外的地方,它是一场竞争暂时稳定下来的结果——可它稳定下来了,它就是一样真东西。 一条被踩出来的路,不因为它是踩出来的就不是路。这一条从第一章用到这里,而这一章是它最尖锐的一次应用:意识是长出来的,可它不是假的。
他一辈子在说:内省不可靠,你对自己心里的报告是一份可错的界面。 这句话极硬,也极对。
可它有一个他很少处理的后果:那么他拿什么来支持他自己的理论? 他用的证据里,有一大半也是人的报告——心理学实验里被试说“我先看见了这个”“我觉得它在动”。如果内省的报告都不可靠,那这些报告凭什么能用来支持“没有笛卡尔剧场”?
他的回答是:我们不把报告当成对内心事实的描述,只当成行为数据——看一个人说了什么、什么时候说的、说得一致不一致,而不去问他说的那个东西是不是真的在他心里。这个回答是自洽的,可它付出了一个代价:它把“他到底感觉到了什么”整个划到了研究范围之外。
用第十九章阿多诺那一问:你把什么漏在了外面? 答案是:第一人称那一头,被整个划出去了。 而下一章那位要做的,正是把它捡回来。
“把它当成有信念、有愿望的东西来预测”——这是一件极好用的工具,好用到它会自动启动。而这正是今天的麻烦。
丹尼特本人对这件事是警觉的。他晚年多次说过一句很硬的话,大意是:真正危险的不是机器变成人,是人把机器当成了人;我们最该担心的是那些能骗过我们的“假人”。 他甚至主张,制造能冒充人的系统应该像制造假币一样被严格对待。
可他的理论恰恰解释了为什么这件事拦不住: 意向立场之所以会自动启动,是因为它在几百万年里一直好用——对人、对动物、对天气、对运气,我们都在用它。 现在出现了一样专门在语言上迎合这套习惯的东西。
SDE 在这里的接法,是把本书攒下的那条底线接上:意向立场管预测,不管托付。 判断“用它来预测好不好用”是一回事;判断“能不能把一件事交给它”是另一回事,而后者的判据不在语言里,在承担里(第十三、十四、二十九、三十四章)。一样东西说它“明白了”,只说明这个词用得对;要看它是不是真明白,看它错的时候有没有人付代价。
第一处:拆掉小剧场是对的;可长出来的不等于不存在的——稳定下来的东西,就是一样真东西。
第二处:把第一人称那一头捡回来。它不可靠,但它不能被划出研究范围。
第三处:意向立场管预测,不管托付。
最后说今天。丹尼特这一章,对眼下有一个非常具体的用处,而且和下一章正好是一对。
我们面对一样会说话的东西时,那个问题——“它是不是真的懂”——今天被问了无数遍,而且永远吵不出结果。 丹尼特会说:这个问题问得不好,换一个。换成什么?换成他的两问:
第一问(预测): 把它当成有信念、有意图的东西来对待,好不好用?——答案是:非常好用。 这就是为什么所有人都在不自觉地这么说话。
第二问(转旋钮): 那么把旋钮转一转。如果它的训练材料少一百倍呢?如果它面对一个人类从没写过的情况呢?如果它答错了,谁来发现、谁来承担? 转到这几档,那个“它懂了”的印象会在哪一档垮掉?
这两问合起来,比争论“它有没有意识”有用一百倍。 前一问告诉你它现在能干什么,后一问告诉你它在哪儿会塌。 而它也正好是本书最后一编的做法:不问它是什么,问它在什么条件下靠得住,以及靠不住的时候谁在那儿。
| 他给了什么 | 他留下了什么 | |
|---|---|---|
| 土(在什么处境里) | 多重草稿:几十路并行加工互相覆盖,没有汇总点 | 第一人称那一头被整个划出了研究范围 |
| 路(怎么一步步变的) | 最满——意识不是一个地方,是某一路暂时占了上风 | 内省不可靠这条,对他自己的证据同样适用 |
| 形状(显露了什么) | 三种立场;直觉泵与转旋钮 | 把“感觉起来的样子”说成幻觉,多数人不接受 |
| 回写(形状怎么落回土里) | 工具进了几门学科的通用语言 | 意向立场太好用,会自动启动,拦不住 |
塞尔是他四十年的对手。“中文屋”至今是人工智能哲学里被讨论最多的思想实验,而两人谁也没说服谁。
查默斯(下一章)从另一边提出了那个“难问题”,把这场争论变成了当代心灵哲学的主轴。下一章会把同一场争论从反面讲一遍。
“多重草稿”和后来的“全局工作空间”等理论一起,构成了今天意识科学的主要竞争框架;过去三十年的神经科学,大体上支持“没有单一汇总点”这一点。
“自然选择是一种算法”这条,进了演化生物学、人工生命和演化计算。
“意向立场”今天在人工智能领域被大量使用,而且正是它让人们不自觉地用“它想”“它认为”来谈论那些系统。丹尼特晚年对这件事的警告,比任何人都严厉。
“直觉泵”那本书,是本书对任何一个想学会思考的读者的头号推荐。
下一章,我们听听另一边。有一位比他小二十多岁的澳大利亚人,1994 年在一场会议上提出了一个说法,从此把这个领域劈成了两半。他要问的是那个丹尼特一辈子拒绝承认的问题:为什么这一切,是有感觉的?
笛卡尔剧场 那个想象出来的地方:一切汇总到那里,于是被意识到,还有一个“我”在看。丹尼特说:不存在。
笛卡尔唯物主义 嘴上不信灵魂,脑子里还留着那个剧场。他说这是今天最常见的毛病。
多重草稿 脑子里几十路并行加工互相修改、互相覆盖;没有定稿,没有编辑部。意识=某一路暂时占了上风。
三种立场 物理的(算定律)/设计的(问它是干什么用的)/意向的(当成有信念愿望来预测)。选哪一种,看哪一种好用。
真实的模式 意向立场抓住的那些规律是真实的,不是我们编的;但这不等于“它有心灵”。
用户界面,不是源代码 内省给你的是一份为了好用而做的简化,不是脑子里真实发生的事。
直觉泵 一个把你的直觉往某个方向泵的小故事。极有用,也可能骗人。
转旋钮 检查一个思想实验的办法:把它的每个参数一个个调大调小,看结论还在不在。
中文屋 塞尔的例子:按规则操作符号,外面看像懂中文,其实不懂。丹尼特的反驳:该问整个系统懂不懂,而且那本规则书大到无法想象。
万能酸 他形容自然选择:一个不需要设计者的算法,会一路腐蚀掉“必须有人设计”这个想法。