用户登录投稿

中国作家协会主管

加速、失控和共鸣 ——《克拉拉与太阳》中的技术理性批判
来源:《外国文学动态研究》 | 刘可  2022年08月03日08:51

内容提要 在石黑一雄的《克拉拉与太阳》中,人工智能和基因编辑技术带来的诸多问题反映了工具理性和技术崇拜的弊端。作家从机器人的视角出发审视人类中心主义带来的恶果,理性的自负和社会的不断加速使世界面临失控的风险,进而造成社会阶层的撕裂和人的异化。通过小说,石黑一雄一方面向世人揭示技术理性的有限性,警惕技术拜物教和科学主义,另一方面也指出了一条以复归原始思维和重建共鸣关系为特征的人性救赎之路。

关键词 技术理性 加速 失控 共鸣 石黑一雄 《克拉拉与太阳》

《克拉拉与太阳》(Klara and the Sun)是诺贝尔文学奖得主、英国作家石黑一雄(Kazuo Ishiguro,1954—)的第八部小说,也是他继2015年出版《被掩埋的巨人》(The Buried Giant)时隔六年的新作。该作延续了他以往作品对记忆、身份和人性的拷问以及对科技文明的反思。事实上,有关人工智能的话题,作家早在2005年出版的《莫失莫忘》(Never Let Me Go,又译《别让我走》)中就对克隆技术的伦理面向以及人的本质进行了探讨,即克隆出来的器官捐赠者在多大程度上是真正的人,人是否拥有形而上属性的灵魂等命题。《克拉拉与太阳》探究了人工智能机器人的普遍应用对社会组织结构和人际关系带来的影响和后果。同时,小说还涉及了基因编辑技术的潜在风险,环境恶化带来的不良影响,工业化加速发展导致的规模性失业潮,以及社会发展过程中人所面临的工具化和同质化趋势与精神倦怠等问题。作家选择人工智能机器人克拉拉作为叙事者,以寓言的形式揭示我们时代的诸多悖谬,特别是技术崇拜和工具理性的滥用。石黑一雄试图向读者阐明科学主义和工具理性可能给生活世界造成的殖民化后果。本文拟从加速、失控和共鸣三个角度就小说体现的技术理性批判展开分析,认为小说一方面揭示了技术理性的有限性和失控风险,提醒读者应当警惕技术拜物教和科学主义,另一方面则指出了一条复归原始体验、重建与世界的共鸣关系的救赎之路。

石黑一雄

一、加速社会的增长逻辑和技术拜物教

小说的叙事者克拉拉是一位“人工智能朋友”(AF),整部小说围绕着她的观察和记录而展开。小说的背景设置在近未来的平行世界,这是一个海德格尔所认为的“世界成为图像”和“人成为主体”的时代,人类利用科学这一工具对世界这一客体进行全方位的把控。德国社会学家马克斯·韦伯曾对现代理性原则进行剖析,认为现代社会存在着两种理性逻辑——通过精确计算以追求功利最大化的工具理性和追求道德、价值评价的价值理性。法国思想家保罗·维利里奥(Paul Virilio)在对人与技术关系的思考中开创了“竞速学”(dromology)理论,“专门关注由速度引起的现象,或者准确的说,专门关注速度决定或限制诸现象如何向我们显现”。按照维利里奥的“灰色生态学”观点,不断提升的速度带来的时间和距离污染“决定着人类的命运”,“在追求速度的竞赛中,人类把自身排除出存在的前提和基础,把自己交给了技术加速度”。按照法国技术哲学家雅克·埃吕尔(Jacques Ellul)的定义,技术“并不是指机器、技术,或达到目的的这个或那个过程。在我们的技术社会中,技术是在人类活动的各个领域中(在特定的发展阶段)理性地达到并具有绝对效率的所有方法”。追求绝对效率暗合了加速社会的增长逻辑,正如埃里希·弗洛姆曾指出的支配技术社会的两大原则,即“一件事只要技术上可能实现就应当去做”以及对“效率和产出最大化的追求”。

小说中呈现的就是科学技术的加速发展和工具理性的诸多弊端日益显露的加速社会。根据德国社会学家哈特穆特·罗萨(Hartmut Rosa)的社会加速批判理论,“加速界定了现代社会的动力、发展与改变逻辑,以及推动力”。他把加速定义为“经验与期待的可信赖度的衰退速率不断增加,同时被界定为‘当下’的时间区间不断在萎缩”。罗萨区分了三种不同的加速范畴,即“科技加速、社会变迁加速和生活步调加速”。在他看来,“现代社会是由一种严密的时间体制所管制、协调与支配的,而且这种时间体制完全不具有什么伦理观念”。正因如此,“社会加速在晚期现代已经转变成一种不再需要外在驱动力的自我推动系统……科技加速、社会变迁,以及生活步调的加速,已经形成一种环环相扣、不断自我驱动的反馈系统”。科学技术的革新往往意味着社会组织结构的重组和权力的再分配。在小说中,正是科技的加速发展催生了大批的人工智能机器人,他们承担了很多过去由人类完成的工作,使生产效率得到了大幅提升;但是,人工智能的普及也导致了失业和贫困的加剧,比如乔西的父亲保罗就因技术改造而被机器人“替代”。其次,工具理性的祛魅进一步助长了人类中心主义,对自然的肆意改造带来了严重的环境污染和生态危机。小说中街道上随处可见的“库廷斯机器”表明这是一个生态环境不堪重负的世界。盲目追求绝对效率是这一局面形成的原因之一,“只要一两天的工夫,你就能完全改变整片土地上的布局”。在小说中,人们不是利用基因编辑技术治疗疾病,而是进行基因改造,提升机体的性状与功能,从而提高效率;基因提升成为一种在社会上立足和自我实现的必要途径。里克的母亲出于某种原因没能为自己的孩子进行基因改造,这意味着里克将被放逐到这个社会边缘和底层的位置。尽管他有很好的天赋和能力,他仍旧很可能会失去上大学的权利,无法享受那些基因被提升过的孩子们才拥有的特权。

在伦理缺位的加速社会中,道德秩序和价值判断被放逐到了边缘地带,社会结构也发生深刻的变革。促成小说中基因提升技术普及的因素正是社会不断发展的内卷化趋势加剧了人与人之间的竞争关系,使得“提升”成为一种没有选择的选择。科技的加速不但没能给生活带来便利,反而让现代主体成为了某种“罪责主体”。为了在竞争中立于不败之地,小说中的家长们选择给孩子施行“提升”,而像里克一样没有接受“提升”的孩子会遭到区别对待,无法融入所谓的社群,也丧失了在社会中向上流动的机遇,最终沦为底层的“赤裸生命”。在一定程度上,里克和克拉拉这样用之即弃的新型奴隶有着相似的命运。然而,技术拜物教带来的并不全是安然无虞的成功允诺,通过克拉拉的观察和叙述,读者能够觉察到基因编辑技术不仅带来了阶级焦虑和生存恐慌,编辑过程发生脱靶也可能导致巨大痛苦和创伤。小说中乔西的姐姐萨尔在“提升”后患上某种疾病,最终不幸离世;乔西本人也与病魔进行着不断的抗争。石黑一雄本人对基因编辑技术带来的社会影响不无忧虑,他曾指出像小说中的“CRISPR”这样的基因编辑技术所带来的社会变化可能会破坏人类原有的核心价值,例如人人生而平等,人人可以凭借自身努力向上流动的信念等。然而,随着基因改造技术的普及,一大批生来就得到“提升”的婴儿将会从根本上改变社会原有的组织方式和人们的固有观念。在小说中,里克在乔西组织的聚会上显得格格不入,一位得到“提升”的孩子说道:“你根本就不该来到这里。”另一位家长则故作姿态地感慨道,“我们中的有些人比较幸运,另一些则不那么幸运”。处于不同阶层的人不再交往,基因没有得到“提升”决定了一辈子都是输家。这样的加速社会和对技术的盲从带来的是德国韩裔思想家韩炳哲笔下的“肯定性的暴力”,“人类整体都演变为一架效能机器,顺畅无阻地运转,力图最大化地发挥自身的功效”。技术的进步同时也带来了失控的风险和“自我剥削式主体”——意外事件更频繁发生,主体日益趋同,普遍过劳和倦怠。

二、失控的风险和他者的消失

社会加速一方面导致了失范(anomie)、生活世界的异化和人的精神危机,另外一方面也带来了日益增加的风险以及同质化趋势的加剧。《风险社会》一书的作者乌尔里希·贝克(Ulrich Beck)将风险界定为“系统地处理现代化自身引致的危险和不安全感的方式”。这意味着只要对不可控因素加以掌控,风险是可以规避的。英国社会学家吉登斯(Anthony Giddens)则认为风险“源自人类改变历史进程以及自然形态的企图”。他区分了外部风险和被制造出来的风险,后者是指“由我们不断发展的知识对这个世界的影响所产生的风险”。在吉登斯看来,我们正处在一个日益失控的社会,“我们生活的社会和物质世界中出现了越来越多的‘人为不确定性’”。试图掌控风险的尝试往往带来更大的风险和失控,“人们日益认识到现代性问题不一定能通过更高的现代性解决”。在小说中,失控的风险体现为技术进步带来的诸多不确定性以及功绩社会的肯定性暴力对个体的压制与规训。小说中有关事故的描述暗示这种失控的风险已经成为生活中不得不面对的常态。虽然存在着脱靶的风险和不确定性,基因提升技术似乎已经成为社会的常态,像里克这样的“减速绿洲”成了少数的例外。“提升”看似是个体的自主选择,但是如果选择放弃“提升”,那么孩子将面临更多的风险和不可控因素。在韩炳哲看来,“肯定性的‘能够’比否定性的‘应当’更有效率”。他用医学术语描述了当下社会的肯定性暴力带来的后果:“21世纪伊始并非由细菌或病毒而是由神经元主导。各种精神疾病,如抑郁症、注意力缺陷多动症(ADHS)、边缘性人格障碍(BPS)或疲劳综合征(BS)主导了21世纪初的疾病形态。它们不是传染性疾病,而是一种梗阻病,不是由免疫学上他者的‘否定性’导致,而是由一种过量的‘肯定性’引发。”

在没有禁令的肯定性社会里,个体唯有不断自我剥削和提升,“将自己困在一架不断加速、围绕自身旋转的疯狂竞争(hamsterrad)之中”。小说中没有对乔西所患的疾病进行明确说明,而她后来又奇迹般地康复,这也可以借用医学人类学家凯博文(Arthur Kleinman)的躯体化(somatization)理论,将乔西的身体不适视作她的精神疾病引发的身体症候,她的这种“躯体化的表象掩饰了一种被抑郁支配的情绪状态”。于是,“个体经历了严重的个人和社会问题,却通过身体这一媒介来解释、表达、体验和应对这些问题。个体的损失、所遭受的不公正、经历的失败、冲突都被转化成关于疼痛和身体障碍的话语,这事实上是一种关于自我以及社会世界的话语和行动的隐喻”。

由于儿时见证了姐姐萨尔的悲惨遭遇,乔西的这种躯体化表象或许是创伤后遗症引发的精神障碍,也可能是功绩社会下“肯定性暴力”造成的抑郁和倦怠。当下生活中,人们为了在激烈竞争中集中注意力而滥用阿德拉(Adderall)和利他林(Ritalin)的现象同样值得深思,这些原本用来治疗多动症(ADHD)的药物成了让人们避免停顿和休息的神经增强剂,表明当下的“功绩社会作为积极的社会,逐渐发展成一种‘兴奋剂社会’”。

此外,技术的加速发展也改变了人们对于时间、空间和地方的传统认知,带来了社会的同质化和“他者的消失”。传统的交往变得不再必要,正如乔西的妈妈所说,交往“对于你和你们这代人而言,这会是一桩挺让人头痛的事”。其原因一方面可以归结为科技的发展使得很多交往活动不再局限于物理空间,例如,乔西只需要拿着“矩形板”通过屏幕就可以接受教育。另一方面,这些得到提升的孩子明显丧失了个性,成了一批同质化的工具人;作为无差别的存在,他们的聚会浅薄且无意义。在这里,受到科技进步庇荫的“赛博格”们聚集在一起,开展着形式上的虚假交往,他们的交流空间成了回音室,“他者的切近让位于同者的无差别性”。他们失去了许多宝贵的东西,如善良、温暖、共情、付出和对差异的尊重,而这些恰恰是克拉拉和里克身上具备的特质。除了孩子之外,成人世界中的交往同样乏善可陈。小说对于母亲的工作语焉不详,只透露她身着“高级别的办公室服装”,工作异常忙碌。母亲和她的朋友们一样,属于认同基因提升技术的科学主义者,从她们的聊天中可以看出,在这个社会里阶层区分的标志就是是否获得了“提升”。乔西的父亲保罗归属于一个神秘的社群,他们大多是因为技术发展而失业的工程师们,这些人代表着一种反抗的减速的意识形态,站在了技术崇拜的对立面,试图“通过许多不同的方式过上体面而充实的生活”。

小说中对技术理性做出坚决抵抗的是工具-目的理性的产物——机器人克拉拉。与石黑一雄的代表作《长日将尽》(The Remains of the Day)中的管家史蒂文斯一样,她也是一位恪尽职守的仆人。顺从、克制,从不违抗主人命令,这些特质是编入AF内部程序的设置。一旦被购买,她们就会忠诚地陪伴在主人身边,一切行为的出发点都是为了主人的健康、安全和快乐。而一旦新的AF产品问世,孩子就可能将原有的抛弃,这些旧产品像克拉拉一样,最后在堆场耗尽余生。显而易见,人与AF的关系注定是不平等的,克拉拉的程序设定中只有利他和奉献,不存在自我和索取。她坚信承诺的价值,在和乔西初次见面后,因为向乔西承诺自己不会离开商店,她拒绝了其他对她感兴趣的孩子。和人类世界的功利与善变相比,克拉拉的世界里道德和价值理性占据了核心位置。进入乔西家后,克拉拉尽职尽责,在乔西身体状况恶化时,她不惜冒着牺牲的风险,从自己头部取出溶液破坏机器,期望乔西能获得太阳的特殊庇佑,转危为安。而乔西的母亲克丽西却正好相反,她早已经计划利用科技手段让克拉拉在乔西离世后顶替乔西。这一近乎疯狂的怪异举动背后,是作家对于究竟什么是人的深沉拷问。卡帕尔迪先生的这段话揭示了用AF取代乔西这一计划背后的科学主义理据:

我们这代人依然保留着老派的情感。我们的一部分自我拒绝放手。这一部分自我仍然执着地想要相信我们每个人的内核中都藏着某种无法触及的东西。某种独一无二、无法转移的东西。我们必须放手,克丽西。那里什么都没有。乔西的内核中没有什么是这个世界的克拉拉所无法延续的……你需要的不是信心,只是理性。

这一计划并未最终实施,因为克拉拉的祈祷和牺牲似乎换来了太阳的怜悯与帮助,乔西得以平安长大并且离家去上大学。在克拉拉身上,我们看到了作为技术产物的仿生人对技术理性的抵制,她的真诚、善良和奉献精神闪耀着人性的光辉。

三、原始思维和共鸣关系的复归

《克拉拉与太阳》的故事虽设置在近未来,但石黑一雄向读者呈现的是一个与当下有很大相似性的社会。人类一方面通过基因改造获得某种提升,增强机体抵御疾病的能力;另一方面工业化的发展却在不断制造污染,尽管污染可能就是人类愈发脆弱的始作俑者。连克拉拉这样的仿生人都意识到了太阳的愤怒,认为乔西的怪病一定和制造污染的“库廷斯机器”有某种关联。因此,在麦克贝恩先生的谷仓里,克拉拉像原始人一样把太阳视作赋予世间万物能量的神祇,承诺自己将成为一名卢德分子,择机捣毁制造污染的机器。在这里,科技至上逻辑和进步的迷思与原始思维呈现了张力。法国人类学家列维-布留尔(Lucien Lévy-Bruhl)在《原始思维》一书中区分了两种不同的思维方式,即原始思维和现代思维。在布留尔看来,原始思维是一种前逻辑思维,它不区分现实世界和超自然世界,而是从直觉出发,对事物进行整体的把握。和逻辑思维的矛盾律不同,原始思维的最主要特点是互渗律(mystical participation),“社会集体存在的本身往往被看成是一种互渗,一种联系”。在原始人的眼中,“天地之间的一切就是一个共同体,所有的部分都可以互相沟通,甚至互相转化”。克拉拉对太阳的认识体现了这种弥漫着神秘的互渗性的原始思维。在一次偶然的观察下,克拉拉认为街上的乞丐和他的流浪狗之所以“死而复生”是因为太阳的特殊光线照到了他们身上。此后,克拉拉就对太阳产生了近乎宗教般的膜拜,渴望在麦克贝恩先生的谷仓里与落山的太阳会面并请求太阳用特殊的光线治好乔西的病。

查尔斯·泰勒(Charles Taylor)在《世俗时代》中区分了两种不同的自我,“一个是现代的、被包裹起来的……‘缓冲的’自我(buffered self);另一个是更早的、迷魅世界的‘可渗透的’自我(porous self)”。所谓迷魅(enchanted)世界,就是“我们祖先生活其间的那个充满种种神灵、鬼魔和道德力量的世界”。和工具理性对外部世界和客体进行中立的把握不同,“在迷魅世界,人格的能动性和非人格的力量之间的界限,并非完全是划定清楚的”。对于可渗透的自我而言,外界事物的影响是无法抵挡的,而对于现代的、缓冲的自我来说,主体与客体之间存在着明晰的界限,主体凭借理性赋能,以漠然的(disengaged)态度对外部客体进行擘画。作为现代技术文明的产物,克拉拉身上却体现着这种“可渗透的自我”,在她看来,自我与世界、心灵与外在的边界是模糊不清的,而且外部一些“‘充上力’的物体不仅能够影响我们,而且还能影响世上的其他事物”。太阳就是克拉拉眼中拥有神秘力量的物体,正如原始人赋予一切现象以人格化的特征一样,克拉拉将太阳和造物主等同起来,她面对太阳的祈祷和承诺体现了科学主义的有限性,无论基因编辑的力量如何强大,却也无法治好乔西的怪病,最后不得不依赖宗教般的祷告与祈福。小说中乔西的病情最终神奇般康复,进一步印证了科技的偶然与不确定性。科学主义的信奉者认为科学高于一切、可以解释一切,认为人类所有的问题都可以藉由科学的发展来解决。然而,人类事务中显然存在科学无法解释或不能涉足的禁地,人工智能无法模拟人性的诸多复杂层面,基因编辑技术也必须被置于伦理准则的严密审查之下。

科学主义的有限性和工具理性的傲慢势必会把人类与生态系统置于危险境地。原始思维的互渗律和前现代迷魅世界中自我对其在宇宙中位置的感知代表了人与周遭环境相处的一种可能路径,体现的是一种面对外界事物谦卑的、积极参与其中的立场。人类学家叶舒宪指出:“抽象理性思维作为迄今为止思维发展的最高阶段只不过有几千年的历史,而原始思维却是一个长达数百万年的漫长历程。”克拉拉的易感性和拜日仪式带有泛灵论的色彩,她相信人与非人之间如同拉图尔(Bruno Latour)的行动元互联理论(ANT)所描述的那样,彼此影响,相互产生作用,这种去人类中心的思维在异化日益加剧的当下社会弥足珍贵。

罗萨认为加速社会的提升逻辑和增长逻辑会带来新的异化,他援引了耶吉对异化的定义:“异化是一种缺乏关系的关系”,是一种我们与世界的扭曲的关系。简而言之,“每当我们既是自愿,却又违反我们‘真正的’意志在行动时,都可能会觉得被异化了”。在小说中,这种新异化表现为个体在加速社会的时间规范下不断自我剥削和自我加压,一切行动看似是自主的,“剥削不再以异化和自我现实化剥夺的面貌出现,而是披上了自由、自我实现和自我完善的外衣”。在对“何为良善生活”这一命题的思考下,罗萨提出了共鸣的世界关系社会学,并区分了三种不同的共鸣轴,即与家庭、友情和民主政治关联的水平共鸣轴(horizontal axis)、与物质世界相关联的对角共鸣轴(diagonal axis)和与宗教、自然与艺术关联的垂直共鸣轴(vertical axis)。共鸣本身包含了情感(being affected)、自我效能感(self efficacy)、转变(adaptive transformation)和不可控(uncontroll ability)四个要素,是对抗异化和加速的救赎道路。共鸣不是协同一致(consonance),而是允许他者的存在,拒绝同质化,尊重差异;其次,共鸣关系中双方各自“用自己的语言表达”,拥有各自的自主性;最后,共鸣关系的生成存在不可控性,它不被工具理性所掌握,完全跳出“现代性无休止地将世界变得可操控、可预测、可接触、可通达的欲望”。克拉拉身上体现了这种对共鸣的世界关系的渴求。她拥有细腻的观察力和极强的感受力,对外界的人与非人的存在都抱有同样的兴趣和理解的意愿,这不同于科技主宰下的现代社会里人的声音凌驾于其他一切事物的“静默宇宙”。和小说中其他角色不同,克拉拉与外部世界的关系不是冷淡、静默和毫不理会的异化关系,她对外部事物的观察和吸收体现出一种“与外部世界的基本纠缠”(a basic entanglement in the world)。也许因为克拉拉本身是依靠太阳积蓄能量,她对太阳的光辉从一开始就表现出极大的热忱,认为太阳的某种特殊光芒可以治愈顽固的疾病,同时认为城市里的污染是对太阳不利的,所以和太阳达成约定,以摧毁制造污染的机器换来乔西的健康。和克丽西诉诸科技和人工智能手段不同的是,克拉拉的拜日行为具有节日庆典的神圣性和仪式感,她与太阳的互动表现出人类在自然面前的谦卑,认识到自身及能力的有限性,坦然面对世界的未知和不可控。克拉拉面对太阳的祈祷带有静谧祥和的宗教氛围,因为“庆典时刻是永恒的”,这与功绩社会盲目追求“关键绩效指标”(KPI)的聒噪形成了鲜明对比,“神圣时间是充盈的,工作时间则是空虚的”。不同于肯定性暴力的自我剥削,克拉拉的自我献祭代表着一种否定性和禁忌,在人类追求加速的视域下,我们应当重建一种和世界的共鸣关系,承认工具理性的局限性,重新锚定自我在社会生活和整体环境中的位置,正如韩炳哲所说,我们生活的现代世界“成了一座百货商店……失去了和上帝、神圣、奥秘、无限、崇高的联结……应当把商店改造成一个庆典场所,在其中生命才能获得应有的意义”。石黑一雄从一位“非人类”机器人的视角,批判了技术理性的自负和人类中心主义的傲慢,并预示了唯有在价值理性维度上重构人类与世界的共鸣关系,才能在社会加速的狂潮冲击下,寻找缓冲的地带和超越的可能。

(原文载《外国文学动态研究》2022年第3期,“新作评论”栏目,责任编辑王涛,由于篇幅有限,省略了原文中的引用信息和脚注。)