用户登录投稿

中国作家协会主管

人工智能时代,这些科幻新作如何开启反思考的思考 ——《收获》“科幻作品小辑”读后
来源:文学报(微信公众号) | 刘火  2022年09月30日08:31

《收获》2022年第3期做了一期“科幻作品小辑”,一共有五篇小说:《2049》《陨时》《孤独终老的房间》《菌歌》和《无人驾驶》。

罗伯特·斯科尔斯在《科幻文学的批评与建构》(安徽文艺出版社,2011年11月版)一书中说:“人类存在于一个不为自己所能控制的系统中,但是这系统可以通过自己的力量去重新编排。”这句话是这位科幻小说文本批评泰斗级人物,针对科幻小说讲的,但显然不只是针对科幻小说文本所讲,也就是说,正是因为宏观如宇宙、微观如地球即便作为一个系统,无论是从前还是当下抑或未来,这个系统都不被人类所掌控(如果掌控了,将会是什么、地球或宇宙将会是什么,那是不可想象的),尽管人类千辛万苦般地想通过有始无终地认知地球和认知宇宙来安排自己所要获得的一切。“科幻作品小辑”里的五篇科幻小说,大概也可以作如是观。

《2049》里的自然人阿塔与机器人丽丽的相处、相隔,重新编码后再相处、再相隔,彼此都不能按照自然人的心意和机器人的编程获得彼此的控制或者和平共处。《陨时》,不同的人,面对同一种电子产品(这是科幻小说的前背景或者潜背景)“速时通”表现出来的不同认知,或者说,时间的加速并没有改变不同的人对时间加速后的世界的统一认知。《菌歌》是一部极具寓言式的作品,但这则寓言则要告诉我们,当人类步入到了几可以与地外文明对话的时候,我们(往后看)才发现,人类今天只不过与原始社会里的人——巫对话那样原始,顶多表达和表现的方式不同罢了。如《菌歌》结尾所哀伤的那样,“苏素终于放弃抵抗,像恢复到初始设置的婴孩,露出了晴空般的笑脸。”

人类终其自己的命运,试图掌控世界和自己,但却永远无法掌控一切。这是人类的宿命,也是科幻小说的宿命,尽管科幻小说有更宏伟更远大的空间和更无始无终的时间来构建理想中的世界和自己。但是,当我读了《2049》等后却发现,在这样一个科幻小说的母题下,依然有着另外的叙事。《2049》讲了是一个很简单的故事,一个自然人阿塔与一个AI(人工智能)人丽丽的故事,一个从不理解到相互默契又从相互默契走向从不认识的故事。事实上,从这一角度观察,自然人阿塔是机器人丽丽的一个幻象,反之亦然,机器人丽丽是自然人阿塔的一个幻象。在AI时代到来时或进行时的当下,这样的故事很可能是一种常态,即自然人与自然人(和机器)创造的人工智能的相处与博弈。在这种相处与博弈中,我们会常常听到一种两难的声音:自然人的人类最终会被人工智能控制吗?或者我们会常常听到更加悲观的声音:人类会被人工智能取代吗?进一步追问:被控制或被取代是自然人的创世纪,还是自然人的末日?

01

人的智慧在于追问,

追问在于思考

当阿塔与丽丽又一次重逢时,“阿塔是谁?我没有这个人类的信息。”何以如此?因为“公司已经重置了丽丽的主脑和感知系统,覆盖了她之前的记忆单元”。“覆盖之前的记忆”,也就是说,对于丽丽来说,只有设置,包括初设、重设和恢复初设。这是一种典型的只有指令而没有“思考”的在场。或者说,这种状态叫“不思考”,抑或“反思考”。思考是通过语言、通过现象、通过经验等所进行的一项人类迄今为止成为地球这个行星的主人的主要法宝,或者唯一法宝。让人类从史前文明走进文字文明、从农耕文明走进到工业文明,又从工业文明步入到了今天AI文明或生态文明,都与思考密切相关。但是,正是思考,让人类越来越觉自己远不如之前伟大和自信,因为地外、深空、海洋,尤其是人自己越来越不是之前的人的认知。也就是说,人在思考中,发现人自己不是更加地接近自由空间而是更加地被控制。在阿塔看来,唯有反思考,人才有可能在已经获得的空间里较为自由地生活。

思考无处不在、无时不在,这是由人的本质所决定。

但是,正是因为思考,人类在已知的信条、公式、规定、法律、箴言和已拥有的机器(当然而且必须包括正以迅雷不及掩耳姿态发展的人工智能)里,被包围、被约束、被控制,甚至,自然人的思想、精神和物质被这些有形的和无形的现代文明所肢解。试想,一个自然人想要获得一个与自己相契的机器人,结果却是相识两年的机器人丽丽被重置。在《陨时》里,由于使用了时间加速器,“我……不需要每天花那么多时间选产品。”这句话的潜台词是,在一个加速时间生长成长同是也加速了死亡的“速时通”时代,不思考或者反思考才是正当和正确的选择。《陨时》庄重地写道:“他们不再需要慢慢学习那些观测基本功”,因为生活在“速时通”的时代里“突击一下就可以出来带队,还能徒手抓到青蛙、蝴蝶、螳螂之类的小生物”。

02

思考,是人类的本质和天性

今天人类所取的一切文明都是思考的结果,那么思考有没有代价呢?答案是肯定的。举一个众所周知的例子:在神权还主宰人权的时代,伽利略通过自己的天文观察(据说,1609年,伽利略亲自制造了一架具有现代意义的天文望远镜)和思考,得出了与哥白尼一样的观点:“太阳位于世界中心而静止不动,地球不在世界中心而运动”(此话,伽利略在宗教审判判决书下达之后做了忏悔。当然,后来有史家认定,那份忏悔书不是伽利略所写)。正是这一观点,伽利略在公元1633年被判“下狱”(后改为“软禁”),直到300多年后的1979年,罗马教廷才给予了平反。在《菌歌》里,我们来看看今天思考的代价:“真是烦透了这些狗屁工作日志,李想还花了半天时间培训我们用什么话术才能从AI那里拿到高分——诀窍就是像机器一样说话:突出关键信息、语法尽量简单、避免使用文学性修辞吧啦吧啦吧啦…打份工,不光跟人斗,还要跟机器卷,有完没完?”因为思考,因为追问,“慢慢的,人们忘记了原来的语言和歌谣,甚至不再祭拜自己的祖先和山神,切断了与自然生灵的联系。许多人会患上怪病,失眠、头痛、过敏、全身无力、心神不宁。”在《无人驾驶》里,作者不仅仅公布思考的代价,而且认定思考或许是有“原罪”的:“这世界百分之二十的人,控制着这些永不知疲倦的智能机器,替代了剩余的百分之八十的人类。所以,我们是垃圾吗?台下一阵喧哗,不!我们是废物吗?台下再次一阵喧哗,不!那么,我们是什么?台下的人群像疯了一样喊道,我们是这些他妈的臭机器的主人!”

这是思考的“原罪”,或许也是AI的“原罪”。我们无法预知未来、尽管我们在思考;我们无法控制一切,尽管我们在思考。前面已经讲过,在一篇极具寓言的《菌歌》里,作者写道“键入这该死的报告怎么写?写我们必须进行一场祭祀?去问一个无法被数据分析并操控的神灵?还说这些废话干什么!又能改变什么?”。这不是悲观,这是人类进入AI时代后的反思考。反思考不是放弃,反思考只是对我们曾有的思考的再思考。或者说,当反思考将思考仅做为人的唯一技能时,反思考的思考便是:回到未来的原点。人既不是机器的奴隶,甚至可以说也不是思考的奴隶。当我们的通过思考取得的宏大业绩所付的代价,大于人类的幸福,尤其是大于个人的幸福时,与其思考、与其追问,还不如把“村寨的未来交给神灵”。犹如发现了物理三大定律的牛顿最终皈依了上帝一样!亦如阿塔,放下不解的重置程序的丽丽,“望着天,看见几片云,嘴里好像念叨着什么,随后他拉开车门,跳上了车。”