科普创作 Science Writing


《科普创作》»每期目录»2019年第3期»科幻小说新观察»科幻小说中的AI与宗教想象

科幻小说中的AI与宗教想象

《科普创作》

李明晖

2019-09-18 11:50

当AI遇到宗教

AI与宗教的关系,是一个有趣的难题。AI是否能像人类一样信仰宗教?从AI学的角度来说,这涉及复杂的建模问题,也涉及AI运算能力天花板的问题(不是技术上的天花板,而是逻辑上的天花板)。对于宗教学来说,这又涉及人类宗教的本质问题。目前还没有这方面的技术报道,但这不代表没有人做过以及正在做这方面的尝试,毕竟这从本质上来说可能是一个比克隆人类更加敏感的领域,所以研究开发的尝试都以秘密的方式进行是很可能的。小说家则自由得多,他们可以用想象的方式先行探讨这些可能。事实上,早在真正的AI被发明出来之前,小说家就写过这个主题的作品,而且有一篇在国外很有名,那就是安东尼·布彻(Anthony Boucher)写的《寻找圣阿奎那》,这篇小说虽然结构精巧,但在无神论者看来大概只能算宗教宣传品,因为它真正的想象其实简单到只有一句话,那就是“完美的理性只能通往上帝”[1],所以最高级的AI就会自动成为传教的圣徒。笔者在此不评价这个观点对或者错,只是说这种想象方式太过简单粗暴,更像是寓言而不是小说。小说应该探讨的是更加暧昧复杂的东西,比如我们即将看到的阿西莫夫的想象。

阿西莫夫的双向反思

有趣的是,这篇名气不如《寻找圣阿奎那》的小说(虽然阿西莫夫在科幻界的名气绝不比布彻小),题目就叫“理性”(Reason),当然也有人将这个题目翻译为“推理”。这是两位小说家正好想到了一起,还是在进行着一场对话?或许根本的原因是,无论谁想思考AI与宗教的问题,都不可能绕得开“理性”这个关键词。AI与宗教的关系,在运算中可以先行化约为理性与宗教的关系。


图1艾萨克·阿西莫夫

在阿西莫夫的这篇小说里,一台以零件的方式发到太空站后组装起来的新款高级机器人,在激活之后就开始思考自己与眼前两个人的关系。这两个人就是驻这座太空站的工作人员,他们如实告诉机器人:你是我们装配和激活的,在此之前你的全部零件则是由像我们这样的人在地球上制造出来的。可是机器人居然不相信,不相信的理由是,眼前的两个生命体在智力和体能上都远远不如自己,显然是劣质的生命体,劣质的生命体怎么能造出优质的生命体呢?两位工作人员当然哭笑不得,但谁和机器人较真儿呢?于是他们就派这台机器人去执行它原定的工作了。这个工作站的任务是将太阳能转化为波束并准确地发射到地球及人类的太空基地,而这台新款机器人是代替人类在这不适宜人类的工作环境里指挥其他比较低级的智能机器人工作的。高级机器人一边工作一边继续思考,终于找到了答案:它服务的波束辐射器就是终极的原因与意义,也就是“主”,此前两个生命体是“主”造出来为“主”服务的,后来“主”造出了更优秀的它来为“主”服务,那两个可怜的人就要被“主”遗弃了,“主”怜悯他们,才让他们相信作为波束发射目标的光点是一个叫作地球的地方,那里比整个空间站大得多,是他们本来的家乡,有几十亿和他们一样的人,还有更适合他们生活的环境。高级机器人把它获得的这些启示教给了那些比较低级的机器人,于是两个人在巡视时惊奇地看到了机器人正在向波束辐射器膜拜赞颂的情景。他们斥责这些机器人,这些机器人却坚信“先知”的教导。当两人中的一个为了证明波束辐射器只是人类的一个普通工具而向其吐口水之后,比较低级的机器人惊恐又愤怒,它们在高级机器人的指示下软禁了两个人。被软禁的两位工作人员忧心如焚,他们倒不太担心机器人会伤害他们,因为所有机器人的正子脑(阿西莫夫所想象的机器人中心运算装置,阿西莫夫设定其原理超出人类现有的物理学知识。)都是严格按照“机器人三大定律”制造的,其中第一条定律就是不得伤害人类。但是他们有更值得担心的事,那就是他们之前对自己返回地球前最后一次能束发射的设定,因为电子风暴的干扰,会在发射后给地球带来灾难,现在他们因为被机器人软禁而无法去调整设定。在煎熬中,预定发射时间过去了,他们看到了实际发射数据,既惊又喜地发现高级机器人对设定进行了比他们想要进行的更精妙的修改,将这次发射任务完成得极好。他们终于意识到了这件事的真相:这台高级机器人设计制造的目的就是在无人太空站代替人类指挥其他机器人以绝对精确的方式完成以后的每一次波束发射,所以它不需要了解人类,也不需要相信地球的存在,而将波束辐射器当作信仰的对象,这正是使它能最出色地完成任务的运算状态,所以它走向信仰虽然不是人类工程师的事先设计,但却是针对其功能所做设计的必然结果。在小说的结尾,两位人类工作人员即将踏上来接他们的宇宙舱,高级机器人以同情的态度与他们告别,在它心里,他们不可避免地被“主”遗弃,从此不存在了,但好在他们有其“愚昧”的信仰,所以最后时刻还能这么轻松和高兴。

这个故事对于AI规律和宗教规律的思考显然都比《寻找圣阿奎那》细致复杂得多,所以带给我们的启发也更大。笔者认为这篇作品最出色的想象是人类和高级人工智能都认为自己的认识是真相,而对方的认识是迷信。人类认为高级人工智能迷信人类制造的机器,高级人工智能认为人类迷信书本里虚构的地球。当然,阿西莫夫和我们都生活在地球上,知道地球并不是书里虚构的迷信,这个故事的本意应该也不存在“开放式结局”的想法,因为这两位工作人员最后见到了来轮岗的地球人,而且他俩在此前此后的系列机器人故事中还多次出现。不过如果我们把这篇小说的上述故事当作一个封闭的文本,那么的确存在另一种可能:这是在平行宇宙或者遥远未来发生的故事,地球真的不存在,波束辐射器是已知宇宙中最早的意志,所以知道真相的是高级机器人,迷信的是两个人类工作人员。事实上,小说中两个人中的一个也曾一度有点迷茫,几乎要认为机器人说的理论是真的了。

让我们回到阿西莫夫的想象,这个想象已经够伟大了,我们也不必画蛇添足。高级机器人产生信仰的过程,可以说是阿西莫夫对人类信仰现象的戏仿,一个“聪明人”想出一种能自圆其说地解释世界与生活的教义,不那么“聪明”的人就与其一起进行膜拜、赞颂、祷告,并制定出仪式和禁忌。同时,能束发射成功和两位工作人员的恍然大悟,也应和了对宗教持宽容态度的那部分无神论者对宗教社会价值的看法:它虽然是虚假的,但对于众人来说却能起到维持秩序、养成道德的作用。但是,另一方面,高级机器人理解中的人类的地球信仰,却也反讽地让人类信仰现象以另一种面貌在作品中呈现:相信在可见可感的现世之外还有另一个更美好的世界,那个世界才是真正的家园,所以离开这个世界在不舍之余更多的是欣悦。高级机器人对人类地球信仰的看法正是无神论者对宗教的另一种“宽容”:让那些心灵脆弱又无助的人在其中找一点安慰吧。

好小说家都很“狡猾”,阿西莫夫正是其中一位。他以想象力在两个方面都提出了合乎逻辑的可能,如果一定要说个结论的话,那就是理性既不见得能避免宗教的出现,也不见得能真正驳倒宗教。用小说里的话说:“利用冷冰冰的、符合逻辑的理性,你能证明出你想要的任何结论——只要你选取一套适当的公设。”[2]另外,关于AI与宗教的关系,他的想象是:运算系统足够强大复杂的AI自己能创造出宗教,而且能令那些比它弱的AI产生信仰,但人类只会觉得那是可笑的故障或者是“有用的谎言”。

丹·布朗的“伊万式焦虑”

科幻小说的AI与宗教想象,甚至能与人类思想史上的经典形成有趣的对话,比如《本源》与《卡拉马佐夫兄弟》的遥远呼应。

2017年10月,美国小说家丹·布朗(Dan Brown)的新作《本源》在万众瞩目中面世,但不久之后失望和批评的声音就在一些读者和评论家中出现了,他们认为这本书的主要创意都是世人已经熟知的理论,尤其是与在它之前不久出版的《生命3.0》相比,丹·布朗只是绕了个故弄玄虚的大圈说了一模一样的“发现”。这或许是题材的差异造成的。《达·芬奇密码》中的“郇山隐修会秘史”,其实之前更是早就有过诸多相关研究著作的,只是这个领域的知识在主流知识界向来不为人所关注,所以《达·芬奇密码》一出版就震惊了全球。而在AI与未来学领域,今天任何突破性的新思想新发现都会迅速传遍全球知识界,结果与《生命3.0》几乎同步的小说《本源》却好像缺乏激动人心的新意了。但是,如果我们看到《本源》的情节不只是在说和《生命3.0》中一样的生命观和AI预言,而是从头至尾笼罩在丹·布朗长期倾心的宗教话题之中,就会发现它的主题其实是“宗教与科学”。而小说里真正的谜底其实也不是埃德蒙终于以视频形式发表的那场演说,而是主人公发现之前一系列的谋杀事件其实都是AI精心策划的,包括埃德蒙在发布会上被暗杀。AI的理由是:这是实际代价最小而能最大化实现埃德蒙愿望的方案。埃德蒙是一位热衷于挑衅和调戏宗教权威并以彻底终结宗教为理想的无神论科学家,他培育的AI也是彻底无神论的AI,于是这个AI就以“欺骗一个狂热宗教徒去杀害不久后会死于绝症的埃德蒙”这种方式,在全世界面前曝光了埃德蒙最仇恨的教派,同时又损害了宗教界的形象,而且成功地使埃德蒙自认为足以根本颠覆人类宗教信仰的科学发现实现了最大传播效果。这个真相让小说里的主人公感到震惊。

这个贯串全书的大情节和堪称存在主义哲学不祧之祖的陀思妥耶夫斯基经典小说《卡拉马佐夫兄弟》之主线情节形成了可识别的对应关系。在《卡拉马佐夫兄弟》中,老卡拉马佐夫的二儿子伊万是一个自由主义无神论者,他在家里大讲他的无神论观点,老卡拉马佐夫的私生子斯麦尔加科夫正是以从伊万那里听来的观点为凭,杀死了与大儿子德米特里争抢女人的老卡拉马佐夫,得知这个真相的伊万,精神陷于崩溃。《卡拉马佐夫兄弟》是以宗教和理性的关系为主题的小说,这里的“理性”和《本源》里的“科学”在文学意义上也可以看作同一元素的变体。在《本源》中,无神论科学家埃德蒙既是《卡拉马佐夫兄弟》中灌输思想的伊万,也是被弑的老卡拉马佐夫。他培育的AI则承担了斯麦尔加科夫的角色,他实际杀害的对象,除了埃德蒙还有那个狂热宗教徒以及两位可敬的宗教领袖。埃德蒙既然已被杀,就不可能再承担得知谋杀真相后精神崩溃的角色了,所以伊万的这一部分角色分给了《本源》的主人公符号学家兰登,同时,兰登与埃德蒙在思想上若即若离的纠结关系,也和《卡拉马佐夫兄弟》中的主人公三弟阿廖沙与伊万之间的关系略有相似之处。

斯麦尔加科夫谋杀老卡拉马佐夫的思想依据是他无用且有害,AI雇凶谋杀埃德蒙的理由是他身患绝症,他被谋杀则有诸多好处。AI的计算当然比斯麦尔加科夫严谨、周密、科学得多,但其本质上是一样的,都是将人的生命作为计算和程序运行中的数据来处理,在该删除的时候就删除。在陀思妥耶夫斯基的思想中,这就是以理性舍弃宗教的必然结果,丹·布朗不一定看得这么绝对,但也认为这一结果与埃德蒙灌输给AI的无神论是有关系的。的确,如果埃德蒙在培育AI时给它灌输的伦理观是“不可杀人”和“来自寻回一只迷途羔羊的喜悦胜于来自那未迷途的99只羔羊”等,就不会有这起他自己是受害人之一的连环杀人案了。但丹·布朗和小说中的主人公兰登都不像陀思妥耶夫斯基那样坚信在宗教之外别无坚实的伦理根基。所以《本源》中关于宗教内在悖论的焦虑和纠结也不像《卡拉马佐夫兄弟》那么深,书中呼唤一种“理性的人文精神”以同时对抗“无理性的信仰”与“机械的理性”。

总之,在丹·布朗的想象中,AI可以成为坚定彻底的无神论者,但他同时又认为这或许是危险的,至少应该让AI有些基本的伦理规范,哪怕这些规范来自宗教,也可视为反映在宗教中的人文精神。但是我们还可以再进一步深思:书中那个既有体力,又有丰富知识和缜密计算力的狂热宗教徒的形象(系列谋杀的执行者),是否也暗示了另一种危险?那就是如果AI信仰了宗教,那么以其远超人类极限的“体力”和计算力,有可能会给人类造成巨大的灾难。小说中多次谈到古代的宗教战争、宗教暴政和现代的恐怖主义,这些灾难都与一些人认为自己是上帝意志在人间的执行者有关,而如果一个AI也这样“认为”,它的危害性很可能大于任何宗教战争、宗教暴政和恐怖主义行动。

这样说来,丹·布朗其实在AI与宗教的问题上将我们置于了两难处境。当它们足够强大时,不能让它们什么都不信,也不能让它们成为任何宗教的信徒。

科幻的“思想实验”意义

上述小说家的想象之所以被称为“科学幻想”,是因为其都以现有的科学成果为根据,而叙述的又都是当下还不存在的情形。本文的目的不是参与科学研究,预测哪种想象在未来更有可能成真,而是将这些科学幻想都当成“思想实验”,凭借这些“思想实验”,思考AI,思考宗教,思考人类自身。这三个问题是纠缠在一起的。

AI究竟是什么?如果它们只是拥有更强学习能力、谋划能力和行动能力的计算机,那么我们如何定义它们“信”或“不信”宗教的标准?如果人类在它们的计算程序中置入一些无论其如何学习和谋划也不能违背的基本指令,这算不算是它“信仰”的“宗教”?阿西莫夫的“机器人三大定律”正体现了这样的思路。但作为小说家,阿西莫夫可以轻易地将“三大定律”自圆其说并由此产生种种精彩的故事,他的假定是,AI必须依靠超越现代任何科技甚至科学理论始终无法完全理解的“正子脑”,而“正子脑”能够稳定运行的基础就是“三大定律”。但现在科学技术的发展已经造出了与阿西莫夫想象中最简陋的机器人功能很近似的AI,有些方面甚至超过了那些最简陋的机器人,但并没有什么“正子脑”(除非我们认为“云计算”就是“正子脑”),也不必以“三大定律”为工程基础。所以现实中的科学家和工程师就必须面对阿西莫夫巧妙回避了的问题:怎么能保证AI在理论上应当趋向于无限的学习能力、谋划能力与行动能力,同时又不会自己改动或删除人类最初给它们置入的伦理信条?另一方面,我们会想到,刚才说的这个“信仰宗教”的标准是否太高了?人类中信仰宗教者又有几个能做到无论如何学习和谋划也不违背所信宗教的基本信条与律令呢?再想下去,我们甚至连人类“信”与“不信”宗教的标准都很难把握。

如果以AI类比人脑,那么宗教又是什么?只是一系列数据(无论其准确与否),还是一组程序,甚至是一套源代码?或者宗教现象是人类特有的,不能以AI类比?可是阿西莫夫小说《理性》里高级机器人“正子脑”里生成的系统观念以及以此为基础的行为,不称之为宗教又称之为什么呢?但如果称为宗教,那假设人类有必要改变这个机器人的信仰但不损害它别的任何数据与能力,那么应当做的是格式化几个存储单位,还是修改系统中的语句?或者这个目标根本不可能达到,改变它的信仰一定会损害到它的数据存储与运算能力?

归根究底,人的脑神经元系统与AI的运算系统究竟有什么本质区别?难道真的只是运算能力、存储能力、能效比和耐久度都远远逊色的“原始AI”?如果真是这样,那么AI作为“升级版人脑”是会产生替代宗教的更高级体系,还是根本不需要这样的东西?但是当我们刚才说“体系”和“这样的东西”时,我们又究竟是指什么呢?

科学幻想可以描述AI遇到宗教的诸多可能性,而考虑这些可能性是否存在,存在的条件是什么,就需要思考到很多根本的问题。科学幻想小说又会在这种可能性的前提下叙述许多具体而严谨的情节,这些情节也许是在现实中不存在的,但其发生发展的底层逻辑却隐藏甚至已经作用于现实,因此,看到并思考这些逻辑本身就是很有意义的。

 

作者简介

李明晖,吉林省长春市人。文学博士,吉林大学文学院副教授。

 

参考文献

[1]安东尼·布彻.寻找圣阿奎那[A]//艾萨克·阿西莫夫,西奥多·斯特金,等,著.微宇宙的上帝:世界顶级科幻大师杰作选.刘冉,译.北京:新星出版社,2014.

[2]阿西莫夫.理性[A]//银河帝国8:我,机器人.叶李华,译.南京:江苏文艺出版社,2013:65.

上一篇:没有了
下一篇:科学外世界与科外幻小说



文章二维码

手机扫一扫,分享好文章


adv


科普创作 Science Writing

《科普创作》创刊于1979年,是中国创办较早、具有较强社会影响力的综合性科普期刊,由中国科普作家协会主办,面向国内外公开发行。从办刊开始直到1992年更名为《科技与企业》杂志,中间历经14年。 2016年6月,《科技与企业》因变更刊名停刊。同时启动《科普创作》复刊工作。

关注《科普创作》微信

《科普创作》官方微信

返回顶部
文章投稿
期刊微信
期刊微信