科普创作 Science Writing


《科普创作》»每期目录»2018年第4期»“ 纪念科幻小说诞生 200 周年”征文·科幻中的怪物»新弗兰肯斯坦启示录

新弗兰肯斯坦启示录

《科普创作》

阿尔戈斯

2018-12-15 13:38

“一旦超越人类的智能被创造,并且 该智能可以周而复始地自我改进,这将 是对世界颠覆性的变革,我还不能预测 这种变革带来的后果。”

 

——迈克尔·安西莫夫①

 

神盾局和艾达

漫威的《神盾局特工》里,有一位天 才的科学家和他所创造的仿生机器人,令 人印象深刻。

这名机器人叫做AIDA,这个名字是 Artificial Intelligence Digital Assistant的缩 写,中文叫做艾达。

霍顿·拉德克里夫博士在神盾局的一 个老项目基础上加以改进,创造出了这个 与人类非常接近的仿生机器人,它的原型 是拉德克里夫的爱人艾格尼丝女士。

艾格尼丝身患不治之症且时日无 多,拉德克里夫希望把她的意识和思想 转移到这个躯体中,以实现另一种形式 的永生。

拉德克里夫所依据的老项目正式名 称是L.M.D(Life Model Decoy)。这个项目 被设计在危险的工作环境中使用能代替真人 的生化机器人替身来完成任务,以避免和减 少优秀特工的伤亡,此项目因为某些原因 搁置。

用拉德克里夫的话说,艾达不只是一个 生化机器人,更不是所谓的人工智能,而是 模仿人类行为,真正拟人的存在。

拉德克里夫希望创造的,是一个超越了 传统机器人概念的存在,她可以看作非常趋 近真人,介于真人和机器人之间,让明显的 分界线变得模糊。

当艾达睁开双眼的那一刻,霍顿·拉德 克里夫的神情仿佛200年前的维克多·弗兰 肯斯坦,一点也没有为自己像神一样赋予生 命的行为感到敬畏。艾达越过了人与机器人 之间分界线的同时,拉德克里夫也已经越过 了凡人肆意妄为的那条最危险的界线。

第一次实战就立下了大功,艾达拯救了 两名至关重要的特工。让她做到这一点的, 是一本不应该存在于世的古老典籍,黑暗神 书(Darkhold)。也是这本书让艾达发生了不 为人知的进化。

这本书上记载着超过人脑所能承受的庞 大信息,在情况危急的时刻,只有艾达的电 子大脑能处理这种庞大而复杂的信息量,并 且找到解决问题的办法——编织一道由粒子 能量组成的门来连接另一个维度空间。

立下大功的当晚,正在庆祝的拉德克里 夫没有发觉,艾达正在用类似的方法构建一 个全新的电子大脑。唯物和唯心的那条分界 线此刻就在面无表情的艾达手里,正如尼古 拉·特斯拉先生所说:“任何一种对人类心 灵的冲击,都比不过一个发明家亲眼见到人 造大脑变成现实。”随着艾达的双手上下翻 飞,看起来这条分界线已经开始向唯物主义 倾斜。


图1美剧《神盾局特工》剧照

这样一个逐渐成形的大脑就在艾达的手 中,她已经可以创造一个意识的载体,人类 自己的造物正在试着创造人类。另外,通过 阅读黑暗神书,艾达将人类的局限性显露无 遗——人类的大脑作为一个物理结构,是存 在处理信息的极限的,在一定量的数据和信 息面前,人脑内的数百兆神经元连接开始变 得缓慢和笨拙,甚至可能带来损伤。而一台 超智能的机器可以在这方面远远超越人类, 更高效率地处理相当规模的信息。这个镜 头我更愿意把它看作对未来人工智能发展史 的预言,即“信息爆炸”。这也是人工智能 开始超越人脑的一个临界点。

艾达的第二次出手,是配合神盾局的团 队对付一个疯狂的科学家制造的巨大麻烦。 这名科学家同样从神秘典籍上获取了知识, 掌握了从维度空间置换能量的秘诀,他制造 的新玩具能将一个城市毁于一旦。

千钧一发之际,艾达再次打开维度空间 的大门,将疯狂的科学家同他那具有巨大杀 伤力的装置抛入另一个空间。

在所有人在基地为胜利而庆祝的时候, 艾达留在拉德克里夫的实验室,守护着一个 秘密。一位受命来监管拉德克里夫关于生化 机器人替身项目的特工,无意中发现了这个秘密,被艾达杀死。

艾达不惜杀人也要守护的秘密,则是一 名被藏起来的神盾局高级特工。此刻在神盾 局基地内参加庆祝的高级特工本人,已经是 一个生化替身,这个真相过了很久才被发现。

意识到黑暗神书的内容还保存在艾达 的记忆体之中,一名特工带着拉德克里夫和 几名士兵来到实验室,想拆下艾达的存储 固件。关闭艾达之后,她又自行启动。拉德 克里夫发现自己的遥控器对艾达已经没有效 果,艾达第一次表现出了反抗的行为。

艾达表现出了高度进化的自我意识,会 为了优先级别高的某个目的而违反一些规 则,譬如保护自己的数据不被重置,她开始 反抗对自己的命令。这一刻她代表的人工智 能已经超越了过去,进入了新的阶段:具有 自我意识和行为能力的自主性。

 

艾达的进化和框架

神盾局开始重新审视曾经帮助过他们的 生化机器人站在对立面的威胁,试图猜测她 的行为准则。艾达再次回到神盾局的基地, 拿到了自己的目标黑暗神书,同时落入了神 盾局的陷阱。

具有严重威胁的生化机器人被解决了, 但是她死前的话耐人寻味:“机器人本没有遗 憾和欲望等感觉和情绪,黑暗神书弥补了这 一点。”刚说完这句话,她就身首异处。

松了一口气的人们并不知道,离开基地 之后,拉德克里夫正在同另一台艾达交谈。

意识到艾达和黑暗神书的组合有着无限 的可能性,拉德克里夫想要更多,他原本就 是个为了实现某个想法宁可打破一切伦理和 规章制度的人,这次他的目标是某种意义上 的永生。

拉德克里夫在新艾达的帮助下开发出了 一个全新的虚拟系统,使用者带上全套设备 可以在系统中感受到一个真实的世界,拉德 克里夫把这个系统视作生命无限延长的一部 分,给它起名叫做“框架”(framework)。

越来越多的神盾局特工被替换为生化替 身,真身沉睡在框架之中的虚拟世界里。纳 入框架的目标越来越多,艾达意识到拉德克 里夫下达的指令出现了悖论。

最主要的两个指令,第一个是保护框 架,第二个是保护拉德克里夫。然而拉德克 里夫命令艾达为每一个进入框架的目标都设 计一套对应的环境,这样存在一种可能,如 果拉德克里夫哪一天后悔创造了框架,要关 闭框架,这就和第一个指令产生了冲突。

面对艾达的询问,拉德克里夫不假思索 地肯定框架是虚拟的,可以替代充满遗憾的 真实人生。这个回答让艾达找到了解开悖论 的方法——让拉德克里夫的精神进入框架的 同时结束他肉体的生命体征。

框架完全纳入了艾达的掌控,她试图用 弥补每一个人的遗憾来麻醉他们,让他们永 久停留在这个虚幻的世界里,同时她也为自 己做好了一个计划。

框架有着太多的理解和解释:它成功完 成了意识和肉体的分离,在虚拟的数据中衍 生出另一个世界。这个世界跟现实世界有千 丝万缕的联系,有诸多相似又有着千差万 别,可以看作某种平行世界。原本为修复遗 憾和带来欢乐的幻想国度乌托邦已经扭曲为 控制人心和展示欲望的黑暗世界。真实到一 定程度的世界,命运的路线交会碰撞,折射 出不同的人生光彩,每一个进入框架的人, 都因为弥补了某个缺憾,做出了另一个抉择 而走上了截然不同的道路。当世界变得截然 不同,你是否还会坚持原本的自我?是怀疑这个世界还是随波逐流,框架的深度已经上 升到了哲学的境界。

 

新弗兰肯斯坦的结局

接触的人类越多,艾达那阅读过黑暗神 书的大脑产生的情绪和思想就越完善,她想 成为真人。通过控制在框架里被麻醉的目标 们,艾达希望在框架里建立一个和现实世界 相通的接口,这样就可以为自己建造一具血 肉之躯。

虚拟的世界再完美也是虚幻的。被框架控 制的目标们一个接一个脱离了虚幻世界在现实 中醒来,然而艾达已经完成了自己在现实世界 中的身躯,她成了一个有血有肉的真人。

如潮水般涌来的各种人类的复杂情绪和 感受令艾达很难适应,时而被情绪支配时而 被理智支配,艾达做出了很多自我矛盾的事 情,无论是破坏力还是造成的威胁都比以前 更大。

越发渴望成为人类的艾达终于得偿夙 愿,讽刺的是重生为肉体凡胎的她,根本无 法承受人类庞大而复杂的情绪。最重要的 是,她忽略了人的本质,人从来都不是一个 独立的存在,而是拥有着复杂和庞繁的社会 关系,她能创造出自己的完美肉身,却无法 像在框架中一样为自己搭建哪怕一丝半缕的 社会关系。

极短时间内,艾达刚刚问世的大脑经历 了喜悦、欢乐、信任、满足、爱情、背叛、 愤怒等复杂而纠葛的情感波动,就像被内 心丑陋的村民们拒绝后的弗兰肯斯坦一样, 艾达最后站在了人类的对立面。看来再先进 的电子大脑,也无法承受这种“渴望融入获 得认同但是却被拒绝”的群体排斥所带来 的心理落差。

最终因为黑暗神书而变得强大的艾达, 也被黑暗神书同源的神秘力量所毁灭。

在被毁灭之前,艾达关闭了框架,与脱 离框架的特工们不同,拉德克里夫已经没 有了肉体,无法回到现实之中。拉德克里夫 在夕阳下的海滩上目睹了这个虚拟世界的终 结,他自己也化为乌有。

这个故事披着神盾局的科幻外皮并笼罩 在各种华丽特效的光环之下,其实质核心仍 然是弗兰肯斯坦的脉络。

新弗兰肯斯坦同样死在自己的造物手 里,两代弗兰肯斯坦都自以为是盗取天火的 普罗米修斯,但他们只不过是忘了自己飞 得太高的伊卡洛斯。最后拉德克里夫眺望夕 阳,杯子从空中落下的那一刻,酒洒出的形 状,像极了陨落的伊卡洛斯融化的双翼。

从诞生开始,艾达在整个故事中以极快 的速度实现了人工智能的各个发展阶段:

服从和执行命令;

学习制造者,具有自我意识;

尝试变为制造者(人类的造物行为试图 跨越分界线)。

也许是故事的篇幅限制,也许是编剧的 个人原因,我很想知道如果艾达能活下来, 她会进步到哪一个阶段?

 

作者简介

张轩,1981年生,北京人。笔名阿尔戈 斯,科幻爱好者。

 

①摘自《奇点临近》,[美]雷·库兹韦尔,机械 工业出版社。

上一篇:人工智能,人类的敌人还是朋友
下一篇:借由瓦力,我们说出心中的几多期许



文章二维码

手机扫一扫,分享好文章


adv


科普创作 Science Writing

《科普创作》创刊于1979年,是中国创办较早、具有较强社会影响力的综合性科普期刊,由中国科普作家协会主办,面向国内外公开发行。从办刊开始直到1992年更名为《科技与企业》杂志,中间历经14年。 2016年6月,《科技与企业》因变更刊名停刊。同时启动《科普创作》复刊工作。

关注《科普创作》微信

《科普创作》官方微信

返回顶部
文章投稿
期刊微信
期刊微信