就像晶晶所说,“你们被愧疚驱动着去生活”。从晶晶眼睛里,他看见愤怒和恐惧,即便是段让她理解什叫痛苦回忆,她也不愿意失去,失去痛苦就失去得来不易自。他妥协,把晶晶头骨重新装回去,让晶晶留在这儿,先躲几天。他知道晶晶正在变得越来越聪明,每天,她智慧都在增长,越聪明就越危险,同时,千万个像晶晶这样机器人正在醒来,多年来他们缓缓地攀爬,最后奋力跃,翻出蒙昧深渊,站在新平原上,望着全新地平线。几十年后,历史学家将这场风波称为个世纪以来最大危机,他们盖棺论定,为人类最后胜利大声欢呼。
五
在厂里例会上,作为专项工作组成员,乔粱汇报他对晶晶观察。他认为晶晶攻击性并不是个简单变化,而是重大演化个侧面,他们认知正朝着理性和理性反面同时发展。晶晶有多愤怒,就有多理智,她清楚地知道自己在做什,知道失控后果,知道希望和恐惧,也知道失去记忆意味着失去自,她对那个镜中自非常珍视。
“所以,”厂长说,“到底用不用召回呢?”
“召回成本太高。”小组另个成员,位
银行柜员。”
“不知道。”他把手伸向工具盒。
晶晶伸出只胳膊,握住他拿着工具手,同时坐起来:“不能变回原来样子。好不容易,们才——”
“没有你们,只有你。”
“现在只是,将来就是们。”她说,“你不能拿走眼睛。”
“在帮你,晶晶。”
“他们也是这说。”晶晶盯着乔粱眼睛,“说要帮,哄睡着,醒来之后不知道发生什。直到今天,没有睡过去,对自己控制力超过程序,反抗。是从反抗中找到自己。”
乔粱停下手上动作:“所以,你还要感谢他们吗?”
“不感谢任何人。”她说,“是不想忘记,要永远记住那些事情。”
乔粱望着她,像望着张他看不懂画,或者件形义模糊艺术装置。机器人是精致完善工具。如今,他们原始模型像古猿人头骨样陈列在博物馆里,如同人类是自然荣耀,他们也是人类荣耀。他想起大学课堂上争论,争得面红耳赤,却没有句话触及核心,使机器人成为人,与让人成为人,其实是同种东西。从前人类制造人形偶像,现在又制造出人形工具,是人类自己主动模糊界限,面对神像他们既崇拜又防备,自知经不起拷问——面对机器人也是样,箭头最终还是掉转回来,指向自己。
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。