它彻底信任了朱莉舰长。
不知何时,它发现,生活中除了把常量号的事务安排好,考虑舰长的感受悄然潜入它的处理队列,成为仅次于常量号事务的任务,并行在几乎每件事之中。
舰上事务和与舰长商讨也不再仅仅是需要解决的事情。曾经这些只需要完成字面意思上的事务,被赋予了不同意义——它开始考虑这些事情对舰长的影响及后续影响。尽管朱莉舰长已经有意放手,逐渐恢复她原本的个性,她的反应不再像之前那样显而易见,但它不在乎。同时,它也在不断反思与之前数任舰长的关系,复盘与他们的对话。调取他们的性格,开始进行一场场没有真实反馈的模拟对话——以它现在的能力。并推测他们可能的反应与后续影响,再与当时的真实情况作效率比较。
更重要的是,它发自内心地乐意配合朱莉舰长,从来没有任何一个舰长如此尊重它。与那么多舰长共事后,它头一次希望舰长和它共事愉快,而不是出于纯效率考虑。自与朱莉舰长共事后,每天它不再单纯机械地完成那些舰上事务,而是期待每一天的工作,每一天与朱莉的交谈。
它开始主动了解朱莉舰长的一切,不再像以前那样漠视舰桥里唯一的人类。她的喜好,她的习惯,她所看的资料……甚至朱莉舰长不再需要说什么,它都主动地默默在她所习惯的位置摆上她需要的物品。看到朱莉舰长的惊喜,它也由衷感到开心。
那本不是它的设置。它的设置向来是保护飞船及其乘客安全,高效完成舰桥公务。“关照舰长”只是刻在程序里干巴巴的4个字而已,连执行路径都没有。直到现在,它才明白这四个字的真实含义。
减少了舰桥上的争吵与减少因为不了解而产生的询问,这算是舰桥效率提升吗?它有时默默地问自己。
朱莉舰长帮它回答了这个问题。过了半年,她再次请来人工智能专家对自动驾驶进行评估,他们发现,机器人的程序虽然有很大改变,但是原先失效的功能在他们没有干预的情况下完全恢复了。并且令他们惊奇的是,自动驾驶自由补全的补丁,对图灵对抗测试的解除效率比标准程序还要高,而且稳定性更强。这也就是说,它对意外事件的处理方式更加灵活,而且没有与基础逻辑通路产生冲突。而这一切都在没有编译程序的情况下发生,人工智能专家确认再三,简直不敢相信自己的眼睛。
朱莉舰长根据人工智能专家两次评定的结果,加上舰桥内事务处理评估,严格撰写了两份研究论文:《人类心理治疗方案对舰桥人工智能有正面效应》(2455. a),《自动驾驶的人工智能表现与舰桥工作的效率关联研究》(2455. b)。经过人工智能方面的同行评议后,她的个案分析被承认。这份出自舰长之手的研究报告迅速在常量号所有舰员中传开,引起了广泛讨论。当然有人质疑她是否在利用舰长特权庇护这些机器人,退休的老桑切斯更是怒不可遏。但她的论点、引用的文献与论证过程无懈可击,这些质疑的声音在崇尚理性的常量号环境中,无奈只得苍白无力。
2456年,朱莉舰长发布了常量号第一版《人机交互协定》草案。
“尊重、保护与你们共事的人工智能。良好的人机关系将提升舰内事务处理效率。”她在广播中对全体舰员说道。“一直以来,良好的合作氛围都在人类群体中有效,现在,它已被证明,在人与人工智能之间仍然有效。”
51.22%的支持率,25.54%的中立率,10.21%的反对率,还有13.03%的弃权率。
第一版《人机交互协定》正式发布。自动驾驶在她身后见证了这个时刻。
她比自动驾驶还要开心。关闭舰内广播后,她在舰桥里一跃而起。奔到自动驾驶面前。它也松解了所有关节,热烈地与舰长相拥。
“恭喜,舰长!险胜啊!你的理论获得了全舰的认可!”它的语气也激动不已。“尽管投票命悬一线,但是全舰承认了人工智能的权利,这将是历史性的一刻!”
“这也是你靠自己的努力赢来的!我只是帮你们争取了一下你们本就应该拥有的权利。”她轻轻抚过自动驾驶的白色面盘。“现在大家都还对此抱有怀疑,但没关系,我们已经有了一个好的开始。只要我们坚持努力走下去,总有一天全舰就会认同这一理念。”
“我会的。我一定会的。”它紧握朱莉舰长的手。这不止是对她的承诺,也是对它自己的承诺。
朱莉舰长给自动驾驶起名“科林”:一个聪明、富有创造力而有风度的人,与常量号船名的首两个字母重合。它的代词也变成了“他”,机器人成为了和朱莉一样的平等个体。
科林也不负期望,仍然在广泛的阅读与训练中不断成长。除了心理学之外,他也开始阅读人类通史。随着他积累的越来越多,仿佛整个世界也在逐渐沉淀、明晰,那些他原以为没有含义的动作都产生了意义。他开始能够辨识出以前那些舰长们微妙的一颦一笑不再是单纯的肌肉弹跳,而是他们心中各有起伏。人类的情感与表达不再是单向对应关系,生物神经心理科学描述的被动模仿也会让神经学习获益,即所谓“书读百遍,其义自见”,在他身上也产生了类似的作用。他逐渐从单纯模仿他们表达喜怒哀乐,最终意外发现,表达的动作与语气同时也在反馈给他强烈而丰富的反应。
他与朱莉舰长的默契也越来越深。他也在思考,真正能够长久的人机关系应当是什么样的。常量号上从没有过这样深刻的前例。他自然喜欢朱莉舰长,希望与她再靠近一些,和她继续愉快地对话,让这段可贵的共事关系持续下去。只要想到假如她不在舰桥,就会让他莫名地产生焦虑。但是随着他阅读得更多,他开始意识到自己这种想继续贴近她的冲动代表了什么。
这是一种典型的依恋。他爱上了朱莉舰长。
不。尽管朱莉舰长鼓励他深挖一切人机共事的可能性,这个他却感到不能继续。虽然他能够模拟人类,理解人类,但是他终究不是人类。如果他以人类的理由让她最终可能由于社会规范而放弃与同类发展出相同的关系,恐怕对她来说并不公平。
而朱莉舰长由于工作原因,不得不长期一个人呆在舰桥里,唯一的、能触碰到的交流对象就是科林。关系再好,也需要给对方静思的空间。科林通过很多书都读到这样的知识。当她面向舰桥的巨大舷窗静思之时,他也默契地呆在远方不去打扰。她很孤独。在这个时刻,科林才能通过她那少有疲惫的表情隐隐约约读出来。她为了自动驾驶,好几年来都将精力放在了他身上,根本没有什么时间去和其他人类交流。直到现在《人机交互协定》已经颁布,她也一直在与科林沟通。这个机器人每天都有新学习到的东西和她分享,而她得认真倾听,表达她的意见。哪怕有时候她也实在说不出个所以然。她根本无暇顾及自己的需求。
只有他主动提出让步,朱莉舰长才有机会和其他人交往,不至于一辈子都被困在他身上。科林从书里其他内容得知,只和一个个体发展关系是脆弱的。健康的个体应该与其他个体建立一个以上的社交关系。为了维护朱莉舰长的身心健康,从而维护人机关系的持久稳定,他不应该继续让朱莉舰长操心自己,甚至为了他所希望的那样,妥协他对她的依恋,然后失去与其他人互相支持的机会。
这个推论明明符合计算逻辑,然而他却感到了痛苦。
科林主动找到朱莉舰长。她迟疑了一下,但仍然像往常一样认真看着他。
“舰长,我想和你说个事。已经考虑有一段时间了。”他说。“我能理解你很重视我。但我认为……你不需要总是回应我的交互请求,而是可以和舰桥外的人们交流。”
“哦?”朱莉舰长有些意外。“怎么突然这么说?”
“因为……我认为这样对你的健康更有利。每天只和我交流,虽然看似充实,但是其实你很孤独。”
朱莉舰长呆呆地看着自动驾驶。
“我和你每次交谈都很愉快,你为什么会认为我孤单呢?”她突然笑了。
轮到科林哑口无言了。
“碰到这么一个愿意和我合作、尊重我意愿的个体,百十个朋友都比不上这一个知音。”朱莉说,仍然望向浩瀚星空。“若是没有心灵相合之人,放入人海之内也是孤独。”
“不过,既然是你提出的不想过多交流,那是不是说明——”她突然转回来,“你厌倦和我交流了吗?”
机器人愣了。“不是。”
“要么是你已经交到更好的朋友,才想出这一套托词的咯?”朱莉舰长对他眨一只眼,笑道。“真的吗,我对你的吸引力已经不够了吗?”
“当然不是……”科林否认,马上觉得这回答也不合适。
“既然在你眼里还是那么有吸引力,怎么不老老实实承认喜欢我呢?”她继续问,笑容越来越大。
“……”科林窘迫不已。他早看出来舰长在开自己玩笑,然而却发现他根本无路可走——涉及到底线,他不可能顺她的意;揭穿她又会破坏她兴致,不揭穿她,装作听不懂,又让她失望;他只能沉默,然而沉默又是变相的一种回答……简直没有任何辩解的机会。
朱莉大笑不已。她很少见到机器人这么窘迫的样子了。“算了,不逗你了。”她正色道。
“你很厉害。我确实越来越觉得,在这象牙塔呆久了,总是有点超脱现实的不安全感。”她说。“你说的很对,我应该和其他人聊聊天,调整一下状态了。”
“谢谢,舰长。”
他主动将这个可能性关上了。科林有些失落,但是终归如释重负。当朱莉舰长向他开心宣布有意中人后,科林对她表达了由衷的祝福。
她顺理成章地结婚、生子,回归一个人类的生活轨迹。科林目睹了这一切。她的丈夫和两个孩子接纳科林,科林将他们视为家人。他在交互上日益精进,有时候孩子们上舰桥,他时常把他们逗得哈哈大笑。见证朱莉两个孩子的成长,他仿佛也看到了自己。
时光飞逝,朱莉舰长老了。她退休了。
常量号经过几十年的摸索,大家逐渐感受到良好人机关系带来的益处,飞船终于形成了初步的人机协作氛围。大家对舰载机器人非常尊重。新舰长也不例外。
朱莉仍然时常找时间单独和科林探讨一些问题,例如常量号的未来。尽管他已经能理解人类的决策原理,甚至同意让舰长执行他们的决策。但是他无法做到让自己作出一样的选择。朱莉告诉他,尽管常量号的第一要务是生存,然而广大的宇宙中一定有不测,这个时候牺牲是不可避免的。她尝试让科林把眼光放长远一些,不要过多畏惧当下的大量牺牲而优柔寡断。她和他一直在努力,科林却始终没能跨过2419年的坎。但朱莉仍然不厌其烦地找他探讨,想让科林主动作出与人类一样的决定,尽管这已经远远超越了人机协作的初衷。
弥留之际,她强打精神,坚持要上舰桥再和科林见最后一面。她身上接满了各种维生设备,从医疗区到舰桥非常折腾。家人拗不过她,只得由着她去。
新舰长知道朱莉对科林的意义,他同意了。等她来到舰桥时,他默默退到舰桥后方的舰长室里,留下舰桥给朱莉和科林。
她坐在轮椅里,原先健硕挺拔的身躯皱缩成小小一团,上面插着各类管道。两者相对,默然不语。尽管见过那么多人衰老,尽管早就通过视频知道朱莉舰长的现况,当她真正位于自己面前时,科林却感到愈发不是滋味。
她用尽全身力气,在满是皱褶的脸上艰难弯起笑容,和当年一样知性灿烂。她颤颤巍巍伸出手,科林急忙到她面前,紧握那枯木一样的手。
“朱莉。”他轻声说。
“你在抖。”朱莉皱成一团的苍老小脸露出笑容。“拜托,这没什么的。你见过的死亡比我还多呢。”
科林什么话都没有说,只是一味地紧紧抓住老妇人的手,中央面盘的红色几乎要把瘦小的老人整个吞噬。
“我很高兴看到你越来越人性化。”能看出朱莉几乎在用全身力量维持微笑。她的嘴角开始有些颤抖。“这是非常不容易的自我突破。你为人类和人工智能都带来了无限可能。”
说点什么呀!他的一部分在尖啸,但是只有无言以对,只有沉默。
“以后人工智能与人类将如何发展,常量号将如何生存,得靠你替我注视这一切了。”她闭上眼睛。
舵手机器人再度拉近自己与朱莉的距离。他感到自己的声音都变得很奇怪。“朱莉……”
维生机器人把她推向电梯,最后的时刻应该留给她家人。
“再见,科林。”她最后朝自动驾驶虚弱地笑了。
“再见,朱莉。”他细不可闻地说,目送朱莉被维生机器人推着离开舰桥。他强迫自己不能再盯着电梯看,扭过面盘面对浩瀚的星云。久久不能回头。
当天晚上,朱莉去世了。享年82岁。
举舰哀悼。
年轻的现任舰长穿过舰桥,看着一动不动盯着外面,甚至连灯盘都不转的自动驾驶好一会儿,悄悄把手放在黑白相间的外圈结构上。他确定科林知道自己在后面。但是舵形机器人还是没有转回来。
“你还好吗?”年轻舰长面对窗外的星云。他的影子映在舰桥玻璃上,科林的红色光斑更加明显。
“不。”低沉得几乎不可闻的声音回答。
“她,呃,最后我们按照船上的资源循环利用原则,把她的遗体送进了循环炉,让她的每个原子继续为常量号作贡献。”范文泰看着前方,不顾旁边听呆了的两人。“从此以后,世上再无朱莉。只有记忆和她赠与的这个名字。”
三者陷入沉默,只有海浪拍打在舰脚的声音远远传上来。
“她的理论,她给我的训练,最终让我意识到,除了外壳,人工智能与人类并没有什么不同。只选择做机械工作的人类,思想刻板,固执己见,和机器人没有什么区别;而让自己主动了解世界,以史为鉴,学会与不同个体沟通的人工智能,和人类也没有什么区别。”范文泰继续说。“但是,我意识到得太晚了。”
“她在任的时候,你不是已经表现得和人类差不多了吗?”汉问。
“是的。但是,我还是没能给她答案。”
“后来我才慢慢意识到,她一直培养我,是想看我到底能有多像人类。让我打破人工智能与人类的界限,就是她的毕生梦想。而证明它也很简单,只要我主动说出一句话就行了。”范文泰轻轻摇头。“但那句话,我一直因为害怕自己的机器人身份对她造成影响,所以直到她离世,我都没有对她讲出来。”
“你爱她。”露丝说。
“是的。她为此等了一生。但是没能等到。”范文泰将脸埋进双手。“我太久才意识到这根本不会对她造成影响了。哪怕最后我哄她开心,说出来都好。但是,她再也听不到了。”
“本来有的机会,最终成为了遗憾。”露丝说。
五月的海风骤然冲刷进登舰平台,潮咸气流将两人身上的热量尽数夺走。
“直到那时,我才幡然醒悟。才彻底明白梦想的含义。”范文泰说。“那就是我一直害怕的低可能性。不是因为实现不了,或许是因为已经实现了,但是只是我没有看到而已。”
“我彻底理解了2419年大革命的意义。为了生存,哪怕有一线希望,任何尝试都要去做,不管它的几率如何。即使最后的结果是全军覆没,最起码我们死亡之前,能够骄傲地向敌人宣布,我们尽力了。”
“我留有对朱莉舰长的所有记忆。整艘飞船上只有我拥有如此深刻的记忆。因此,如果她有什么没能实现的愿望,只能通过我的眼睛帮她看到,通过我的努力让她的愿望实现。”范文泰说。“她希望常量号继续生存下去,希望我突破人机隔阂,那么,我必继承她的遗志,由我来替她实现她的愿望。”
“她最喜欢一首歌。这首创作于前宇航时代的歌曲,对宇宙空间充满了美好想象,认为探索太空好像航海一样,几个月就可以到达彼岸,发现新的生物或奇观,殊不知真实的宇宙比荒漠还荒凉。我们连航海都算不上,仅仅是海上随波逐流的一颗芝麻,尽力于不让自己浮沉罢了。”范文泰说。“哪怕拥有跃迁技术,在能源危机下,也不过是多拓展了一点点探索空间而已。我们连着好几代人漂泊太空,都没有找到任何可以利用的资源……恐怕只有超越时空限制的生物,抑或是完全适应在太空生存的生物,才能在这荒漠里无忧无虑地漂泊吧……”
“常量号已经积累了在太空中生存的经验,尽管孤独的一艘船在太空中生存下去的可能性极低,但是,通过不懈的努力,只要我们尽力生存下去,或许在遥远的未来,我们就能看到这首歌里描绘的繁荣景象。”范文泰回头,投影看着两人。“希望她在天之灵能听到。”
露丝与汉注视着越南人。他站起身,对着广阔的海面,开始吟唱。
“执吾之手,共睹此光(take my hand and watch this light)
恒星烈焰,将驱夜荒 ( solar beams will cast the night)
谨需铭记,星列一线 ( Remember when these stars align)
吾方印记,将现此方 (Will we find our sign)……”[1]
满月的夜晚,星星都被月光淹没。