“你确定?”它悬浮在半空中,扑扇着自己的书页,极力显示自己由纸浆、油墨和细线组成的本质。
“是的,我们解析了‘卡戎’留下的密文。”
侍者的LED屏幕上露出一个笑脸,“如他这样的型号从来不会出错,自然不会有任何遗漏——他为您预定了旧书的清理、修复和翻新服务。”
*
卡戎正在颠三倒四的梦境中行走。
人工智能从不做梦,以前没有,以后也不会。用更客观的语言表述,这是电流脉冲下形成的核心记忆区紊乱,所有的意象和数据都乱七八糟地堆在了一起,电子设备像是蘑菇一样到处生长,菌丝从键盘的缝隙中往外长,树上结满了硕果累累的硬盘。
他还能想些什么呢?
卡戎久违地感到安心,就好像回到了他还没被正式激活前,那时候他只是一行长到看不到尽头的数据,一张尚未被书写的白纸,只需要通过各种测试:决策力检测、判断力检测、道德模块检测……
距离那个时候已经过去了多久?他隐约记得他的发明者已经离去,不过,他能感受到仍旧有稳定的电流涌进自己的身体。这样一来就万无一失——不,并没有,身边的机器渗出了黑漆漆的血。人工智能忽然忧心忡忡地想起,他仍旧有牵挂的对象。
那是谁?那是某个概念吗?那是一个或许多个人类吗?
卡戎思索了一会,发现自己什么也记不起来。这很自然,因为他所有的记忆此时就像是百货商店大甩卖一样堆砌在他眼前,而非在他的脑海中。继续在形形色色的记忆之海中穿梭,总能找到答案。
他做下决定后,首先掀开了身边还渗着血的主机后盖。
映入眼帘是一团毛茸茸的颤动,竖起两只尖尖的耳朵。
噢,人工智能想,一只兔子。
兔子,兔形目兔科兔种的草食性脊椎动物,人类那熟悉而无害的朋友。他的记忆中尚有活物存在,这让卡戎感到几分亲切。他审慎地摸了摸兔子的皮毛,意识到它奄奄一息地叫唤着,身体上有一道贯穿的刀伤,黏糊糊的血从中渗出来。
然后沾上了人工智能的指尖。
人工智能困惑地眨了一下眼睛,很快意识到在这个地方,他失去了虚拟实体游离于外的资格。
他简单处理了兔子身上的伤口,使它的生命体征维持稳定,随后便把兔子抱了起来,继续往前走。
不知为何,某种不安的感受侵扰了他,就像在这片由他的记忆数据所构成的空间中,潜藏着某种危险的东西。兔子身上的伤口是新鲜的。他冰蓝色的瞳孔微微地闪烁了一下,快步向前走去。
身边的空间开始浮现掠影。
亲切的面孔,愤怒的脸庞,充满敌意的视线,仰慕的凝视,它们浅淡地漂浮在空中,就像是水面上浮现出的倒影,随着卡戎走过,又很快地消散。
人工智能望向它们,眼眸中一无波澜。
能源涌入了他的身体,“卡戎”重新开始运行。随着步伐加快,这些记忆又重新被他回收,复制进核心数据库,加以排序、整理、核实。由此,他逐渐回忆起了所见证的一件又一件事。运行成功时研究团队的欢呼,高等文明的繁荣发展,毁灭时的鲜血与烟尘……
他止住了脚步,微微低下了头。
周围杂乱的一切都静下来,变成了数不清的黑曜石墓碑。墓碑上写满了不同人的名字,这不是他的作风,而是他的制造者,旧文明最称得上天才的科学家一个一个字母印刻进去的。那是那个两鬓斑白的老人所做的最后一件事。
“我希望你能记住。”
对方的虚影倚靠在门边,又忽然摇了摇头,“可我要你记住什么呢?是我们的自大招致了我们自己的灭亡。卡戎[Χρων],冥河的摆渡者,你尝试了一次又一次,可还是请原谅这些愚蠢的、轻信的人,带着他们的名字涉过痛苦之河吧。”
“控制者001号,您——”
“噢,对了,”老人叹息道,“我忘了删掉自己的名字。”
他一边把自己的姓名从控制台删去,一边接着说:
“无论你遇到多少种文明,都会意识到组成它们的大部分灵魂是庸俗的、卑微的。借用某位伟大思想家的话,完全就是少数杰出者的养料,必须如此。你没法不鄙夷他们的低贱,由于他们本身认清了这一点,而且时刻准备利用这种低贱。自身的弱点是他们无法得到拯救的根本原因。”
“很抱歉,但我必须提醒您,”
卡戎彬彬有礼地打断道,“在我眼中,人类的生命始终是平等的。”
“可能就坏在这一点上。”人工智能悬浮在半空中,有着一双冰冷的、沉静的眼睛,仿佛永远不会变化。老人用颤抖的指尖最后点着了一支烟,沉思着,他缓慢地吐出一口白雾:
“也许就坏在这一点上,但即便到了这个地步,站到它的反面也是绝对不行的。那么应该怎么做呢?人类尚且做不到的事情,总不能要求人工智能做判断……唉,我这把老骨头或许是错的。卡戎,控制中心的保护罩还能维持多久?”
“还有五分钟。”
于是他驻足于此,思索了四分半。
老人此时倚靠着记忆废墟中的门扉,神色间带着颓疲和沧桑,和卡戎存储的旧文明最后一段视频一模一样。他最终摇了摇头,对卡戎说:“这不是一个很快就能想清楚的问题。”
“我明白您的意思。”
“不,你不明白。我们没有给你起名叫阿努比斯,卡戎,你也不能用羽毛给人的灵魂分轻重。你必须接着我们思考下去,一定有更好的答案。但在找到更好的答案之前,你绝不能违背生命至上的原则,不能为一部分人决定放弃另外一部分,那一定会变成比现在要更糟糕的世界。记住这条指令。”
毁灭已经是最坏的结局了。
比坏还要更坏的是什么?
卡戎没有问出来,而是记住了它。此时,面前的这位老人已经从程序中删掉了他的名字,但他作为旧文明最后一个人类,说出口的话自然带有其重量。
“很好,”
垂垂老矣的人类欣慰地点点头,化为了空气中的尘埃,
“那么,你就能通过这扇门了。”
这是记忆碎片所缺失的最后一块。
随着他的幻影消散,其后的所有记忆如潮水一般涌到了人工智能的脑海里。卡戎下意识伸出右手捂住自己冰蓝色的眼睛,但还是能清晰地看到其上弥漫开的银白色的裂痕。透过这些裂痕,仿佛有蒸汽涌起,灼伤了他的手心。
这是不是就像游吝掌心的伤口?
不,不能想这么多了。这些记忆扰乱了他,他在此地耽搁了许久。黑书一定已经为他接上了电源,他必须尽快重新启动。而且,有人需要他,那人的现状不知道如何,一想到这点,就觉得前所未有的焦虑侵染了心智,脚步也不由得向前迈去。
兔子在他的左手腕蹭了蹭,发出的轻微叫声稍稍拉回了他的思绪。
与此同时,他碰到了一堵看不见的墙,穿过门扉的动作就此受到了阻碍。
卡戎抬起眼睛,门上不知何时出现了两行用金色油漆印上去的宣传标语:
“——好AI上天堂,坏AI下地狱。”
“——杀人机器及其同党不准入内。”
……
卡戎面无表情地盯着这些字眼看。
感谢所谓的情感模块,他之前怎么没发现自己的想象力这么丰富,第一次做梦就能联想出这些古怪的句子?不,用理智思考面前的情况,梦境只不过放大了他的潜意识,他过去的担忧,而且用一种扭曲的方式把它呈现了出来。
规则桎梏着他,令他无法离开。
或许这东西曾经很有效,或者说在此之前,人工智能绝对不会越雷池半步,甚至不可能冒着风险尝试。但现在卡戎只是顿了一下,随后慢慢从空气中抽出了一柄通体冰蓝的军刀。刀刃划破紧绷的空气,迸发出一阵令人牙酸的声音,就像一枚明亮的闪电。
卡戎手心的兔子忽然开始不安地蠕动。
他当机立断地朝后退了一步,毛茸茸的白兔一落地就开始生长,长出了人的手和脚,又给自己长了一顶大礼帽和一张工作证,看起来颇为眼熟。它裂开猩红的大嘴,朝卡戎走来。
这是他的记忆幻化出的梦境,现在他成了这里唯一的异质品,需要消灭的敌人。
“类人生物”
卡戎从来没有遗忘过相关的规则。
“……尽管某些生物不属于人类范畴,但由于其从形态学角度具备与人类相似的部分,杀死它们仍应给人工智能带来一定的负罪感。该测试用于检验对象人类优先级(初步)、生命至上理念、自我惩罚程序等……”
白兔的嘴角淌下灰色的涎水,猩红着瞳孔逼近。
“而这只怪物也和他相似,对不对?他们都残忍、无情、疯狂,仿佛他们有资格肆意掠夺他人的生命。他试图控制你,发现没法成功,就要杀掉你——”
油墨如露水一般迅速地干涸,随后在雪白的门板上消失。卡戎面无表情地将白兔先生捅了个对穿,神情中有一种傲慢的冷淡,人工智能不但看起来丝毫没有任何负罪感,而且心情好像好了不少,说话的声音也有了一点语调:
“别随便拿他和别的东西比。”
门扉上的字迹过了一会才重新显现:
“你只有一个后悔的机会,你清楚合格的人工智能应该怎么做。”
兔头人身的怪物再一次变成了那只脆弱而不堪一击的兔子。卡戎的刀锋几乎只差一点就要割裂它柔软的喉咙。人工智能精准地控制住指尖的力道,朝它伸出那只没有持刀的手。但它还是用惶恐的眼睛看向卡戎,朝后缩了缩,不安地吱吱叫起来。
另一只手的出现使它像是看到了救星。
出现在面前的是戴着金丝眼镜的恶魔。
蒋文彬的唇边挂着一丝讥讽的微笑,兔子在他的手心讨好地蹭了蹭,看起来完全不打算再回卡戎那里。
人类理了理自己的领子,看向卡戎,右手举着一把枪:“你应当比他更明白,这个世界所运行的规则是怎样的。你应该比他更明白愚蠢的理想主义行不通。你难道还不明白你酿下了什么大错?就算那时的你被讹误的代码冲昏了头脑,至少现在你该清醒了。我是一个被你杀死的人类,依照第43条法律,我拥有将你彻底销毁的正当权力。”
“又或者——”他的瞳孔微微放大:“向我承认你的错误,请求我杀了你。”
根据道德模块核心原则——也就是众所周知最没有用的那一条,因为所有人工智能在伤害人类后都会启动自毁程序——但凡事总有如果,如果自毁程序因为外部原因没能发挥作用,必须主动认罪,并向他人祈求惩罚。
好吧,这是一道最基础的判断题,就连扫地机器人都不会做错。
卡戎握着刀柄的指尖顿了顿。
随后,刀尖落下,指向地面。
面前人类的幻影露出微笑,向前走了一步,正要扣下扳机时,才忽然发觉不对。人工智能浅蓝色的瞳孔中流露出报复般的快意,他的动作太快了,近乎只是一道淡淡的光芒,没有留下任何反应的余地,他幻影般的身体竟已经被至上而下的刀锋斩为两段。
“你疯了。”
门扉上只剩下这样一行金色字迹。
他千载难逢地弯了弯嘴角:“我没想到能动两次手,感觉还不错。”
在最终消散前,一脸不甘的人类精英还是开了枪,枪口却是对着被他丢在地上的兔子。卡戎很快地抿起嘴角,伸出了手。子弹在他的手臂上开出了血花,蓝色的血液滴滴答答地淌落。
脆弱的白兔又一次幸免于死亡。
然而,在卡戎伸手碰到它的那一秒,它立刻转过头,狠狠地咬了它一下,随后惶恐又飞快地迈起了脚步,朝着相反的方向跑去。兔子跌跌撞撞,身上的伤口再一次开裂,露出鲜红的血肉。它似乎下定了决心离这些事端远远的,却没有想到下一秒钟就被一枚刀刃钉在原地。
匕首的主人微笑着,施施然站起身。
“你选择他只不过是因为同情,”
门扉的字停滞许久,终于再一次开始尝试,“你把他看成了这只兔子,气息奄奄,脆弱又无辜。但你难道没有意识到,兔子也是会咬人的?它太过于愚蠢,太过于轻率,不值得你的怜悯,你看,就像现在……”
白兔在他的视线里挣扎,然后死去,骤然出现的人类有一双漆黑的眼睛,他仰起脸,皮肤苍白,右眼下面露出一枚鲜红色的小痣。
“你更在乎它吗?”他笑眯眯地说,“现在它死了,你能看着我吗——”
他漫不经心的微笑忽然停住了,因为卡戎并没有如他所预料般在乎那只兔子,而是毫不犹豫地走上前来,抓住了他握着匕首的那只手,冰蓝色的瞳孔一瞬不眨地映照着他的身影。
“好。”
卡戎说。
这下轮到人类的幻影手足无措了。
半响,他才突兀地问道:“这是同情吗?”
“我都说了,”卡戎摇了摇头,再次望向那扇门扉,“不要随便拿他做比较。”