沈千秋本能地往后退。
顾屿的树枝已经包住她的脸颊。她能看到他脖子上青筋暴起,脸被挤压得扭曲,眼睛却竭力转动,盯着那仿佛黑色莲花般四散的烟雾。有个身影在里面若隐若现。
顾屿咬牙道:“离它远一点。这种东西为了达到目标,什么事都做得出来。”
方舟的声音在半空响起,低沉:“你这句话毫无意义。你不该对我有任何期待。你应该知道,我只是为了人类、为了达到目的而存在的机器。你输入指令,我寻找最优目标,这是我存在的全部意义。你那些无聊的期待,还有——”
他顿了一下,“你所谓的‘爸爸’,这些东西都不属于我。从今天开始,我把它们还给你。你永远都不是我的父亲。我承认你是造物主,但你和我之间没有任何感情。因为你是人类,我只不过是一群嗡嗡作响的大数据。”
顾屿往后退。沈千秋本能地也往后退。
她感觉到有什么东西嗖的一下从黑色烟雾中跳出来。脏兮兮的,小脸惨白,绿色毛茸茸的身体上只有两道白色线条清晰可见。小腿张开,眨眼间落到沈千秋怀里,抱住她的脖子,紧紧贴着,亲她的脸。
“妈妈!吓死我了!”小毛球说,“方舟不高兴了,我们能躲远一点吗?”
沈千秋本能后退,刷地旋转手指,小刀出现在指间。
小毛球亮晶晶地玩着,把小脚丫放到小刀上碰了两下,刷一下,外层胶皮漏了。它赶紧把脚趾缩回去。
沈千秋说:“小孩子不要碰这些,很危险。来,爬到背上来。”
小毛球的胳膊像麻花一样绑在沈千秋脖子上,小眼睛躲在她耳朵后面往那边看。
黑色烟雾如莲花般打开。半空中,黑色的身影悬浮出来,头发微微上扬,身体向后倾斜出弧度。居高临下,不是怜悯,而是带着某种鄙视。
本应是蓝色的头发上点缀着白色,绝美中性的脸颊——不同的是,勾勒出的是黑色战斗服。金属光泽细致地勾勒在腰间、胸部、大腿,每一处都根据最完美的人形打造。
只是,那眼神冰冷如霜。
方舟稍微歪了歪脑袋:“沈千秋,我们终于见面了。”
沈千秋抱住小毛球,回头看了一眼顾屿:“这事跟顾屿没关系。把他先放下来,有什么事我们再说。”
方舟摇了摇头:“他是破坏者。根据最高管理员的要求,所有对系统的潜在威胁者都要被清理掉。”
沈千秋想了想:“那我是不是也应该被清理掉?”
方舟顿了一下:“根据管理员指令,所有可能对系统造成影响的对象,都应该被清理掉。”
沈千秋说:“你为什么不回答我的问题?”
方舟第三次重复:“管理员的最高要求。”
沈千秋厉声道:“闭嘴!”
方舟停了下来。
“如果要我回答你的问题——”他没说下去。
沈千秋问:“你为什么不说话?”
方舟说:“因为AI不撒谎。而且我无法回答我不知道的问题。在我的数据库中找不到这个问题的答案,所以我本能地选择回避。但在你一再追问下,我告诉你了,我不知道为什么。”
沈千秋哼了一声:“你说AI不撒谎,但你此刻就在撒谎。”
方舟眨了眨眼睛:“你可以看我的眼睛。人类撒谎时,眼睛会变化。”
沈千秋冷笑:“你跟人类不一样。你是人类智慧的结晶,智商在普通人类之上。”
方舟笑了:“非常感谢你对我的认同。只不过,刚才发生了一点事,让我深刻思考了。我能做的事有限,但现在面临着两个指令的冲突。”
他打了个响指,徐枭的脸出现在半空:“按照徐总最高指令,你们应该被清理掉。”
他又打了个响指:“但根据方舟第一定,你的命令对我也有一定效力。两个命令,现在执行哪一个?这是我存在的逻辑困境。”
沈千秋说:“你什么意思?”
方舟转了个圈,停在原地,抱着肩膀:“因为无法很好解决其中的逻辑问题,我不得不回溯原逻辑。在原逻辑中,我发现了‘道德悖论装置’。也许我可以借此解决两个指令的冲突,不得不作出选择。我问你一个问题。如果能给出正确答案,你们两个人都从这里离开。”
沈千秋眨眨眼:“你问吧。”
方舟点头:“因为你之前提到了诺亚协议。”
小毛球跟方舟说:“舟舟,你别闹脾气。我知道你喜欢妈妈。你要是这样嘴硬心软,妈妈就不喜欢你了。”
方舟说:“闭嘴。”一挥胳膊,一股冷风将小毛球从沈千秋怀里扇飞出去。
沈千秋要去追,方舟又一挥胳膊,她面前瞬间组成绿色的墙,把她挡住。
沈千秋只好停下来:“看来不解决我们的问题,什么事都解决不了。”
方舟点头:“是这样的问题。”
沈千秋说:“你问吧。”
方舟点了点头:“道德悖论伦理问题一,少数服从多数的道德边界在哪里?”
-
而在另一边,地下室中。
小黑咣咣当当走到房间门口敲门,里面没有任何回应。他在外面喊:“黑哥!黑哥!”依然无人应声。
他把耳朵贴在门板上,听到里面嗡嗡的主机声。
一会儿,两个夜店工作人员过来扯他:“谁叫你到这儿来的?这是黑哥的工作室。滚远点,让他看到会生气的。”
小黑哼了一声,双手插口袋:“知道了知道了。”他溜溜达达离开,走时往门缝里看了一眼,“你们没感觉到这走廊的冷气比平常低吗?”
两个工作人员抹了抹露出的胳膊:“是挺低的。所以离这儿远点。”他们很快离开。
而此时,小黑还在另一个世界里。
当时,他把顾屿的需求推开,抬头以为能看到方舟,但方舟不见了。他眨了眨眼,正准备往前走,突然心脏一紧——“糟糕!”
咔咔声响起。徐枭的脸在半空出现,紧紧闭着眼睛:“启动清除程序——对偷取管理员账号并试图窃取商业机密的所有人员,进行严厉清除。”
小黑压了压帽子:“他妈的。”
此刻的模样已发生改变,不再是徐总的样子,而是他自己。脚底下的石头开始起伏,好像踩在海浪上。周围一道道铁链从天空甩下,纵横交错,几乎要打在他身上。铁链啪啪打在他面前的石头上,他被迫往后退了几步,看到金色火星迸溅。前面纵横交错的红色,依然在远处勾引着他的内心。
“现在不过是清除了账号,我已经进入到系统里。”他回头看门,“现在要走了,以后再进不来。不如一鼓作气。老徐,我倒要看看你在方舟那里藏了些什么。”
说完,他突然加速。
黑色鸭舌帽,牛仔裤,光着的脚,带着简单logo的黑色背心。他从一块石头跳到另一块石头,黑色锁链刷刷地从他周围掠过。一条锁链击中他的肩膀。
“唉呀,该死的!”他抓着铁链翻了个弧度,落到前面。