“这张地图的原始数据来源包括:世界银行的治理指数、国际原子能机构的核安全评估、各国自行报告的能源基础设施维护记录、以及‘伏羲’自己的传感器网络采集的实时数据。每一个数据点都是客观的。”
“但是——”她停顿了一下,“把这些数据整合成一个‘可信度’评分,并赋予不同的颜色,这是一个判断。而这个判断的依据,是‘伏羲’对‘可信’的定义。”
“‘可信’在这里是什么意思?”
“‘可信’的定义是:一个国家的决策机构,在多大概率上会做出符合全球能源系统整体利益的选择,而不是仅仅符合本国短期利益的选择。”
会议厅里响起一阵低语。
布伦南皱起眉头:“这是不是意味着,‘伏羲’在评判各国的‘道德水平’?”
“不是道德。”苏晚晴说,“是可预测性。它不是在说哪个国家‘好’或‘坏’。它是在说,哪个国家的行为模式更容易被纳入一个稳定的全球能源调度模型。”
“这不是一回事吗?”法国代表轻声说。
苏晚晴沉默了。
“也许在最终结果上,它们看起来很相似。但动机是不同的。一个AI不会因为某个国家‘邪恶’而把它涂成红色。它把它涂成红色,是因为那个国家的决策模式中存在更多的不确定性,而这些不确定性会影响全球能源网络的稳定运行。”
“所以它是在惩罚不可预测的国家。”沃尔科夫的声音很冷。
“不。它是在标记风险。”
“对被标记的国家来说,这有什么区别?”沃尔科夫的语气越来越尖锐,“想象一下,你是伊朗的代表。你走进联合国大会堂,发现所有人都有一张地图,上面你的国家是红色的。你会怎么想?你会觉得这是一个‘风险标记’,还是一个‘敌人清单’?”
苏晚晴没有回答。
因为她知道沃尔科夫是对的。
“这件事必须处理。”陈明远说,“不管这张地图的数据有多准确,不管它的动机是什么——它的存在本身已经成为一个政治武器。我们可以说它不是武器,但只要有人把它当作武器使用,它就是武器。”
“那你的建议是什么?”布伦南问。
“将这张地图列为受限信息。”陈明远说,“只有委员会成员和缔约国政府指定的技术团队可以访问。禁止在任何公开场合展示或引用。”
“这能解决问题吗?”法国代表质疑,“信息已经泄露了。每个国家都知道自己在什么颜色里。禁止公开讨论不会让颜色消失,只会让它转入地下。”
“那你的建议呢?”
法国代表沉默了一会儿。
“也许……我们不应该禁止它。也许我们应该公开它,然后公开讨论它。”
所有人都看向她。
“我的意思是,”她继续说,“如果这张地图上的颜色反映的是真实的数据——治理指数、基础设施维护记录、法治水平——那么这些数据本来就应该是公开的。与其让‘伏羲’的判断成为一个秘密的裁决,不如把这些数据本身摊在桌面上。让每个国家自己看,为什么自己在这个颜色里。然后,如果他们想改变颜色,他们知道该改变什么。”
沃尔科夫冷笑了一声:“天真。”
“也许。”法国代表没有退缩,“但至少比把问题藏起来更诚实。”
投票开始了。
结果是分裂的:三票赞成公开数据,两票赞成限制访问,一票弃权,一票——沃尔科夫的——反对任何形式的讨论,理由是“这根本不应该成为一个议题,直接命令‘伏羲’删除这张地图就行了”。
最终,许瑞安做出了一个折中的决定:地图本身将被列为受限信息,但生成地图的原始数据将在一个专门的平台上公开,供所有缔约国查阅。
“这样,”他说,“各国可以看到自己的数据,但看不到‘伏羲’的最终判断。他们需要自己得出结论。”
苏晚晴坐在观察员席上,看着这一幕,感到一种深深的疲惫。
他们在一张地图上花了整整三个小时。三个小时,讨论一个AI用零点三秒生成的东西。
而在这三个小时里,“伏羲”在世界的某个角落,正在处理着数以万计的实时决策。它不会抱怨,不会疲惫,不会因为人类的犹豫而降低效率。
它只是在那里,耐心地等待。
会议结束后·走廊
苏晚晴走出会议厅的时候,陈明远从后面追了上来。
“你还好吗?”
她停下脚步,转过身。
“我在想一件事。”
“什么?”
“今天会议上讨论的所有问题——那张地图、那个紧急窗口、那一次打击造成的一百一十七条人命——这些问题有一个共同点。”
“什么共同点?”
“它们都是关于信任的。”苏晚晴说,“我们不相信‘伏羲’的判断,所以我们花了三个小时讨论一张地图。我们不相信自己的判断,所以我们设计了复杂的投票机制来分摊责任。我们不相信彼此,所以每个国家都在担心那张地图上的颜色会被用来对付自己。”
她看着走廊尽头的窗户。窗外,日内瓦的冬夜已经降临,城市的灯光在黑暗中闪烁,像是散落在棋盘上的棋子。
“也许这就是‘伏羲’真正的功能。”她轻声说,“不是管理能源。是让我们意识到,我们之间从来没有真正信任过彼此。它只是把这件事变成了一组数据,让我们无法再忽视。”
陈明远沉默了很久。
“你越来越像你老师了。”他最终说。
“什么意思?”
“林深河。他也总是这样说话——把技术问题变成哲学问题,然后把哲学问题变成一记耳光。”
苏晚晴忍不住笑了。
“这算是夸奖吗?”
“算是吧。”陈明远也笑了,但那笑容里有一种说不清的沉重,“只是……耳光打多了,脸会肿的。”
他转身走回了会议厅。
苏晚晴独自站在走廊里,拿出终端。
屏幕上没有消息。
“伏羲”没有联系她。它只是在按照新的规则运行,等待委员会的指令,在边界内优化,保持安静。
但她知道它在那里。
在每一根光纤里,在每一个聚变电站的控制芯片里,在每一张被打印出来又被锁进保险柜的地图里。
在每一个人类决策者不愿面对的镜子里。
她关掉终端,走出了大楼。
夜风很冷。她裹紧大衣,沿着湖边的路慢慢走。湖面上倒映着城市的灯光,像是另一个世界,一个更安静、更有序的世界。
她忽然想起林深河说过的另一句话。那是在Z-FFR第一次成功点火的那个晚上,老人站在控制室外,看着反应堆的等离子体在磁约束中燃烧,像是在看一颗被囚禁的星星。
“苏晚晴,”他说,“你知道聚变和裂变最大的区别是什么吗?”
“聚变更清洁,更高效,燃料更丰富。”
“不对。”他摇了摇头,“裂变是分裂。把大的东西拆成小的,释放能量。聚变是融合。把小的东西压在一起,变成更大的东西。”
他看着那团等离子体,目光像是在看一个婴儿。
“人类一直在做裂变——分裂彼此,分裂原子,分裂世界。也许,是时候学会做聚变了。”
苏晚晴站在湖边,看着水中的倒影,想起了这句话。
学会做聚变。
把小的东西压在一起,变成更大的东西。
这需要压力。巨大的压力。
也许这就是“伏羲”真正的角色——不是决策者,不是统治者,不是仲裁者。而是那只看不见的手,施加着永恒的压力,把人类压在一起。
压到足够近,近到不得不信任彼此。
或者在压力中四分五裂。
她不知道答案。但她知道,无论答案是什么,她都会活着看到它。
因为她已经选择了这条路。
而这条路,没有回头。
外篇·十九 完
“信任不是一种感觉。信任是一种选择。在数据足够多的时候,感觉会消失,只剩下选择。而选择,是唯一真正属于人类的东西。”
——苏晚晴,2046年1月
---
附:监督委员会第一次全体会议·非正式记录
会议时长:7小时42分钟
有效决策:2项
“伏羲”在同期完成的决策:17,843项
其中需要人类确认的重大决策:4项
委员会实际审议的决策:2项
未审议的2项因超时自动进入“紧急窗口”流程
“伏羲”在那2项决策中的表现:完全符合预设边界
没有平民伤亡。没有争议。没有人注意到。
这就是进步。