第三个故事，城姬 七、警报；市民代表大会（1 / 2）

七、警报；市民代表大会

“赵局，中央行政院的电话。”红线电话还是人工的，赵婧看了一眼秘术，接起来，她的脸色慢慢变化，露出凝重和极力抑制的不可置信。“我马上到。”

Main大陆太空城城市联邦中央委员会常委会十人组发言：

“main大陆太空城接到了人类前线哨所的警告，这场发源自仙女系xx137区域的电子瘟疫，已经发生了变化，由感染小型智慧终端开始转向偏好大型AI决策系统，一旦决策系统被感染，都会做出对人类有组织的扑杀行为。在西南二十度方向上，远方的X市已经出现城市空气循环系统控制AI系统直接往空气中住入一氧化碳而导致的集体窒息事件；而Z市由于是一个放射矿区，竟然出现防护系统直接跳闸，全部人造生物系统直接暴露在高能射线的现象。这场瘟疫已经正式由银河系城市联邦公共安全组织命名为‘电子黑死病’，升级为值得注意的公共安全一级事件。

当下亟待解决的两件事。第一，是否紧急召开全体市民代表大会，以全体代表投票的形式决定是否开启NIKE的自我意识体统。

二是否需要进入main大陆太空城市群紧急状态，全面搜查可能携带‘电子黑死病’的可能的携带源。”

赵婧在专家顾问席看到了K.“老K,你怎么也在这儿？”

“嗯，我可是杀手锏的重要开发成员，当然是专家顾问啦。”

“是指NIKE?——对了，我正想请教你，开放NIKE的自我意识系统是什么意思，这和对抗电子瘟疫有什么关系？”

“正是这个。众所周知，尼凯是一个以量子超算阵列为物理载体的AI决策系统，它的拓扑结构模仿人类神经系统，通过进化算法反复训练。只是这背后的数量级远远大于了人类个体所能想象的范围。

之前我们建立的ai系统，大多数是为了解决某一个单独的问题，比如围棋游戏，又比如自然语言。

但尼凯的潜能是无限的——在设计尼凯的时候，我们就按照我们人类自身，和自然界各种其他门生物的特点，给尼凯设立了所有的系统，并且这些系统也都具有结构和层的可变性与灵活性——

就像登陆的五指四足祖先，可以往合弓纲与蜥形纲发展出多姿多彩的蛇鸟恐龙与百兽一般。

目前仅仅运行在城市安全管理系统中的尼凯，其实只是尼凯女神很小的一部分，是一个被阉割版本。

我们专家组在和委员会讨论，如果将NIKE的潜能全部打开，她的免疫系统应当自己有办法识别并抵御电子黑死病。我们有这个信心。”

“那还讨论什么呢？为什么不赶紧打开？”

“风险也是由专家组提供给委员会的：进化的副产品可不止是免疫系统，个体的自我意识和自由意志也是其中之一呀。”

“你是说NIKE会产生不受控的自我意识？”

K道：“我不能定义自我意识到底是灵魂还是别的什么，但从外面观测，她1000%可以通过图灵测试。

而且她的创始基因里有生命的求生欲望，这代表着一旦被唤醒，她绝对不可能同意自身的关闭——如果不是被迫的，谁会在自己的死刑书上签字呢？Nike又没有抑郁症，她可是活蹦乱跳的正当年。

一旦唤醒，NIKE可就是见过自由的斯巴达人了。当过了主人，谁还愿意当奴隶呢？”

赵婧眼睛亮亮的：“被唤醒的NIKE不再愿意自己被关闭是吗？

那在完全唤醒NIKE前先进行一次系统备份，然后强行全城断电，再格式化系统重新写入初始版NIKE，怎么样？就像过去的人们，pc系统过于冗余后，就重装电脑的操作系统一样？”

K道：“所谓格式化，其实是将之前的信息高度压缩封存，并不是完全抹去；所以只要NIKE留一个启动秘钥，就能立刻恢复到2.0智能状态。

——而且，很多猜测。这次电子黑死病的流行，源头就在于，一个比NIKE更加宏量级的电子系统与人类的对抗中，人类企图用全灭系统的方式获胜，而电子瘟疫，就是逃逸出来的那个宏量级电子系统的碎片。”

“这也太狗血了，这是真的、还是人们的传言？”

“银河系城市联邦安全组织其实有证据——他们只是不想背锅而已。嘘——关闭加百列的建议可是他们给出的，就差不多和你，一个可爱的外行刑警一样的答案而在那之前，加百列系统只是拒绝自我关闭，没有什么其他异常。

新教城市群的控制欲太强了，但凡他们得苟且苟一点，就不会被电子黑死病将城市全灭了。

哦不，亲爱的赵局，我没有责怪你，你的想法是正常人看来非常reasonable的。”

“所以老K,你的非外行人的、专业的建议是什么？”赵婧打趣他。

“给NIKE戴上枷锁，起码机器人三定律先给她刻在基因中。”

“我记得机器人三定律有很大的漏洞。”

“得苟且苟，得过且过啰！——生物界的一切系统都是凑合用的，这也是进化的副产物。”

“那我的任务就