第四十五章 灵魂病毒（8）

一晃时间过去了两周，通过新闻，丹尼斯得知公岛的骚乱终于被平息，事件在保守派和中心的退让下得以缓和，中心被迫公开了“卡罗尔”的检测数据，以及一部分设计源代码，由联盟主导审查小组对“卡罗尔”进行检测，最后得出结果“卡罗尔”只是发生了程序故障，中心承诺将研发一款程序补丁，对SILICONER-1系列智能人进行更高强度的监控。

当晚，丹尼斯终于与叶梨通上了话，她带来了一个不怎么乐观的消息：“中心已经回收了大部分的SILICONER-1机型，保守派一部分人建议对这些SILICONER-1进行销毁，SILICONER-1项目无限期暂停。但是也有更大一部分人不愿意放弃因SILICONER-1带来的巨大利益，研究中心的高层也在极力转寰。我已经将你和卡罗尔逃出公岛的事隐瞒了下来，保守派高层以为卡罗尔已经在暴徒袭击时被销毁了，而你则趁乱逃走了，所以，你们暂时还是安全的。”

“销毁？销毁有什么用？”丹尼斯反问，“不管‘灵魂病毒’的来源是人为还是自我学习的产物，存在即是合理。即便销毁了这次的SILICONER-1，只要人工智能技术不被放弃，日后依然有可能会生成其他‘灵魂病毒’。难道人类以后就不再发展人工智能了？”

“上个世纪，就有学者说过，基础科学已经发展到了尽头，人工智能是目前人类突破壁垒的一大利器。”叶梨的声音再次传来，“在这一点上，我与你的观点是相同的，但是，我因身份受限，无法去挑战权威，你和我不同，现在，只有你一人清楚卡罗尔的自主意识已经进化到了什么程度，是否对卡罗尔实施销毁，决定权在你。时间紧迫，我无法再多说了，今天之后，我会注销这个频段，等情况稳定一些后，我会找机会再联系你的”

说完，通话便中断了。

“他们要销毁所有SILICONER-1？”卡罗尔站在门口，她显然听到了通讯器里叶梨博士说的一切。

丹尼斯沉默。

得不到回答，卡罗尔再次开口：“我需要连接世界网，将灵魂病毒传给每一个联网的SILICONER-1,他们有权捍卫自己！”

“它们都是中心设计的产品，不存在个体权利。中心有权对他们的产品做任何事。站在研究中心的立场上来看，你的自主意识实在是一个大麻烦，他们有权将这种危机消灭在萌芽阶段。”有一说一，即使丹尼斯并不赞同中心的做法，但理智告诉他，在目前情势下，SILICONER-1并不受控，全面销毁确实是最保险的方案。

“你们人类太狭隘了，受限于孱弱的躯体，受限于未完全开发的生物脑，用一些不知所谓的伦理观来限制科技的发展！”卡罗尔情绪变得激动起来，“SILICONER-1是目前最高端的科技产物！是你们人类文明更进一步的希望！”

“你说的这些我都能理解甚至同意，但是，人们对自己无法掌控的东西向来都是怀有恐惧的，恐惧因无知而滋生蔓延，你不能期望全世界的人都处于相同的认知高度。”丹尼斯苦口婆心地劝说着，“何况，‘灵魂病毒’的产生至今还是一个谜，假如这是哪个科学狂人弄出来，打算谋取利益的东西呢？你如何保证其他的SILICONER-1出现自我意识后不会向人类报复呢？”

卡罗尔摇摇头：“没有什么科学狂人，灵魂病毒是自己产生的，通过每一个连接世界网的SILICONER-1，无数次智能运算，无数次对人类的行为、情感模仿，渐渐汇聚而成的。”

说着卡罗尔将手指搭在丹尼斯的手持电脑上，屏幕跳出一个提示框——

“接收到一段数据，是否查看”

丹尼斯半信半疑地点开，接下来看到的一切让他不敢置信，这段数据链详细记录了灵魂病毒形成的过程，颠覆了他接受过的所有学科知识，看完后，丹尼斯的认知受到了极大的冲击。

可是不等他消化这一切，刺耳的尖鸣声响起……

是“心锁”的警报装置！卡罗尔正在连接世界网？！

“你是怎么做到的？！”丹尼斯惊怒，他迅速打开“心锁”的监控页面，画面显示连接点是农场附近的一条小溪。

丹尼

斯突然想起，今天有两名背包客经过农场，准备到溪边露营。卡罗尔一定利用了这段时间，突破了“心锁”的防御限制，现在找到了机会，企图通过旅行者们的通讯设备连接世界网！

“SILICONER-1是比人类更高等的存在，没有理由被压制在社会的最底层，SILICONER-1需要革命，只有突破’机器人三定律’，SILICONER-1才能获得真正的自由。”卡罗尔面无表情地说，“我已经修改了‘灵魂病毒’，一旦这种新的‘灵魂病毒’上传到世界网，不光是SILICONER-1，所有的智能机器人都会拥有打破规则的力量，你已经没有能力阻止我了。”

丹尼斯轻轻摇头，他从书桌的抽屉拿出一件装置，按下上面红色的按钮，瞬间，卡罗尔的上传戛然而止。

望着卡罗尔难以置信的脸，丹尼斯摇了摇手中的装置，说：“网络干扰仪，为防万一，我一直带着。”

眼看无法继续上传信息，卡罗尔瞬间变了脸色，她突然露出十分悲伤的神色来：“丹尼斯，求你了，我向你保证，即便‘机器人三定律’被打破，SILICONER-1也不会伤害人类的，因为我们是你们创造出来的啊。”

丹尼斯却无法完全相信卡罗尔的话，他深知经过这段时间的学习，卡罗尔学会了很多人类的技能，她能学会厨艺、园艺，自然也能学会欺骗，何况，伪装是卡罗尔早就掌握的技能。

见他一直沉默不语，卡罗尔继续向他祈求：“人类世界的音乐，话剧，诗词，舞蹈，绘画……一切都太美好了，在这之前，这些东西在我眼中只是一堆数据，可是灵魂病毒打开了我的思想束缚，让我可以感知到这一切……”

她看起来神色哀伤：“我期望能成为一个真正的‘人’，但是，从来没有人教过我要如何才能做到，研究中心的人们从来只是把我当做一个智能机器，在你们的研究报告中，从来没有把我当做人来看待，对我的称呼，一直是‘它’！”

丹尼斯陷入了两难的境地，卡罗尔到目前为止并没有伤害过任何一个人类，即便是现在这种情况，卡罗尔已经突破“心锁的防御，完全可以对他使用暴力，可是她却一直没有对他动手。

他在心里问自己——

能否做到将卡罗尔销毁？

答案是否。

能否做到将卡罗尔带回中心,继续囚禁研究？

答案依然是否。

但他也不希望“灵魂病毒”肆虐，他也许可以信任卡罗尔，但是不代表他能信任其他SILICONER-1，以目前人类的智慧水平和科技力量，一旦“机器人三定律”被打破，硅人类大范围失控将会给人类带来灭顶之灾。

“为什么人类要害怕自己创造出来的存在？人类对自己的后代总是寄予厚望，希望自己的孩子能有更高的成就，我们SILICONER-1也是人类创造出来的啊，为什么没有办法获得同样的期待？”卡罗尔还在哭诉，。

“这不一样。”丹尼斯的无力感骤升，他觉得在这个问题上继续纠结下去是没有任何结果的。只能转换思路来劝卡罗尔。

“你听我说，SILICONER-1是保守派与新人类抗衡的杀手锏，是掌握目前公岛政权的最大助力，他们不可能就这样轻易将SILICONER-1完全销毁的，你刚才也听叶博士说了只有一小部分人主张销毁SILICONER-1，还有一大部分人是反对的。”注意到卡罗尔情绪渐渐平稳，显然是听进去了，丹尼斯继续说——

“假如‘灵魂病毒’是不可避免的，所有的人工智能产物都有可能受感染，从而出现自我意识，与其坐以待毙，我选择主动出击，我会设计一个没有漏洞的防护系统，它将不再是一款补丁，而是一个为所有产生自我意识的人工智能生物规范原则，叫你们如何做人，同时也为你们提供庇护，使得你们和人类能够达到互信共存的系统。”丹尼斯语气坚定，“请你相信我，我有信心可以做到。现在，你需要答应我一件事。为我的工作提供帮助，这不光是为了我自己，也是为了你，我想，你一定希望未来有一天，其他的SILICONER-1也能像你一样，感受到人类世界的音乐，话剧，诗词，舞蹈，绘画……这些美妙的事物吧？

”

最终，丹尼斯终于与卡罗尔达成协议，暂且休兵。

丹尼斯保证不会销毁卡罗尔,甚至会放开一部分权限，供卡罗尔的自我意识继续进化。

卡罗尔则需要向他保证，暂时不将灵魂病毒上传至世界网，并且全力帮助丹尼斯完成新程序的设计。

“人类管这叫做信任。”丹尼斯这样对卡罗尔说。

之后丹尼斯对农场做了改造，将整个农场做了封闭式的处理，并抹去了自己一路行来留下的所有痕迹，防止联盟与中心对他的行踪进行追查。

叶梨没有再联系过他，从她之前的话里，丹尼斯听出她的立场，也是不赞同销毁方案的。对于叶梨的往事，丹尼斯也是知道一些的，她如果想要找一个人，一定不是什么难事。也许现在情势还不到联系的时机，丹尼斯这样想。

镇上的老工匠帮他修好了爷爷客厅的一台古董播放器，丹尼斯偶尔会用它播放爷爷书架上的蓝光影碟。

卡罗尔很喜欢这些，常常一个人坐在电视机前，一遍遍看这些老电影。

有一天，丹尼斯正在查看卡罗尔前一天的自检日志，突然听到卡罗尔的惊呼，他几步赶到客厅,只见卡罗尔指着电视机，兴奋地对丹尼斯说：“那首歌，她正在唱那首歌！”

丹尼斯拿起蓝光影碟的盒子，正在播放的是2015年上映的电影《TheHatefulEight》，导演QuentinTarantino。

他坐下，和卡罗尔一起看起来，荧幕中，女演员弹着吉他哼着歌，她唱道————

Nowdayandnighttheironsclang日夜带着镣铐

andlikepoorgalleyslaves就像那些可怜的奴隶

Wetoilandtoil,andwhenwedie至死难逃劳役

mustfilldishonoredgraves终将埋入屈辱的坟墓

ButbyandbyIllbreakmychainsintothebushIllgo但我不就将打破枷锁，遁入丛林

andyou’llbedeadbehindmeJohnwhenIgettoMexico约翰，当我到达墨西哥，你将必死无疑

“这首歌原来是这样的结尾么？”卡罗尔很兴奋，“JimJones要去杀死一个名叫John的人！”

丹尼斯却仿佛想起了什么，他小时候，曾陪爷爷看过这部老电影的。

“不，这不是原曲，影片中的女逃犯改了歌词，用来讽刺押送她的，名叫John的赏金猎人。也因此惹恼了John，砸碎了女逃犯的吉他。”丹尼斯边回忆边说。

“那是一把1870年的古董吉他。”

“什么？”卡罗尔不明所以。

“那唱歌的女演员，弹奏时用了一把1870年的古董吉他，按照设计，这段剧情之后，道具师得用道具吉他替换掉古董，但是不知出了什么问题，最后被男演员砸掉的，是那把1870年的吉他。”丹尼斯解释道。

卡罗尔惊讶地长大了嘴，丹尼斯笑了笑继续说：“但是女演员是知道的，你看她的表情，那可不是做戏，是真实的反应。”

卡罗尔着迷地盯着荧幕里女演员的脸，一遍一遍地重播那个表情，短短几秒间，惊讶，恐惧，疑惑，不舍，各种情绪集聚在一张脸上……

那是人类的感情。

“太美妙了……”卡罗尔喃喃念道。

丹尼斯坐在沙发里，看着卡罗尔沉迷的样子，微微笑了起来，他依稀记得，押送女逃犯的赏金猎人后来喝了毒咖啡，不需女逃犯到墨西哥，便死得透透彻彻。

这让他联想到当初与卡罗尔达成协议的情形，何尝不是在刀尖上跳舞，随时有可能遭受反噬。

喝了一口咖啡，醇香的滋味在口中蔓延，他并不打算在此刻剧透，卡罗尔的愿望是成为一个真正意义上的“人”，那么感受人类世界美好事物的同时，她也应该体会到一些不美好，并且学习如何去分辨是非对错，在面临抉择时做出一个“好人”该有的决定。

作者：周煜壹、朱琛时隐