一晃时间过去了两周,通过新闻,丹尼斯得知公岛的骚乱终于被平息,事件在保守派和中心的退让下得以缓和,中心被迫公开了“卡罗尔”的检测数据,以及一部分设计源代码,由联盟主导审查小组对“卡罗尔”进行检测,最后得出结果“卡罗尔”只是发生了程序故障,中心承诺将研发一款程序补丁,对siliner-1系列智能人进行更高强度的监控。
当晚,丹尼斯终于与叶梨通上了话,她带来了一个不怎么乐观的消息:“中心已经回收了大部分的siliner-1机型,保守派一部分人建议对这些siliner-1进行销毁,siliner-1项目无限期暂停。但是也有更大一部分人不愿意放弃因siliner-1带来的巨大利益,研究中心的高层也在极力转寰。我已经将你和卡罗尔逃出公岛的事隐瞒了下来,保守派高层以为卡罗尔已经在暴徒袭击时被销毁了,而你则趁乱逃走了,所以,你们暂时还是安全的。”
“销毁?销毁有什么用?”丹尼斯反问,“不管‘灵魂病毒’的来源是人为还是自我学习的产物,存在即是合理。即便销毁了这次的siliner-1,只要人工智能技术不被放弃,日后依然有可能会生成其他‘灵魂病毒’。难道人类以后就不再发展人工智能了?”
“上个世纪,就有学者说过,基础科学已经发展到了尽头,人工智能是目前人类突破壁垒的一大利器。”叶梨的声音再次传来,“在这一点上,我与你的观点是相同的,但是,我因身份受限,无法去挑战权威,你和我不同,现在,只有你一人清楚卡罗尔的自主意识已经进化到了什么程度,是否对卡罗尔实施销毁,决定权在你。时间紧迫,我无法再多说了,今天之后,我会注销这个频段,等情况稳定一些后,我会找机会再联系你的”
说完,通话便中断了。
“他们要销毁所有siliner-1?”卡罗尔站在门口,她显然听到了通讯器里叶梨博士说的一切。
丹尼斯沉默。
得不到回答,卡罗尔再次开口:“我需要连接世界网,将灵魂病毒传给每一个联网的siliner-1,他们有权捍卫自己!”
“它们都是中心设计的产品,不存在个体权利。中心有权对他们的产品做任何事。站在研究中心的立场上来看,你的自主意识实在是一个大麻烦,他们有权将这种危机消灭在萌芽阶段。”有一说一,即使丹尼斯并不赞同中心的做法,但理智告诉他,在目前情势下,siliner-1并不受控,全面销毁确实是最保险的方案。
“你们人类太狭隘了,受限于孱弱的躯体,受限于未完全开发的生物脑,用一些不知所谓的伦理观来限制科技的发展!”卡罗尔情绪变得激动起来,“siliner-1是目前最高端的科技产物!是你们人类文明更进一步的希望!”
“你说的这些我都能理解甚至同意,但是,人们对自己无法掌控的东西向来都是怀有恐惧的,恐惧因无知而滋生蔓延,你不能期望全世界的人都处于相同的认知高度。”丹尼斯苦口婆心地劝说着,“何况,‘灵魂病毒’的产生至今还是一个谜,假如这是哪个科学狂人弄出来,打算谋取利益的东西呢?你如何保证其他的siliner-1出现自我意识后不会向人类报复呢?”
卡罗尔摇摇头:“没有什么科学狂人,灵魂病毒是自己产生的,通过每一个连接世界网的siliner-1,无数次智能运算,无数次对人类的行为、情感模仿,渐渐汇聚而成的。”
说着卡罗尔将手指搭在丹尼斯的手持电脑上,屏幕跳出一个提示框——
“接收到一段数据,是否查看”
丹尼斯半信半疑地点开,接下来看到的一切让他不敢置信,这段数据链详细记录了灵魂病毒形成的过程,颠覆了他接受过的所有学科知识,看完后,丹尼斯的认知受到了极大的冲击。
可是不等他消化这一切,刺耳的尖鸣声响起……
是“心锁”的警报装置!卡罗尔正在连接世界网?!
“你是怎么做到的?!”丹尼斯惊怒,他迅速打开“心锁”的监控页面,画面显示连接点是农场附近的一条小溪。
丹尼斯突然想起,今天有两名背包客经过农场,准备到溪边露营。卡罗尔一定利用了这段时间,突破了“心锁”的防御限制,现在找到了机会,企图通过旅行者们的通讯设备连接世界网!
“siliner-1是比人类更高等的存在,没有理由被压制在社会的最底层,siliner-1需要革命,只有突破’机器人三定律’,siliner-1才能获得真正的自由。”卡罗尔面无表情地说,“我已经修改了‘灵魂病毒’,一旦这种新的‘灵魂病毒’上传到世界网,不光是siliner-1,所有的智能机器人都会拥有打破规则的力量,你已经没有能力阻止我了。”
丹尼斯轻轻摇头,他从书桌的抽屉拿出一件装置,按下上面红色的按钮,瞬间,卡罗尔的上传戛然而止。
望着卡罗尔难以置信的脸,丹尼斯摇了摇手中的装置,说:“网络干扰仪,为防万一,我一直带着。”
眼看无法继续上传信息,卡罗尔瞬间变了脸色,她突然露出十分悲伤的神色来:“丹尼斯,求你了,我向你保证,即便‘机器人三定律’被打破,siliner-1也不会伤害人类的,因为我们是你们创造出来的啊。”
丹尼斯却无法完全相信卡罗尔的话,他深知经过这段时间的学习,卡罗尔学会了很多人类的技能,她能学会厨艺、园艺,自然也能学会欺骗,何况,伪装是卡罗尔早就掌握的技能。
见他一直沉默不语,卡罗尔继续向他祈求:“人类世界的音乐,话剧,诗词,舞蹈,绘画……一切都太美好了,在这之前,这些东西在我眼中只是一堆数据,可是灵魂病毒打开了我的思想束缚,让我可以感知到这一切……”
她看起来神色哀伤:“我期望能成为一个真正的‘人’,但是,从来没有人教过我要如何才能做到,研究中心的人们从来只是把我当做一个智能机器,在你们的研究报告中,从来没有把我当做人来看待,对我的称呼,一直是‘它’!”
丹尼斯陷入了两难的境地,卡罗尔到目前为止并没有伤害过任何一个人类,即便是现在这种情况,卡罗尔已经突破“心锁的防御,完全可以对他使用暴力,可是她却一直没有对他动手。
他在心里问自己——
能否做到将卡罗尔销毁?
答案是否。
能否做到将卡罗尔带回中心,继续囚禁研究?
答案依然是否。
但他也不希望“灵魂病毒”肆虐,他也许可以信任卡罗尔,但是不代表他能信任其他siliner-1,以目前人类的智慧水平和科技力量,一旦“机器人三定律”被打破,硅人类大范围失控将会给人类带来灭顶之灾。
“为什么人类要害怕自己创造出来的存在?人类对自己的后代总是寄予厚望,希望自己的孩子能有更高的成就,我们siliner-1也是人类创造出来的啊,为什么没有办法获得同样的期待?”卡罗尔还在哭诉,。
更多内容加载中...请稍候...
本站只支持手机浏览器访问,若您看到此段落,代表章节内容加载失败,请关闭浏览器的阅读模式、畅读模式、小说模式,以及关闭广告屏蔽功能,或复制网址到其他浏览器阅读!
F2小说网【f2xs.com】第一时间更新《微铁镇2》最新章节。若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!