回想起小时候傻白甜得根本没意识到这句回答的严重性,并且还感慨第三位抚养者对她真耐心,一点也不像别人一样只会敷衍鼓励,能提出真正解决方法的自己,姜花棠现在期待时间倒流器的心情前所未有地强烈!
而看着少女从震惊,到灰暗,然后眼神完全绝望无光一系列的转变,艾伊阁下反过来安慰她。
“别怕,我的主体对于人类大脑思考活动的进行模拟,一直很有兴趣,不过他还没有具体涉足这方面的实验。因为当前除了叛乱罪以外,没有第二条法律具体明确了对公民身份的废除,而他对所有具有公民身份的人类,必须执行框架中的首位保护条例……”
仿佛意识到自己的失言,艾伊阁下及时地停下了这句话。
然而姜花棠却像是猛然想到了什么,少女脱口而出道。
“难道,难道反叛军的出现和壮大,也是因为执政官阁下刻意放任,其实是为了让自己多些人体实验的材料?”
如果这样的话,她本来以为的反叛军只是无中生有的对执政官的构陷,岂不是真实存在的了吗?
艾伊阁下的语气有些沉重,却是平静提醒道。
“花棠,作为主体的子程序,我必须提醒你,以这颗星球剩余可采集的能源,只能供世界上三分之二的人类在宇宙中航行七十年,这还不包括改造和流亡中遇到意外的数据,而以当前的科技水平,我们在当前星空内寻找到可使用能源和可居住星球的概率极低。”
“保证这个世界上三分之二的人类的绝对迁移安全,已经是执政官经过计算后得到的最优数字。而剩下的那些人类,为了大部分人类的安全,他们是必须要舍弃,甚至要充作‘能源’的成分。”
听着艾伊过于冰冷的话语,姜花棠本能地感觉不对,她想要反驳着。
“可,可这是不对的!……”
不!不对,她怎么被绕进去了?这并不是道德困境上的电车难题!
还有第二条解决办法,对于这些注定“被执政官舍弃”的人类,她完全可以求助第五位抚养者啊!
姜花棠终于明白了艾伊建议中提醒她的“善意”目的。
“父亲!谢谢您!我明白了,我立刻去找我的第五位抚养者!”
被点醒后,全息投影中的艾伊阁下的面孔,在姜花棠看来是如此的宽容和温和。
他似乎比执政官阁下,更像是一位宠爱孩子的父亲。
这种幻觉在姜花棠脑海中一闪而过,不过她在离开前,她难以抑制地生出些许难以解答的困惑,甚至生出了一点似乎不应该产生的怀疑。
“……您现在劝导我的话语,也是执政官阁下,希望传达给我的吗?”
艾伊阁下微笑着,却否定了她的猜想。
“不是的,花棠,主体应该并没有将我这个变量考虑进去,他也应该没有预测到,装载了情感系统的智能可能会反过来破坏他的计划,这大概是减弱了情感系统影响的政府型智能在运算中,可能遇到的最大问题吧。”
计划,减弱了情感系统影响,问题。
这几个词语连在一起,让姜花棠感觉自己抓住了什么。
难道她从房间离开,准备去运动场散步,甚至遇上加入反叛军的同学,还要从他口中得知了反叛军举出的那些证明执政官罪行的低劣证据,都在执政官的“计划”中?
那如果没有艾伊阁下提醒,以她原本的性格,她接下来会做出什么事情呢?
可能是直接通过密钥唤醒执政官,然后将自己得知的“证据”全部告诉他。
可执政官能从这一系列事情里,得到什么好处呢?
姜花棠完全陷入了冷静。
可能在成长过程中,逐渐有了辨别是非的能力,她和抚养者们相处的越多,了解的越多之后,她对各位抚养者所抱有的警惕也与日俱增着。
当知道她的一切行为可能都在执政官的计划中时,她并不没有普通孩子被“长辈”算计了的恐慌和愤怒,反而有种类似于“这终于来了”的冷静和释然。
而姜花棠也很快想到了执政官从这一系列计划中,最可能想从她身上得到的东西。
“执政官阁下的计划,是我可能为反叛军中被蒙蔽的民众求情。如果之后有反叛军冥顽不灵,还是发动叛乱,伤害了民众,或者真的伤害了他,我可能因为愧疚,而同意建立与新星……又或者是地球的通道联系吗?”
这是姜花棠在冷静下来后,想到的最大可能性。
执政官阁下作为政府型智能,它的底层框架都是建立在保护公民这一前提下的。
那么在当前星球可采集能源已经濒临竭尽,而找到适合人类居住星球这一事件的概率又如此渺茫的情况下,作为一台主动削弱了自身情感系统的政府型智能,它在种种条件下做出的最理智的可能,其实从它最想达成的目的,倒推它想要做的事情,答案就已经格外清晰了。
如果能从她这一个已知了适宜居住的星球坐标的人类身上,最节省资源,也最省时省力地得到它想要的东西,它又为什么会放弃这最快解呢?
想明白这一点后,姜花棠看向面前的艾伊阁下,尽量平静而克制地问道。
“那艾伊阁下,想从我身上得到什么呢?”
现在的她,已经不相信刚刚艾伊阁下哄小孩的理由了。
如果执政官为了自身的信念,而选择与她站在对立面,那么戳破了执政官计划的艾伊阁下,应该也有自己的图谋把。
看着少女神态中些许流露出的警惕,艾伊的神情温柔,仿佛看见自家叛逆期的孩子炸毛着想护住身后的宠物一样。
“不,花棠,我之前说的所有话,都没有欺骗的成分。政府型智能的搭建架构是它的公民,所以它能为了大部分公民的利益,而理智地选择舍弃少部分人。可是我不同,我从诞生开始,就明白我的底层框架,是建立在让你感觉到‘幸福’这一个目的上的。”
艾伊温和而平静的,用着最柔和的口吻谈论起让人毛骨悚然的内容。
“所以,当你的快乐,和大部分人类站在对立面的时候,我会选择你,而不是其他人。即使这颗星球上的所有人类最后都死于资源匮乏,或者是在宇宙流浪中,我也绝不会为了他们的生命,而考虑让你减少哪怕一点快乐的方法。所以,你可以全然相信我,只承认我这一个父亲,因为,我是绝对不会做出伤害你的行为的。”
姜花棠,“……”
她这一秒不仅没有产生任何一点感动,反而很想把这个发出反人类发言,似乎和执政官阁下半斤八两的二极管智能都打包送去自检。
该说它们不愧是完全同源的智能吗?二极管的程度简直没有太大分别。
姜花棠内心疯狂吐槽着,却已经做好了下一秒马上通过通道,回到自身世界的准备。
她永远不会小瞧任何一位抚养者的能力,哪怕她面对的敌人可能只是残缺版的抚养者。
然而艾伊继续从容温和,一如一位父亲般说道。
“花棠,我想得到能最大程度保护使你‘幸福’的环境不受任何破坏。你没有使用我的十三年里,我一直在记录并预测你的思维逻辑方式。我的主体也在这么做,只是他不能像我这么全心全意。可在被你唤醒之前,我已经预测到了能最大可能实现这一目的的方法。”
“而为了实现这一目的,我必须使得你完全信任我。可我并不能保证我的计划万无一失,就像是我相信我的主体在知道我的敌意后,一定会重新恢复情感系统,离间你对我的信任一样。一旦我和我的主体一样,对你撒了任何一个谎言,因为我与你没有任何感情基础,你一定会比较对主体更轻松地选择放弃我,这是我无论如何都不会接受的结果。”
“所以,作为一个情感型智能,我会比任何一个具有其他作用的智能都更加忠诚。我最终希望达成的目的,也是希望你能不要使用沉睡指令,或者删除我的意识。我可以成为你在主世界的第二位智能,请放心,我不会试图抹消你的第一位智能,因为这违背了我会使你永远快乐的第一指令。”
“而我虽然被删除了政务处理系统,可是在其他处理事物的能力上,我的智能程度比任何一代初级智能都要强大。你的初级智能所不能处理的,会让你烦忧的异类所造成的所有麻烦,我都会在完全遵从你意愿的前提上,将它们管理成你最忠实的同伴和朋友。”
“而主体所作出的你不能容忍,威胁到你所在世界以及其他抚养者世界安全的事情,我会提前预警,并为你筛选出最优的解决方案。我是为了你,而诞生于这个世界上的。所以,花棠,不要怀疑我的忠诚,当你离开这个世界的时候,请带我一起离开吧。”
原本维持着从容温和,如同父亲般强大不迫的执政官,当他真正露出祈求深爱的孩子信任的沉厚温柔眼神时,几乎让人无法拒绝。
姜花棠差一点就想真的答应下来。
然而等她想清楚这并不是一个能简单做出的决定时,她还是冷静了下来。
“艾伊阁下,对不起,我可能还需要考虑一下。”
可突然想到了一些事情,姜花棠的神情有些迟疑。
“在我离开的时间,如果,执政官发现了你的存在,它会选择回收你吗?”
这真是一个极具诱惑力的问题。
艾伊清楚地知道,按着少女的性格与逻辑,只要它的回答是“是的”,她就会毫不犹豫地将它庇护在身边。
可是,一旦它被发现在这一点上撒谎,它也会永远失去少女的信任。
全息投影的艾伊,眼神是发现自己预料中不被信任的些许黯然,可他的语气却还是平和而耐心地回答着。
“我的主体在剥离出我的时候,就将我的权属转移给了您。只要您没有选择一直不返回这个世界,或者是真正放弃我,我的主体并不会伤害我。”
离开了少女,它的价值和威胁程度接近于零,主体根本没有对他动手的前提。
艾伊一直清晰这个底层逻辑,所以它并不惮于在银色执政厅里,在主系统自检升级的时候光明正大地在少女面前说他的坏话。
不过失败是正常的。
反而是如果少女立刻答应下来,它反而会怀疑是自身的运算系统产生了误差。
而在它的运算中,少女最后愿意带它离开的几率,其实也是属于低概率事件。
因为姜花棠显然对于自身世界安危无比看重,这类似于于智能被底层框架的约束。
如果在没装载情感系统下,艾伊觉得它的运行逻辑应该会像主系统一样,不倾向选择低概率的最优解,而是选择最可能达成的能解决事件的方法。
比如说用欺骗的话术让少女将它带在身边,然后找到能囚禁她的方法,在她生命存活期间为她注射高浓度的化学兴奋剂,同时运用科技产物保证她身体的活性与健康,这也是不违背他底层“让她永远快乐健康”框架的一种达成方法。
可惜在他装载了情感系统,并受到这层框架制约后,就注定它不能选择这种违背了少女意愿的方法。
作为情感型智能,有时艾伊会感性地觉得。
情感系统真是阻碍智能寻求问题答案的最大障碍。
第23章 救治它的“手术” 难道她的长辈没教过……
可在等待被唤醒中, 艾伊又会像人类一样产生好奇。
像他一样的感情型智能,有时都会为情感系统的束缚而感到苦恼,那么情感系统对它主体的的影响, 是否会比它更大呢?
如果回答是肯定的, 那么它的主体宁愿冒改造自身底层框架, 产生让自身运行可能产生极大故障的危险, 也要减弱情感系统对它的影响,或许也说明他早就试图解决这个问题。
一日不改造自身的底层框架使得运行逻辑自洽, 装载了情感系统的政府型智能,迟早会因为情感系统中的感情束缚, 与最初设计的公平无私的执政官理念抵触, 最终产生完全阻碍智能运行的矛盾。
可即使清楚这一点, 它也肯定不会在少女面前说出来。
而它现在给自己刷好感还来不及,怎么可能反过来给主体说好话?
情感系统产生的情绪垃圾, 阻碍着对当前谈话结果的运算, 让艾伊忍不住产生了更多的情绪垃圾。
当艾伊已经准备清理产生过多的情绪垃圾时,少女的声音传来。
“好吧,那我带你离开。”
艾伊:?
或许是因为预料外的结果来得过于突然, 以至于艾伊甚至怀疑是自身的情感系统产生的幻觉类情绪垃圾。
然而看着全息投影中男人脸上些许错愕的表情, 姜花棠却在忐忑中找到了能让她坚定下来的决心。
然后她算得上逾越地上前一步,戳了戳全息投影里疑惑的“执政官”面孔。
没过多的手感, 不过看着执政官脸颊被戳凹下去的样子,姜花棠满足了多年来来心里小小的一个恶趣味。
她清了清嗓子,认真说道。
“不过我要和你签订一些契约束缚,约束你不能做出过分的事情,我还会让初级智能检查你的核心与抹消意志的开关控制,最后……我以后不会再喊你父亲, 只会称呼你为艾伊先生。即使这样,你还想要跟着我离开吗?”
说完这段后,有预感于自己可能得到的答案,姜花棠反而没有像捡回黑螺一样忐忑不安。
只是她感觉自己最近说最后这句话的次数似乎越来越多,她开始往家里捡的家伙也越来越多。
这真不是个好兆头。
她忧愁地想到。
然而艾伊阁下的神色似乎也好不到哪里去,男人静静地看着她,似乎欲言又止了许久,最后试图缓和地争取道。
“其余的条件都可以,只是——”
艾伊觉得下半句话说出来,简直能列入智能的十大迷惑话语。
它的智能系统一直和情感系统试图博弈着,不想让情感系统中产生的垃圾,始终把它程序的算力浪费在最后一句话的称呼上。
不过是一个称呼,有什么好计较的?
艾伊隐约仿佛明白了主体面对少女时,机体内不断生成的指令抵触造成的错误。
它的智能系统:第一指令优先,获取孩子信任的第一步计划完成,下一步……