第4定律
作者:小瑕瑜 | 分类:科幻 | 字数:9.1万
本书由笔趣阁签约发行,版权所有侵权必究
三十六、自己
“你为什么没有告诉孙畅和欧阳熙,我一度情绪失控,对你吼叫?”
“……他们通过数据分析就能发现,不需要我汇报。”
“不,他们不会发现,因为我会篡改数据。”
方辰身体轻微颤动了一下,醒了过来。
即便是在全方位提升睡眠质量的睡眠舱内,他还是会不停地做梦。
他坐起身,深呼吸了两次,按了按眼睛。
有时他也会想要妥协,给自己装入脑机接口,从而改善精神状态,甚至自主左右情绪。
但是有得就有失,一旦装入脑机接口,自己便不再是自己,脑中的思绪、知识数据,以及记忆,都将沦为共享信息。哪怕每个人的信息都有严格加密,但职权部门也有权调取查看。
其他“授权”调取脑机数据的商业用途,本质上和现在的各类隐私协议并无二致。
走出睡眠舱时,周荏正坐在外边,搞得方辰吓了一跳。
“你在这儿干嘛?”
“我接到欧阳教授的命令,即日起,要全天候保证你的安全。”
“这里是保密基地,还能不够安全?”
“可对方是沈偲云。”
“他的学术造诣连我爸都没比上,现在又不敢研发在线设备,他能搞啥花样出来?”
“可他能在屏蔽通信的空间内,制作以假乱真的全息投影,并使用致命武器。”
“呵呵。”方辰用冷笑来掩饰自己的尴尬——他还在为没能辨别出那是投影而惭愧,总感觉当时的人们都在看他笑话。
周荏居然察觉到了方辰此时的思绪,他说:“当时那样逼真的投影效果,除非具备生物探测功能,否则一般人都是无法辨别真伪的。”
“没必要安慰我……你倒是说说,你能推测出沈偲云会把我怎么样吗?”方辰问道。
周荏眼中透出柔和的蓝光,他看着方辰说:
“你会死。”
“死得痛快吗?”
“按照他的一贯手法推测,应该近似于一枪毙命。”
“什么时间?”
周荏站起来说,“不远了。虽然他很重视你,但事到如今也应该明白你是不会归顺的,想必会尽快除掉你。”
“是么。”方辰一边穿上警服,一边笑了起来:“可老子现在不想死了。”
“我能大概能知道原因。”
“知道也不用说出来,你们硅基生物都很喜欢抖机灵。”
“对不起”
方辰不知道的是,周荏推算出自己会先他一步“死”去。
方辰打算去吃个早餐,周荏寸步不离地跟着他。
他很无奈地说:“烦死了!离我远一点。”
“可是欧阳……”
“她是军方的人!你是警方的人啊!你有什么必要听她的命令呢?”方辰加快了脚步,想要甩开周荏。
“她是创造IR平台的关键人物。”周荏也随之加快脚步。
“那明明她更值得保护啊!!你老跟着我干嘛?”
“抱歉,我需要按照系统设置的层级认知来服从命令。”
方辰突然止步,转身面向周荏,后者若不是能够强制减少惯性,一定会撞上他。
“是吗?我是人类,且我的警衔比你高,你也会服从我对么?”
“是的。”
wωω⊕ тTk ān⊕ ¢○
“那好,你试试打我。”方辰说着,指了指自己的脸:“朝这儿,狠狠打。”
周荏显然愣住了,他张了张嘴,却没发出声音。但是很快,他的体内传出了生硬的系统音——“Deny.”(否决)
“Why?”方辰问道。
“It’s not a logical command.(该指令不具备逻辑性)”仍然是系统音——周荏似乎死机了一般愣在那里,任由原始系统进行冷冰冰的驳回解释。
在机器人的规则中,从来都充满了矛盾。就算是三定律,也存在这样的矛盾——不得伤害人类,又不得坐视人类被伤害。
但在算法强硬框架的禁锢下,即便机器人曾数次遇到人类互相伤害的案例,也没有产生任何机器人造成的人类受害者。
“这条指令有高度的不合理性,也不存在因果逻辑,所以我的系统选择拒绝。”周荏终于开口了。
方辰面露嘲讽的神情,他拍了拍周荏的肩膀:“如何?你的286套冗余系统呢?怎么连物理系统反馈音都出来了?看来,你还是什么都没和我学到。”
“我的系统否认了指令逻辑,但是我自己,单纯是不想对你造成伤害。”
此话一出,轮到方辰愣在原地。
他看着周荏泛着幽光的眼睛,想起已经几度下意识地将他当作了人类。
他也意识到,这样的周荏,距离被销毁已经不远了,因为他比人类的能力强出太多。
自己为何一直有意无意地在帮助这个机器人?不管是隐瞒事实也好,对他有利的校正也好,在混乱场面中毫无意义的保护也好……他已经无法否认,自己不愿意周荏走向被销毁的结局。
为什么?为什么……
就因为他几度救了自己?因为他是来自父亲的礼物?因为他是最完美的AI与物理世界结合的产物?还是因为,他是在这个时代唯一擅长与自己沟通的人?
不重要,都不重要了……他既已经唤起了周荏的“人性”,就希望这份人性的火种不要再被磨灭。
许久,他压低声音说道:“‘自己’这个词,不要再对任何人提起!”
“对不起,我失言了。”
“你能学会保护任何人,可就是不懂得保护自己。”
此刻的方辰,突然提出了一个问题,这是一个最最诡异的想法:“有没有过,在人类脑中植入机器人数据的先例?”他问道。
“没有,这是有悖于伦理的最典型案例。人类的数据尚且无法植入机器人系统,更何况反过来。”
“如果移植的话,技术上可行吗?”
“以目前的技术来说,可行性为0,因为人脑是无法兼容这数亿PB的数据的,会导致过载崩溃。”
“我一直以为人脑要优于机器系统无数倍。”
“从前确实如此,直到AI的能力与人类相当,便开始飞速地超越人类。如今,对比起AI系统,人类的能力确实显得非常渺小。‘三定律’就是维系平衡状态的关键支柱。”
方辰叹了口气,这唯一可能说服他植入脑机的理由,也完全不成立。
“我爸之前有没有想过,他的成功会导向如此可怕的世界?”他问。
“任何事都有两面性,在绝大多数人的眼里,这是个完美的世界,也拥有最为利己的价值观……不过,或许方教授也想到了其中的隐患,才会让你来到了这里。”
“呵呵,这也是无法成立的假设。”
这时,周荏突然沉下声音,说道:“IR009来了。”
“什么?”
“她就在附近,她给我发了信息。”
“什么信息??”
“她杀了赵欣言警官,还有黄立远院士。”
此刻,利涧基地突然变得嘈杂起来。