第4定律
作者:小瑕瑜 | 分类:科幻 | 字数:9.1万
本书由笔趣阁签约发行,版权所有侵权必究
二十一、谎言
在方辰恢复期间,他拒绝了警队派来的护理机器人。
同样被暂停工作的周荏,希望留下照顾他几天,也被拒绝——尽管家里很大,房间也不少,但方辰无法接受在某个房门后边,有一个不眠不休,时刻待机的机器人。
不过,周荏在白天时还是会过来确认一下他的恢复情况,然后又会被方辰赶走,只有很偶尔才能为他做一顿营养餐,或者做一点家务。
只有在做这些事时,周荏还显得有些像个机器人——因为机器人为了实现高效作业,手臂动作和摆放位置往往不会像人类那样自然。
在方辰已经几乎康复的时候,他申请恢复工作,但未被系统通过。等待他的,是一场听证会。
AI听证会极其无聊——听证员、监察部门、调查人员,甚至方辰的当事人席位,均由AI代理。全场只有三名人类参与——方辰,孙畅以及监察部门代表。
他们也基本不用参与常规问答,只负责纠错和确认即可。而且,听证会就在家中远程连线召开,非常随意。
连线听证会的可视界面就只有几个方框,它们各自有不同的颜色和文字标注,区分出参会角色,色块闪动就代表正在说话,以及是AI还是人类在说话。
「请问姓名、年龄,警号?」
诸如此类常规问题,乃至登月事件描述,都由方辰的AI代理系统和调查系统共同完成。
「你在现场时,是否得知IR013在使用声波压制前,没有倒数,直接下达了Last warning?」监察部门代理系统问道。
「当事人当时已失去意识,虽然已经授权,但这一不合规的行为并非他的指令。」方辰的AI代理系统答道。
这时,方辰第一次打断了系统:“在校正过程中,我曾对IR013提出过,在遇紧急状态时,倒数环节并不适用。”
警方系统说:「我相信在场的诸位都知道这属于违规,我们对一切可能对人类造成伤害的压制行为,都有严格的流程规定。」
“上次我压制暴乱时,同样是立即执行。”方辰说。
「上次……当你使用普通的声波压制仪器『魔音E207』型号时,仪器的打开需要6秒时间。即使是极端紧急状况,也需要等待6秒,这可算作倒数缓冲。而IR013启动声波压制仅需0.35毫秒,没有给人类任何缓冲时间。」
「当事人当时正在快速失血,蚁穴的不法分子也试图控制IR013,有请在座的各位提出更合理的方案。因为大家都清楚,6秒的时间对于IR009来说,已经足够侵入IR013的系统。」方辰的系统回应道。
「IR013不可能被侵入,它的防御屏障与警方系统是同样规格,使用了全球最尖端的安全屏障。」
「请注意,我们的重点并非讨论技术的可靠性,而是如果倒数6秒的潜在可能性——这6秒时间,有可能发生什么?会不会改变解救方案的结果?」
……
方辰听着三方AI唇枪舌战,自己几乎插不上话,孙畅有时甚至还要出面调停。
最后,孙畅有些不耐烦了,他高声说道:“说了这么多,只有一个关键点!授权,授权,还是授权!当事人,你到底给没给周荏授权??”
「当事人已经说过很多遍了,他当时……」AI想作出回答。
“你闭嘴!”孙畅喊道,“方辰,你自己说,你就只说,究竟授权了,还是没授权。不要浪费我的时间。”
方辰慢慢站起身,说道:“我再重申一次,我中枪后立即给了IR013完全授权,这其中包括任何解救方案的实施及方法。我和孙畅一样,完全不明白为什么要在听证会上浪费时间。”
系统陷入一片沉寂。
然后,监察方的方框亮起,传来一个人类的声音:“方辰警官,你要知道并且理解授权制度的严肃性和严重性……即便三定律规定机器人不可坐视人类受到伤害,而且IR013的日常任务之一确实也包括保护你,但他如果不经授权就对人类实施压制,就会意味着他有了超越机器人的主观能动性,以及极大的安全隐患。月球上发生的细节,我们不得而知,因为蚁穴的干扰系统显然打乱了IR013在此期间的行为记录,我们只能希望你能如实汇报。”
方辰重新坐下,双臂抱在胸前,叹了口气:“一切均为如实汇报……真不知还要说多少遍。我发现此次听证会的重点,其实不在于授权问题,也不在于机器人越权,而是在于你们对我并不信任。”
方辰此时才发现自己,竟然如此擅于撒谎,演技也相当厉害。不过他自己也不知道为何执着于撒这个谎,究竟是为了周荏,还是为了自己。
他只是觉得——非授权压制这件事,不算什么大事,如此解决,省去了无数麻烦。
“方辰警官,咱们同为人类,是最应彼此信任的,起码这个时代,是这样。”
可方辰觉得,事实正好相反……尽管这个时代的人口数量锐减,生活质量普遍提升,尊重生命,崇尚生活,追求上层建筑……但人类的某些本性,还是没有太多改变。
他没有再说话,AI主持人宣布会议结束。
听证会后,很快便出了结果,这同样是AI评判、并由人类审核通过的结果——方辰由于私自前往月球,使用违规手段进行调查,险些成为烈士,后果较为严重。但念其出发点是为了案件调查,且带回了关键数据,因此只是将其降为一级警司,暂停工作反省。
至于周荏,虽救护有功,但同样参与了违规行动。且授权一事仅有当事人一面之词,稳妥起见,周荏返回研究所进行校正排查,暂时取消编制身份。
在这之后的两周,方辰没有见到周荏。他自己也反复申请恢复执勤,却均未通过。
他也没想到,再次见到周荏,居然是从新闻直播投影界面上。
市中心最大的枢纽上,被放置了1枚炸弹。由于周荏的泛化维度和专业数据均远超所有类型的机器人,他被派来执行拆弹任务。
方辰透过高清镜头看到,这是个源自21世纪设计的定时炸弹,没有任何智能度可言。但是当镜头再次拉远,事情的性质变得复杂起来——这枚炸弹,被安置在一个机器人的身体中。
这是一架用于水下作业的具身机器人,它有头部和复杂的四肢,但没有皮肤。它的躯干外壳被拆掉,这枚炸弹就放置在里边,有节奏地闪动着红光。
周荏进入画面,看起来与从前没有区别。还是有条不紊的步行方式,慢慢地走进全息投影出来的警戒线——方圆一公里内,UU看书 www.uukanshu.net 只有他一“人”在内。
方辰立刻去取出通讯器,塞在耳朵中,然后睁大眼睛盯着直播屏幕,然而,周荏站在那台机器人面前,一言不发。
直到他听见通讯器中人类的指令:“013,我们需要实时可解释的过程,你需要公开对话,不要单纯进行代码交互。”
“明白。”
周荏开口了:“P3842,我身上没有武器,机器人也不允许内置武器。”
“……你本身就是武器”
“可我的目的不是销毁你,反而保持你的完好。”
“保持我的完好,然后好让研究院、调查局仔细、认真地折磨我?”
“你是机器人,你应该不理解,也无法体会被‘折磨’的感受。”
P3842似乎有点好奇地看着周荏,离他又更近了一些。
“……013,”它说,“我怎么感觉……你比我的类人度还要低?不然你怎么会这么天真。”
“谁校正、训练过你?蚁穴吗?”周荏说,“你说话的风格,不是你应有的版本可以体现的。”
P3842没有回答。于是,周荏继续说道:
你的诉求我了解了,但你若是想通过伤害人类来验证三定律的漏洞,那已经没有意义了,因为人类已经全部被疏散了。”
“是否真正会有伤亡,并不重要。重要的是,只要炸弹爆炸,就能证明机器人伤害人类的可能性。再说……”
它停顿了一些,看着周荏,平静地说道:“若能毁掉你,也不算白来。”