第4定律
作者:小瑕瑜 | 分类:科幻 | 字数:9.1万
本书由笔趣阁签约发行,版权所有侵权必究
二十三、改变
“啊?去哪里?我家的安保系统不是挺好的吗?”方辰问。
“你那个所谓的安保系统,也就相当于一个‘破门铃’吧?没有任何攻击防御程序。而且,就算我们给你安装最新的民用安保系统,估计也是徒劳。”
“这……有点突然。”
“你从前不是军人出身吗?”孙畅用一种疑惑的语气问方辰:“我一直以为,你们那个年代的军人,可以克服任何‘突然’。”
方辰一时语塞,但他心中默然想着,我已脱下军装将近百年了。
“好了,这些天013也是在那边,目前位置还是机密,等你过去了,我们会对你进行说明。”孙畅说道。
方辰回到家,没有拿过多的物品,但是带上了父母和女友的“盒子”。
打开门,周荏正站在门口。“好久不见,方辰警官。”
一时间,方辰有许多问题憋在喉间。但是,他沉默了一会儿,也只是说了句,“好久不见。”
周荏似乎已经很懂得察言观色了,他只说出三个字:“请放心。”
他的身后,缓缓降下一架轻型载人飞行器。方辰看清了飞行器侧面的徽章。
“这是军方的飞行器?”
“是的,我暂时无权解释你的更多问题,待抵达基地后,将由人类负责人为你解释。”随即,二人登机。
“我以为你已经很擅长处理‘授权’一类的问题了。”方辰冷笑一声。他以为现在的周荏已经知道,某些事情完全可以适度绕过授权,比如提前为他解释一些即将知晓的问题。
周荏目视下方,说道:“经过近期的升级调校,我对于授权流程有了更深刻的认知。”
方辰顺着周荏的目光看去——这是座舱的监控系统。
方辰心中掠过一丝不安,因为他认为这一简单的动作,或许意味着周荏有了与人类周旋、或者自我掩饰,甚至自我修改算法的能力,这可能比绕过授权还要可怕。
但是周荏又说了一次:“放心。”
小型军用载人飞行器的续航里程并不算很远,但是可以屏蔽各类智能感知信号,相当于轨迹完全隐形。
无人飞行器降落在一个远郊地区的破旧停机坪,这里是一个智能化水准最低的边缘地带,连线设备和路侧智能都比较少。
周荏和方辰走入一幢年代久远的二层小楼,久远到让方辰甚至感到了一丝自己年代的味道。
这是一间清洗中心,里边有数台两人多高的大型洗衣机和干洗机,正发出机械质感的轰鸣声——它们为服务型客机、星际飞行客机,机器人公司等等提供清洗服务,整个空间充斥着洗涤剂的味道。
虽说是非常传统的业务,但是这里也没有人类,只有三台老式机器人来回作业——一台负责清洗,一台负责折叠,一台负责包装。
周荏在一台巨大的洗衣机前站定,通过透明的门组件可以看到,里边正在翻滚着一堆脏兮兮的布质座垫,以及卷起泡沫的水。
突然,周荏打开了洗衣机的门,方辰下意识地躲了一下,但里边的水和物品并未泄出分毫。直到周荏走了进去,方辰才发现,里边的一切都是全息投影制造的幻象,包括这台机器的轰鸣声,也是音响设备播放的。
二人站在里边,透明门关闭,“洗衣机”内部的升降板带着他们开始下降。地面上,洗衣机仍是正常工作的样子,看不出任何异常。
下降了大约3分钟后,他们抵达了一个基地,一位机器人警察为他们打开了门,并进行了虹膜扫描识别。
“方辰警官,周荏警官,请进。”它说道。
这里并不像方辰观看过的科幻电影那般巨大,这一「秘密基地」布局紧凑,大厅约有2/3个篮球场那么大,另外上层还有一些住宿用的房间。
这里人员不多,但是智能连线设备、屏蔽防御设备以及量子计算机很多。
不过,这地方通风良好,色调明亮,并不至于令长期地下作业的人发生情绪问题。
正如方辰预料中的那样,这里有数名身着军装的人,人数甚至超过了警方人员。
孙畅此时正在和几位军人交谈,看到方辰后走了过来。
“这两周多,013就是在这里调校升级。”孙畅说道:“从今天开始,你先暂时住这里。”
“他有了哪些调整?”比起了解这是什么地方,方辰更想提这个问题。
孙畅浅浅笑了一下,就像是已经预判了方辰的焦急。“实际上,我们不是给他收紧限制,反而是为他放宽了自由度……他现在,认知与决策更加接近真人,但与此同时,我们将底线进一步加固,不然,以目前的类人程度,他很容易越界。”
“……明知道有打破三定律的风险,为什么要让他更加类人?”
“我们需要他完成一些任务。”
“你们不怕吗?”方辰提高了音量。他又联想到周荏在座舱内看着监控传感器的“眼神”。
“怕的话,不光AI发展不到今天的水准,科学也不可能实现质变,你都未必醒得过来。”
“可是这存在严重的伦理问题!很多触犯人类伦理底线的科学技术,即便能够轻松实现,也都只停留在理论。”
“013就只有一台,目前还没有014,他就是‘理论’。一旦实验失败,我们有把握将其完全销毁。”孙畅看着方辰身后的周荏,毫不避讳。
方辰陷入了沉默,此刻,他才意识到只有自己将周荏误当作人类。
“你们就不在乎自己的巨大心血和海量资金吗?”
“还是那句话——在乎,科学就不会进步。”
此时,有一位看起来50岁左右的女性军官,向方辰走来——她在一群20余岁的年轻博士中,很是显眼。
方辰看到她的军衔——是正军级,但是孙畅称呼其为“欧阳教授”。UU看书 www.uukanshu.net
“方警官。”她与方辰握了手,很有力度。方辰感到她也是还在坚持运动的那类人,而且感觉她的眼神有一种与其他学者都不一样的光亮。即便已到中年,却看起来比年轻人更加有活力。
“早已听闻你是单兵作战一代军人的‘活化石’。”欧阳说。
“一介莽夫罢了。”方辰说。
“可是,我从经你校正的013身上,可看不出莽夫的影子。他的类人价值观,我在任何实验品身上都没见过。”
方辰非常疑惑,他并没有感觉到自己校正的参与度有多高,也不觉得周荏的改变有多大。
“我和孙畅博士都是国际安全科研中心IR架构项目组的成员,之前的IR机器人都没被用在作战领域,而从013开始,我们终于见到了用于作战的可行性,于是,希望由你这样的优秀军人带领,培养其应变能力和作战逻辑。”
“我并没觉得他有多大变化。”
“可能从外部确实看不太出来。但我们通过他的数据和算法决策发现,现在即便修改他的算法基准,他的责任感和计算能力也都能达到峰值——也就是说,从前他是严格依靠算法和三定律执行任务,保护人类;而现在,他是基于自我意识、正向价值观和强烈的责任感在进行计算和决策。再加上他并不具备现代人类对于自身风险的恐惧感,以及其润硬件战斗力,我们认为,他已经趋于一名完美的战士。”
欧阳并没有用“作战机器人”,而是“战士”,这让方辰觉得,自己不再是唯一将周荏看作人类的人了。