上午11时17分。
距离引爆还有四十三分钟。
温司配合地图,在伊格奈的帮助下判断着机器人的巡逻路线。他们需要找到一台位置相对偏僻的警卫机器人,且必须是NL017或更早的型号。
伊格奈快速解释了其中的要点:
“区块链技术的去中心化设计越是新版本越严密,而正面破除这层防御难如登天。不过017及更早的型号,曾最后一次系统更新时释出过存在漏洞的旧版本协议补丁包。”
虽然补丁很快被撤回修复,但伊格奈在逆向工程中巧妙地捕捉到了问题的核心。
道德权重算法。
这个决策核心就像机器人的生命核心,构成人体的基因的碱基对,编码遗传信息的化学结构。
机器会在会在瞬间评估并计算不同选择的社会价值损耗,并执行最优解,这个算法在后续版本不断优化,变得更合理圆滑,但在早期型号中存在一种缺陷,它难以处理绝对的伦理悖论。
因此伊格奈设计了一个刷机程序。
“我会同时向它发送两条绝对冲突但权重完全相等的指令。”
温司瞬间理解,“它会死机?”
“根据协议,当机器陷入无法解决的两难困境时,必须立即进入自检模式,为了防止它在混乱中做出错误决策伤害人类。最优先的算法是利用互联网转移人工端求助,类似于报警热线的接线员。但我会让它进行离线自检,一个默认有工程师在身边线下调试的模式。”
“它的特点是一旦离线便会暂时脱离区块链网络,并开放一个低权限的工程师调试接口。”
“那个接口,被我破解了。”
这实在太幸运,连伊格奈也感到惊奇。
只不过,到了要真正使用的时候,他也不确定程序是否还会正常运作。官方可能已经通过其他方式修补了那个调试接口,或者这台机器人的硬件版本根本不同……
这一切是……巧合,真的是巧合吗?
温司对照地图,他们快速穿行在校园的小径和建筑阴影中,避开主干道上熙攘的人群,并朝着体育馆后方一处相对僻静的仓库跑去。
通常只有定时巡逻的机器人会经过。果然,一台警卫机器人正沿着预设路线进行安静地滑行巡逻,光洁的机械,与NL019不同但相似的NL017正在在一排高大的乔木投下的阴影里。
伊格奈没有任何犹豫,他快步上前,在机器人发出警告提示音前,迅速将那枚芯片插入位于机器人背部的接口里。
思维突然被注入毒药。
机器人曲面屏幕瞬间亮起,弹出一系列黑色背景的调试窗口。伊格奈的手指在上面飞快操作,强行绕过了安全协议,将设备系统替换成旧版本,并试图植入新指令。
进度条在注入器的小屏幕上缓慢爬升。10%……20%……
但是进度条卡在了25%的进度。
不,而是极其缓慢地蠕动,数字从25.0%跳到25.1%花了整整五秒
伊格奈的眉头紧皱。
“发生了什么?”温司问,他们奔跑了好一会儿,他还在微微喘气。
“不是硬件问题……大概是他的系统。NL系列有学习能力,比如人类的免疫细胞能够针对已经入侵过一次的病毒,它在调用那些记忆模式,尝试识别并隔离我的入侵程序。”
“不能强行覆盖了,我换一个方案。”伊格奈说。
伊格奈马上,又掏出另一枚芯片。
7749不禁大呼:【此男有备而来!】
温司:不要再搞笑了,现在情况很严肃。
7749:【好吧,统道歉!】
伊格奈往里面设计的谜题很简单。
A:有一个人类在附近濒死,需要立即救援。
B:自身携带□□,必须立即远离该区域以避免伤害人类。
但这两个指令是冲突的。
机器应该远离,如果它保持静止等待排爆,那个人类就会死;如果它自行排爆……它的设计里没有排爆功能。
这样的谜题,他写了一百个,全部塞给了机器,让他误以为这是当下在发生的事实,
机器屏幕上的数据流疯狂滚动,宛若人类在极度恐慌中混乱的思考。但无论这个机器用那套道德权重算法拼命计算,试图找到一个两全的解,但怎么也找不到。
永远找不到答案。
五秒后。
所有灯光熄灭,屏幕变黑,一行白色文字浮现: