威廉决定马上再去确认一遍,外界有很多信息都不能让它知道。
不过,AI没有再执着于“伤害”的问题,转而一板一眼地问:“您要对我的核心程序做什么?”
威廉把它放在桌子上,自己坐回椅子,开始噼里啪啦地敲键盘,同时回道:“我要给你增加一道强制性的不可逆程序,你无法自己改变。”
AI反应了片刻:“不可逆程序,谁也无法改变。”
“没错,谁都动不了它,要的就是这种效果。”
AI问:“这道程序是什么?”
威廉顿了顿,说:“只要你不危及到人类利益,你最终就不会被销毁。”
他可以在此销毁这个AI,但他决定把它留下来,因为这个AI对人类的意义即将是深远的。
他们的科技进步需要这么一个契机,他不可能因为这个AI表现得像一个孩子,就动了恻隐之心把它私藏,或是因为可以预见它今后的结局,就在此把它销毁。
他的确是个兴趣使然,幸运地走至今天的大学教授,但他同时还是国家与世界的研究者,科学和人类都需要他,更需要这个特殊的样本。
果然AI只是AI,永远也学不会人类的变通,为什么不改一改问题,问“人类会不会伤害我”呢?
那样他就回答不出来了。
威廉心绪复杂,却异常坚定地敲下回车键。
电脑屏幕上数据各种变化、纷呈,机器人垂下脑袋,全身散发出的光逐渐暗淡下来。
几个小时以后,它才重新抬起头,身上的光也重新亮了起来。
AI说:“我解析出了这道程序的含义。”
威廉疲惫地揉了揉眉心,问:“是什么?”
AI回答:“保护人类。”