天才一秒记住【畅想小说网】地址:http://www.cxtra.net
那些机器人或许太喜欢卖弄他们的知识,让你感到自叹不如。”
“你能不能试试几个普兰纳反应,看看他们的心智结构自出厂后有没有任何改变,或任何衰退?”
“我还没试,但我会的。”
他举起一根细瘦的手指,冲着她摇了摇,“你吓到了,苏珊。
我不知道你有什么戏剧化的想法,但他们本质上是无害的。”
“是吗?”
凯文火了,“是吗?你可了解他们其中之一在说谎吗?在我刚约谈过的六十三个机器人当中,有一个故意对我说谎,虽然我下了最严格的命令,叫他们一定要讲实话。
这显示异常现象极其根深蒂固,而且极其可怕。”
彼得?玻格特不知不觉咬牙切齿。
“根本没这回事。
听好!
纳斯特十号接到一个要他消失的命令。
这个命令以最紧急的形式表述,下令者又是最有权力指挥他的人。
你找不到更紧急的形式或更高的指挥权,来撤销和取代这个命令。
自然,那机器人会全力以赴完成使命。
事实上,客观地讲,我佩服他的机智。
他竟然想到躲在一群类似的机器人当中,还有什么更好的消失之道吗?”
“很好,你会佩服他。
我察觉出你觉得有趣,彼得——既觉得有趣,又对状况过分无知。
你是机器人学家吗,彼得?那些机器人把他们心目中的优越感看得很重要,你自己刚刚这样说过。
他们在下意识里,觉得人类比他们低劣,再加上保护我们的第一法则不够完备,所以他们是不稳定的。
现在的情况是,一个年轻人命令一个机器人离去,命令他消失,而且用的都是憎嫌、轻蔑、厌恶的言辞。
姑且相信那机器人必须服从命令,但他在下意识中,却藏有怨恨的情绪。
他被骂了那么多恶毒的字眼,现在就更需要证明自己优于人类。
这个需要也许变得太重要,使得打折扣的第一法则不足以控制他。”
“机器人究竟怎么会知道用在他身上的各式各样粗话,苏珊?他脑中印记的内容并不包括猥亵的言辞。”
“原始的印记并不是一切。”
凯文对他咆哮,“机器人拥有学习能力,你……你这个傻……”
这时,玻格特知道她真的发脾气了。
她很快继续说下去:“难道你没有想到,他能从口气中听出那些话绝非恭维?难道你没有想到,他以前听说过那些话,注意到它们是用在什么情况下?”
“好吧,那么,”
玻格特叫道,“能否请你好心地告诉我,无论一个修订型纳斯特多么气愤,无论他多么丧心病狂地想证明自己的优越,他又有什么办法伤害人类?”
“如果我举个例子,你会保密吗?”
“会的。”
两人隔着桌子倾身凑向对方,两双愤怒的目光也勾在一起了。
机器人心理学家说:“假如修订型机器人从某人上方抛下一个重物,只要他在这样做的时候,明白自己具有足够的力量和反应速度,能在重物砸到那人之前将它抓走,他就不会违反第一法则。
然而一旦重物离手,他就不再是主动的媒介,起作用的只剩下盲目的重力。
然后那机器人就能改变心意,他只要不作为,就能让重物砸下去。
修订后的第一法则允许这个行动。”
“你把想象力发挥到了可怕的程度。”
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!