天才一秒记住【畅想小说网】地址:http://www.cxtra.net
“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。
现在你又说,没有人能违背它们的意思。
那究竟是哪里有问题?”
“你自己已经回答了。
根、本、没、有、问、题!
稍微想想那些机体,史蒂芬。
它们是机器人,它们服从第一法则。
可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。
’”
“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。
你不同意吗?”
“我同意。”
“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”
“我会说,”
拜尔莱不情愿地答道,“是机体被作废。”
“我也会这么说,而机体也会这么说。
因此之故,为了我们,它们的首要考量是保全自己。
所以,它们悄悄处理了威胁它们的最后一项因素。
其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。
我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。
“所以巫拉萨耶拿失去了他的工厂,在他无法为害的地方找到另一份工作——他没有受到严重伤害,没有失去谋生能力,因为机体对人类所造成的伤害必须尽可能轻微,而且必须是在拯救更多人的前提下。
统一辰砂公司在阿马丹失去了控制权;威拉法兰卡不再是一项重要计划的总工程师;而世界钢铁公司的那些董事,则正在失去钢铁业的支配权——或说即将如此。”
“你必须这样做。
你还记得当你对机体提出这个问题后,它自己的回答是什么吗?它说:‘这件事不可解释。
’机体并未说根本没有解释,或说它能断定没有解释,它只是不容许出现任何解释。
换句话说,假使公布这个解释,就会对人类造成伤害,所以我们只能猜测——一直猜下去。”
“假设你是对的,苏珊,但那个解释怎能对我们造成伤害呢?”
“啊,史蒂芬,假如我是对的,那就代表机体为我们筹划未来的方式,并非只是针对我们直接的问题提出直接的答案,而是对世界整体的局势、对人类整体的心理提出一般性答案。
知道这点可能会令我们难过,可能会伤害我们的自尊。
而机体不能——绝对不能让我们难过。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!