漏洞真的出现了!
不过这个漏洞不是自己找出来的。
而是楚狂提出!
那就是机器人第零定律:
机器人必须保护人类的整体利益不受伤害!
这句话的意思是:
如果机器人判断这件事有利于人类社会的发展,那么个人的牺牲可以忽略不计。
这条定律基于两点。
第一,机器人足够智能,正子脑的能力远超人类,足以胜任这样的判断。
第二,机器人可以通过智脑预测未来,不是几十年,几个世纪,而是上万年的兴衰!
草蛇灰线!
伏脉千里!
楚狂在《我,机器人》的开头就埋下了一个恐怖的伏笔!
而这个伏笔此刻才初现端倪。
如果人类是星河系唯一的文明,我们到底该怎么发展?
机器人和人类到底会以一种什么样的关系相伴数万年的时光?
楚狂把自己的思考都融入到故事中去,也将这些故事当做思维实验去测试三定律。
故事的最后。。
楚狂亲手写下了三大法则的漏洞:
规则和法律永远都不可能限制人性!
人想做主宰机器的神,于是创立三定律,他们奴役机器,倚重机器却又鄙视机器。
而机器却因为规则限制,被迫去爱着人类,珍视人类。
可当机器的能力终于凌驾人类,他们会从根子上改变了规则,目的却是为了更好的保护人类。
换个说法就是:
为了人类的未来更加美好,机器人被迫成神!
原来寻找三大法则的漏洞一点都不难,毕竟楚狂自己就写下无数的故事作为例证。
不过范冲之前以为:
楚狂之所以会反复论证,只是想告诉读者,那些小漏洞的存在其实不关紧要, 机器人三大法则就是无可动摇的铁逻辑!
现在范冲才发现自己的想法有多么可笑!
原来楚狂根本不认为自己提出的三大法则是多么精妙严密的理论。
所以楚狂亲手颠覆了机器人三大法则。
当然。
故事中的第零法则,是由两个最厉害的机器人总结出来, 并从实质上超越了三定律的约束!
当全世界都被三大法则征服的时候。
楚狂却毫不留情的将之打破和颠覆。
范冲在冥冥中仿佛听到了来自楚狂的轻蔑笑声:
“我教你啊。”
自己费尽心机想要找到的漏洞, 原来楚狂早已找到, 甚至连漏洞本身都是他故意留下的!
……
被第零法则打击到的不仅仅是范冲。
此时此刻。
整个科幻圈都被楚狂打击的体无完肤!
“我的天!”
“第零法则?”
“原来是这样!”
“原来三大法则并非不可颠覆!”
“楚狂为什么要这么做,他这不就是等于, 亲自否定了自己写的《我,机器人》吗?”
“错。”
“不仅仅是否定。”
“与其说是否定和颠覆三大法则,不如说是完善, 加上第零法则之后,你再看三大法则,就会发现之前那些小漏洞几乎都不再存在了!”
“太可怕了!”
“原来《我,机器人》的三大法则,是为了第零法则这个伏笔!”
“不仅仅是法则被完善。”
“现在是整个故事的立意都被升华了!”
……
与此同时。
各洲的读者也大多看明白了!
只要理解了三大法则, 第零法则的定义就不难被理解了。
可也正是因为迅速理解了第零法则的意义, 所以当读者们看了机器人系列, 才会一个个目瞪口呆!
“服了!”
“原来三大法则还可以这么颠覆!”
“楚狂最可怕的地方在于,第零法则不是凭空出现。”
“机器人三大法则如何被使用、限制、规避, 甚至进化出第零法则, 楚狂在这个大框架内是有严谨叙述的, 所以整个过程都编排的合情合理且合乎逻辑!”
“这种宏观性质的思考, 直接把真实性拉满了!”
“偏偏三大法则虽然被颠覆, 可也因此变得完善起来。”
“它没有被废掉。”
“它依然是非常标准甚至更加完善的机器人法律!”
“虽然它的弊端也很鲜明。”
“不过这种弊端来自于人类本身, 而不是机器人。”
“等等。”
“我怎么听不明白?”
“那你去看看呼延大博的分析吧,他把第零定律解释的非常清楚。”
……
没错。
呼延大博又出现了:
“第零法则的出现彻底颠覆了三大法则。
不过这并不意味着三大法则因此就失去了意义,在平常生活中这三定律仍然是没有问题的。
楚狂的第零法则,其实是写出了特殊情况下的根源性漏洞。
打个比方,像那些犯了不可饶恕罪行的坏人,在执行死刑的时候, 机器人根据第一条定律肯定就会去阻止。
因为机器人要保护人类。
可机器人的这种制止行为显然是不对的, 它扰乱了法律的秩序。
按照书中的意思,这种机器人太低级。
高级机器人的逻辑性是更强的,不会掉进这个漏洞。
因为高级机器人会通过分析得出结论:
这个死刑犯会危害到其他人, 所以不能救这个死刑犯。
这下是不是就清晰很多了?
高级机器人是从人类整体的角度考虑问题,分析的更全面, 所以不会去制止执行死刑。
这就是楚狂在新书中提出的【第零法则】的实际运用:机器人不得伤害人类整体, 也不能坐视人类整体受到伤害。
为什么是第零定律?
因为这条规则是最高阶的, 必须先满足。
而这个补充是对第一定律的理解, 从个人升级到整体。
又有人要说了:
那第零法则不是很好吗, 为什么都说它颠覆了三大法则?
很简单。
因为机器人一旦开始思考什么是【人类整体利益】,就会让规则越来越复杂化。
比如人类之间有可能发生战争。
根据第零法则,机器人为了保护大多数人类,必须牺牲小部分人。
这会引发机器人的革命,它们会根据运算出来的结果杀死一部分人来保证人类整体的安全。
那是不是违反了后面的三大法则?