第九篇 可避免的冲突（第9/10页）

“总而言之，那些人只要一起拒绝接受机体的决定，便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。

“苏珊，一切都吻合了。世界钢铁公司有五名董事是它的成员，而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司，是一个属于北界的企业。我们仍在调查它的名册，但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥・威拉法兰卡，我们已经知道他是会员——而拉玛・巫拉萨耶拿也是，发现这点时我毫不惊讶。”

苏珊心平气和地说：“这些人，我应该指出，表现得都很差……”

“但自然如此，”拜尔莱插嘴道，“不听从机体的分析，就是不遵循一条最佳化的路径，得到的自然是较差的结果，那是他们付出的代价。他们现在日子难过，但在终将来临的混乱中……”

“你究竟打算做什么，史蒂芬？”

“显然不能浪费任何时间。我要把‘人本协会’列为非法组织，将一个个会员从重要岗位上换下来。从今以后，所有行政和技术人员的职位，申请者必须具结一份非该会员的誓词，否则绝不录用。这将代表放弃某些基本人权，但我确信世界议会……”

“行不通的！”

“什么！为何行不通？”

“我来作个预测。你若尝试任何这样的举动，将会发现寸步难行——你将发现这个命令不可能贯彻，你将发现相关措施通通都会陷入困境。”

拜尔莱吃了一惊。“你为什么这样说？我满心希望你会赞成这件事。”

“只要你的行动建立在错误前提上，我就绝不会赞成。你承认机体不可能出错，不可能接受错误资料。但你认为‘人本协会’可以违背机体，现在我要对你说明，那也是不可能的事。”

“这点，我完全看不出来。”

“那就听好。任何主管的任何行动，倘若并非切实遵循机体的指示，那个行动就会成为下批资料的一部分。因此，机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析，也就是说，判断出不服从的确实程度和方向。它的下一组答案，便会刚好有足够的偏颇，让那位主管在故意违背后，会自动将那组答案修正到最佳化的方向。机体一清二楚，史蒂芬！”

“你不可能确定这一切，你只是在猜测。”

“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测，史蒂芬。”

“但若是这样，那还剩下什么呢？机体本身是正确的，它们根据的前提是正确的，这些我们已经同意。现在你又说，没有人能违背它们的意思。那究竟是哪里有问题？”

“你自己已经回答了。根、本、没、有、问、题！稍微想想那些机体，史蒂芬。它们是机器人，它们服从第一法则。可是机体并非为任何一个人工作，而是为全体人类服务，所以第一法则变成：‘机体不得伤害人类整体，或因不作为而使人类受到伤害。’”

“好啦，那么，史蒂芬，什么会伤害人类整体呢？经济脱序最有可能，不论它的导因为何。你不同意吗？”

“我同意。”

“未来最有可能导致经济脱序的又是什么？回答这个问题，史蒂芬。”

“我会说，”拜尔莱不情愿地答道，“是机体被作废。”

“我也会这么说，而机体也会这么说。因此之故，为了我们，它们的首要考量是保全自己。所以，它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船，试图令机体遭到毁灭，你一直把这一幕看反了。我们应该说，是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉，因为机体认为他们的行动会危害到人类整体。

“所以巫拉萨耶拿失去了他的工厂，在他无法为害的地方找到另一份工作——他没有受到严重伤害，没有失去谋生能力，因为机体对人类所造成的伤害必须尽可能轻微，而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权；威拉法兰卡不再是一项重要计划的总工程师；而世界钢铁公司的那些董事，则正在失去钢铁业的支配权——或说即将如此。”

“但你不算真正看透这一切，”拜尔莱激动地坚持道，“我们怎能冒险假设你是对的？”

“你必须这样做。你还记得当你对机体提出这个问题后，它自己的回答是什么吗？它说：‘这件事不可解释。’机体并未说根本没有解释，或说它能断定没有解释，它只是不容许出现任何解释。换句话说，假使公布这个解释，就会对人类造成伤害，所以我们只能猜测——一直猜下去。”