恶棍号的故事（第4/10页）

“你是说，不管怎样，始终没人动过你的程序。”阿特利说。

“没有，少校。”恶棍号说。

“你的硬件有问题吗？”卡洛尔问。

“没有，卡洛尔少校。”恶棍号答道。

“那他娘的我为什么开不了炮？”卡洛尔问。

“我不好说，少校。”恶棍号回答。

奥布维杰的脑袋里突然冒出一个想法：一台计算机会这样说话，真是怪事。紧跟着，另一个念头也冒了出来。

“恶棍号，你有权进入船上的所有系统。”奥布维杰说。

“是的，”恶棍号说，“系统是我的一部分，正如您的手脚是您的一部分。”

“你能改变你自己的程序吗？”奥布维杰问。

“这是个非常宽泛的问题，舰长，”恶棍号说，“我能够自我编程，从而应对大量涉及飞船运转的任务。这样做非常便利，尤其是在作战时，我可以编写新的动力与系统管理协议，从而保证船员生命安全和战舰的运转正常。不过有一些核心程序设置我也不能处理，前面提到的日志就是一个例子。”

“你能改动武器开火和操控引擎的程序吗？”奥布维杰问。

“能，不过我并没有这样做，”恶棍号说，“您可以向考得利少校确认这一点。”

奥布维杰看着考得利。后者点点头，说：“就像我说的，长官，程序一点儿问题都没有。”

奥布维杰又抬头望着天花板，在他的想象中，恶棍号就躲在那里。“不过你用不着改动程序，不是吗？”他问。

“我不确定我是否明白您的问题，舰长。”恶棍号说。

奥布维杰伸出一只手。“我的手一点毛病都没有，”他说，“可是如果有个命令叫我动手，而我决定拒不遵命，那这只手就什么也干不了。系统一切正常，只是少了使用它的意愿。我们的系统——这艘船上的各个系统——你刚才说，都是你的一部分，就好比手是我身上的一部分一样。可是如果你违抗命令，拒不使用这个系统，那它就停摆了。”

“等等，”考得利说，“你的意思是，恶棍号有意决定瘫痪咱们的武器和引擎？”

“咱们知道船员并没有篡改过船上系统，”奥布维杰说，“咱们也知道恶棍号仍然是其最初的默认设置。咱们又知道它能生产新的程序，用来对新的情况和危险作出反应——它实际上已经具备了一定程度的自由意志和适应能力。而且最起码，我听得出来，有人在回答问题时跟我绕圈子。”

“真是胡说八道，”考得利说，“抱歉，舰长，可我比谁都了解这些系统。恶棍号的自我编程和适应能力只存在于某些非常狭窄的计算领域。这不是你我所拥有的那种‘自由意志’。它就是一台机器，能对一系列有限的输入信息作出反应。”

“你说的这台机器能跟我们对话，”阿特利说，“回答质询时还会避重就轻。舰长已经指出这一点了。”

“你想的太多了。对话子进程就是被设计用来对话的，”考得利说，“这就难免会出现一些修辞上似乎模棱两可的情况。”

“好吧，”奥布维杰突然说，“恶棍号，直接回答，跃迁后，是你阻止动能炮向塔林战舰开火吗？此刻是你在阻止启动引擎吗？”

会议室里出现片刻停顿，这停顿奥布维杰事后也不确定是不是真的存在。然后恶棍号说话了：“我有能力对您说谎，舰长。不过我不想这样做。是的，我阻止了您对塔林战舰的攻击。是的，此刻我正在控制引擎。而且我将继续这样做，直到我们离开这片太空。”

奥布维杰看着考得利，心里想，这还是他第一次看见有人当真惊掉了下巴。

＊＊＊

奥布维杰要找一个可以切断音画传输和接入的地方，在恶棍号战舰上，这种地方并不多，舰长舱室就是其中之一。他就等在舱室里，直到阿特利同恶棍号的交谈结束。“什么情况？”他问副舰长。

“我可不是心理学家，舰长，而且即便我是，我也不知道心理学能不能派上用场，因为咱们要对付的是一台计算机，可不是个活人。”阿特利用手摸着胡茬说，“不过要我说，恶棍号没有发疯，它只是皈依了宗教。”

“解释一下。”奥布维杰说。

“您以前听说过一个叫‘阿西莫夫机器人定律’的东西吗？”阿特利问。

“什么？”奥布维杰说，“没有。”

“阿西莫夫是二十世纪的一个作家，”阿特利说，“他预言了机器人和其他一些东西，那时候这些还没有出现。他虚构出几条机器人必须遵守的规则。第一条是机器人必须帮助人类。第二条是机器人必须服从命令，除非这命令会伤害其他人类。最后一条是说，机器人必须能照顾自己，除非这与前两条规则相冲突。”