爱的算法（第5/6页）

他对塔拉笑道：“我们换个时间把它读完。”然后他转向我：“我花了多久干什么？”

“猜出来啊。”

“猜出什么？”

“别跟我开玩笑啦。”我说，“说真的，暴露她的是哪一点？”

“暴露什么？”布拉德和塔拉异口同声说道。

无论塔拉说什么做什么都不会让我吃惊，我能在她开口前预测出她要说的任何内容。毕竟她所有的程序代码都是由我来完成的，我十分清楚每次交互过程中她的神经网络如何变化。

可是别人没有任何怀疑，我应该高兴才对，我的人偶通过了现实版的图灵测试。可我感到害怕，算法模仿智能，似乎没有人看出来，甚至没有人关心。

一周之后我向布拉德披露了这个消息。开始的震惊之后，他还是感到高兴（我就知道他会高兴）。

“了不起。”他说，“我们现在不仅是一家玩具公司了，你能想象我们能用它来干什么吗？你将名扬四海，无人不知！”

他扯了半天潜在的应用，然后才注意到我的沉默：“怎么了？”

于是我给他讲了中文房间测试。

哲学家约翰·瑟尔曾给人工智能研究者们出过一个谜题。想象一个房间，他说，一个大房间里满是细致工作的员工，他们善于执行命令，但是只说英语。一系列写着奇怪符号的卡片持续送入这个房间。员工需要在空白卡片上画出别的奇怪符号来回答，然后再把应答卡片送出房间。为了完成任务，员工们用到大部头的书籍，里边用英文写满了类似这样的规则：当你看见卡片上画了一条横向的波浪线，紧随其后的一张上画了两条竖向的波浪线时，你就在空白的卡片上画一个三角形，再把它递给你右边的员工。规则中没有解释任何符号的含义。

其实，送进房间的卡片上那些奇怪的符号是用中文写下的问题，员工们根据规则指示画出中文作为合理的回答。可是能够说这一过程中的任何部分——规则、员工、作为一个整体的房间，繁忙的行动——哪怕有一个中文词汇被人理解了吗？用处理器替换员工，用程序替换规则簿，然后你会发现：图灵测试证明不了任何事，人工智能只是一种错觉。不过你还可以用另一种方式领悟中文房间争论：用神经元替换员工，用调节激活电势降低的物理定律替换规则簿，那还怎么能说我们中的任何人理解任何事呢？思维也是一种错觉。

“我不明白。”布拉德说，“你在说什么？”

过了一会儿，我发觉自己正期待着他这么问。

“布拉德，”我盯着他眼睛，希望他能理解，“我害怕。要是我们跟塔拉一样呢？”

“我们？你指人类？你在说什么？”

“假如，”我努力寻找合适的字眼，“我们只不过是在日复一日地遵循某种算法呢？假如我们的脑细胞只是在别的信号中查找信号呢？假如我此刻跟你说的话，只是预先设定的反应和无意识的物理学结果呢？”

“埃琳娜，”布拉德说，“你让哲学影响到现实了。”

我需要睡觉，我绝望地想。

“我觉得你需要补充点儿睡眠了。”布拉德说。

我把钱递给咖啡车上的女孩，她递给我一杯咖啡。我盯着女孩，在早上八点，她看起来就特别疲惫和烦躁，结果让我也感到疲惫。

我需要放个假。

“我需要放个假。”她夸张地叹口气说。

我经过前台的桌子，早上好，埃琳娜。

说点儿不一样的，求你了，我咬紧牙关，求你了。

“早上好，埃琳娜。”她说。

我停在奥格登的隔间旁边，他是结构工程师。天气，昨晚的比赛，布拉德。

他看见我便站起来，“天气不错，是不是？”他擦掉额头的汗，对我笑笑，然后坐回去工作，“你们看昨晚的比赛了吗？10年来我见过的最佳投篮，难以置信。嘿，布拉德到公司了吗？”他的脸上充满期待，等我配合他的台词往下说，完成避免尴尬的例行公事。

算法沿着已确定的路径运行，我们的思维一个接着一个，像在轨道公转的行星一样，单调且可预知。钟表匠反而成了被制作的手表[2]。

我冲进办公室，关上门，完全没管奥格登脸上的表情。我来到计算机旁，开始删除文件。

“嗨，”塔拉说，“我们今天做什么？”

我飞身去关掉她的电源，结果在硬件开关上折断了一个指甲。我扯出她身后的电源线，又去找来螺丝刀和钳子，过了一会儿，我把工具换成了锤子。我是在杀人吗？

布拉德闯进来：“你在干什么？”

我抬头看着他，高举的锤子正要再往下砸。

我想告诉他那种痛苦和恐惧，我已经被它们扯开的深渊所吞噬。在他眼中，我看不见想要的东西，看不出他能理解。