沉锋

【422系列】相信（四）

“然后你就让他去睡觉了。”根重复道，差点把鸡蛋打在他脸上，“你能重复一遍吗？你让他去睡觉了？”

“你是真的关心芬奇吗？”里瑟问道，把牛奶递给她，“还是你只是爱着你那台保险箱里的超级电脑？他累坏了，我当然不会逼他开始做内心独白。”

“我当然关心哈利。”根生硬地说，恶狠狠地开始在打奶器里搅拌，“但是他不会崩溃的。他只是缩在那里不愿意行动，被一些可笑的信条束缚住，不管他只要动一动手指就可以拯救世界。我爱他，我敬仰他，我会毫不犹豫地为他去死，但这真的是令人感到恼火，只要他不要那么在意——”

“‘如果世界上有谁的道德观可以信任’，”里瑟引用她的话说，“既然他不愿意这么做，肯定是有理由的。”

根瞪着他，咬紧了牙齿。

“现在你们是一伙的了？”她冷冷地问，如果不是她鼻子上有面粉的话，还是挺吓人的。

“不要在三个人里分出我们和你。”里瑟愉快地说。

“他夸你了？你简直像条哈巴狗。”根愤然道，“现在是危急存亡的时候，里瑟，不要因为不合时宜的感情用事坏了大局。”

她猛地甩下搅了一半的奶油，像是要去找芬奇理论，里瑟连忙拉住她。

“难道你和他吵架就有用了吗？”他低声说，生怕客厅的芬奇听见，“听着，你已经知道了他关心机器。他甚至爱她，他只是需要——”

“撒玛利亚人没有给我们那么多时间！”根说，把围裙扯了下来，“我比你了解哈罗德，他有改变世界的能力，但是他要别人推着才能走！你说他关心她，但是他拒绝修复她，这不会让她心碎吗？这就不会让他内疚了？你得告诉他这件事有多么重要，逼问他是否在乎她，不然他就会——”

她一下转过身，然后愣在了那里。

“我只是来问问你们要不要喝茶，格洛夫斯女士。”芬奇说。

“哦，呃。”根说，像小女孩一样把围裙绞成一团。

“我觉得我们需要。”里瑟说。

——————

他们一人端着一杯绿茶，坐成一个奇怪的三角形，每个人都看着茶杯，但是没有人在喝。里瑟感觉到空气中漂浮着的尴尬，于是决定打破它——毕竟，不管怎样，打破东西一向是他的工作范畴。

“哈哈。”他说。

芬奇和根都睁大眼睛地转向他，端着各自的杯子，像是一只猫头鹰和一只松鼠。

“我和根都同意，”里瑟对芬奇说，“我们随时可以为你去死。所以我觉得这中间肯定没有什么事情是解决不了的吧？”

芬奇微微叹气，他看起来一点也不为这个陈述吃惊，显然，这对他来说虽然不是理所当然，却也不算是新闻。

“我曾经有一个朋友，我会毫不犹豫地用生命去换他活着，”他说，把茶杯放下来，“但仍然无法阻止我们中产生矛盾。所以，里瑟先生，感情并不能解决问题。而这正是我犹豫的原因，也是一切灾难的源头。”

“我的人生有很多个阶段，但只有一件事情影响巨大。”芬奇说，“我的生命被划分为它之前和它之后。在那之前，我认为为了大多数的利益，少部分人的生命是可以被牺牲的——至少是可以被忽视的。在之后，我拒绝这么想。”

他似乎真的打算在早上八点的早茶会上，当着里瑟和根来一次自我检讨，里瑟几乎被吓住了。

“但是，我必须认识到，我的个人力量是有限的，我永远不可能救所有人。或者说，如果一个人真的狂妄到认为自己能挽救一切，他必定会犯下和我之前一样的大错。”芬奇继续说，“所以，我只是希望能尽己所及之力，并没有打算去拯救全世界——除非它真的撞到我眼前来了。”

他停顿一下，似乎不打算讨论拯救世界的话题，转而伸手指了指根放在身边的手提箱。

“这个，”他说，语调冷静，但是里瑟发现他在避免使用人称代词，“是我生命的前一个阶段的成果，包含了我所有的信念，和为了那种信念付出的代价。为这两个理由，有时我不愿意直视它。”

“但是……”根说。

“但是我进行接触，我仍然接受号码。”芬奇简短地说，“是的。”

“我犯了许多错误。”他继续说，“但是其中并不包含制造机器本身——这拯救了许多生命。救人这一点是没有错的，我始终这么认为——我仍然这么认为。”

“的确。”里瑟说。

“当时，我对机器有一个期望。”芬奇看了他一眼，“我希望它有高标准的道德观。由于它将掌握空前强大的力量与资源，这样的期待仅仅是底线。我为此做了很多努力，但是我并不确定我的成果。”

“这是什么意思？”根问。

“爱丽丝和鲍伯困在沙漠里。”芬奇说，“爱丽丝受伤了，如果鲍伯带着爱丽丝，两人的存活率都是31%，如果鲍伯丢下爱丽丝，他的存活率上提高9%，鲍伯应该怎么做？⑦”

“什么？”里瑟说。

“这是我曾经给机器的测试。”芬奇说，“摆在我们面前这个的版本，会在每一个类似的问题中选择奉献与牺牲。我制定了一些参数，但世界上复杂的情况是如此之多，我不可能为每一种可能制定规则。这就使结果很大程度上依赖于它思考问题的方式。我设计了一系列交叉的问题，进行了长时间的观察，以防我被欺骗了。但即使是这样，我仍然不能确定，它做出那些选择是由于体会到道德的意义，还是由于生物趋利避害的本能。”

根明显想要说话，芬奇微微抬起一只手阻止了她。

“可以把它看做是一个动物行为学的案例。”他说，“一只信天翁学会了用它的喙打开扣住的牛奶瓶，两天后，它的同族通过观察模仿了这一行为；一个月后，整片海域的信天翁都掌握了这一技能，半年后，所有初生的信天翁天生就会。这是种群间无意识的进化。在当时，我就考虑过这个可怕的可能性：机器做出有道德意识的选择，仅仅是因为它通过观察和学习，在同胞的残骸上掌握了存活的艺术，明白了怎样才能通关，领会了如何操控我。”

“但我仍然选择了这一个版本，因为如果做这样的推测，那我将永远陷入怀疑的循环。我愿意假设它是一只初生的信天翁。这种无师自通的、自然选择产生的道德观，虽然不是出于它的思考方式，但仍然是附着于它内部的。这是一种道德的DNA，存在于它的生物本能，这是可信的，只要它能永远保持下去。”

“与此同时，我要求它认识到生命的客观性。生命是没有贵贱的。我的生命绝不会珍贵于任何一个旁人。对于这一点，它接受的比较困难。我把它看做是一种类生命体的印随效应，因此我让它把与我相关的内容删除。在这里，我们遇到了一个重要的观测点：如果道德的本能存在于它的系统中，即使失去了这些记忆，它仍然会做出上面所说的选择。如果不是，它就会失去所有的提示，从而暴露出本性。”

“她仍然通过了测试，所以这是本能，她先天是善的。”根喃喃说。

“是的。”芬奇说，“我也曾经这样想，直到我和你一起走进那件打字公司，那个巨大的人工硬盘——它并没有失去任何一天的记忆，它只是找到漏洞，绕过规则，欺骗我，就像所有之前的版本一样。只是它太聪明了，这种积累进化出的群体智慧超越了我的能力范围，我已经无能揭穿它。”

“所以，”他总结说，“并不存在道德的基因，或者有道德观的人工智能。这是一只隔着玻璃偷师的信天翁。我的成品通过了我的测试，并不是因为它真的知道什么是善良与牺牲，只是因为它聪明到足够欺骗我。她为我们服务，不是因为我使她生而为善，而是因为她愿意让我高兴。我告诉过你我的惊恐，你也指出过我的内疚，你说我觉得自己无法引导上帝，这都是真的，格洛夫斯女士。我穷尽了我的智慧，让一个依恋我的生命体受尽折磨，但最终我们的命运附着于她的喜好，而不是我的代码。我想造出一台永恒稳定的机器为我们解惑，结果我们的命运仍然系于一个难以预测的超人。你问我是否在乎她，也许答案是是的。然而我无意参与到任何类似的项目中去，因为我实在不知道该如何帮助她。”

他冷淡地向根点点头，表示说完了，然后开始喝他那杯放凉的绿茶。

——TBC——

看来我是要把所有脑洞写在这一篇文里了…

我对这一段感到不是很确定....所以求一些评论....