登陆注册
12485000000029

第29章 可避免的冲突(3)

它可约略分成两大地区。地图左方是格兰河以北的整个北美洲,右方则包括当年苏联的全部疆域。这两个地区加在一起,代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠,它像是该界域舔向欧罗巴的舌头。而在地图的顶端,扭曲放大成怪模怪样的,则是澳大利亚与纽西兰,两者同样是这个界域的成员。

过去数十年的一切变化,皆未能改变“北方”是全球经济主宰这项事实。

因此,在拜尔莱所见过的官方界域地图中,唯有麦肯日的版本画出了整个地球,仿佛表示“北方”无惧于竞争,无需特别强调自己的显着地位。这个事实,几乎便是一个夸耀的象征。

“不可能。”麦肯日一面喝着威士忌,一面以倔强的口吻说,“拜尔莱先生,我相信,你没有受过机器人技师的训练。”

“没错,我没有。”

“嗯。这个嘛,秦修林、勾马和齐葛思苏斯卡也都没有,在我看来这实在是大不幸。地球居民有个太普遍的看法,认为总协只需要具有组织的长才、兼容并蓄的胸怀,以及和蔼可亲就行了。但如今这个年头,他也应该了解机器人学——请别介意我这样说。”

“我不介意,我同意你的说法。”

“比方说,根据你刚刚讲的那些话,我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么,但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”

“会怎么样,麦肯日先生?”

“这个嘛,”这位苏格兰人挪了挪屁股,叹了一口气,“搜集来的所有资料,都会通过一个复杂的筛选系统,由人工和机器做双重检查,所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错,也容易堕落,普通的机械装置则容易出现机械故障。

“问题真正的重点,在于我们所谓的‘错误资料’,是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据,对机体而言也是一样。比方说,假如你命令它,根据七月平均气温为57华氏度的资料,指导爱荷华州的农业活动,它是不会接受的,它不会给出任何答案。并非由于它对那个特殊气温有任何成见,或不可能得出一个答案;而是因为,根据历年来输给它的所有资料,它知道七月平均气温为57度的机会趋近于零。因此,它拒绝接受这个资料。

“唯一能将‘错误资料’强行输入机体的办法,是把它藏在一组自圆其说的完整资料里面,其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来,就是在机体的经验范围之外。可是前者超出人类的能力,后者也几乎如此,而且随着机体的经验一秒秒增加,后者的机会也就越来越小。”

史蒂芬·拜尔莱将两根指头放到鼻梁上。“这么说,机体不可能被人动手脚——那么,你又如何解释最近这些错误?”

“亲爱的拜尔莱,我看得出来,你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子:在棉纺业这一行,负责采购棉花的人员个个经验丰富。他们检验棉花的手续,是从许多捆里面随便挑一捆,再从那捆中抽出一簇。然后,他们用眼睛观察那簇棉花,用手抚摸它,用舌头舔它,还把它梳得起毛,说不定这时还会倾听那阵噼啪声。经由这些手续,他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格,以及棉絮的混合比例,都是根据他们的检验结果而定。好,目前为止,机体还不能取代这些采购员。”

“为什么?相关资料当然不会太复杂吧?”

“或许不会,但你指的是什么资料?没有任何织品化学家知道,当那些采购员抚摸一簇棉花时,他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目,他们凭借多年的经验,下意识地一一衡量。但这些检验的定量特性却都是未知数;甚至某些检验的本质或许也是未知数,因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断,他们只能说:‘这个嘛,看看它,你看不出来它是某某等级吗?’”

“我懂了。”

“像这样的例子无穷无尽。毕竟机体只是工具,它替人类分担一些计算和诠释的重担,以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料,发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”

“他们反对机体?”

“假使他们生活在古代,他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中,能干的人仍是珍贵资源;我们仍然需要那些拥有足够智慧的人,想出和提出一些适当的问题。说不定,我们若能找到足够的这种人,总协,你忧心的那些脱序现象就不会发生了。”

地球(包括无人居住的南极大陆)

面积:54,000,000平方英里(陆地面积)

人口:3,300,000,000

首都:纽约

石英板后面的炉火孱弱无力,已不情不愿地燃烧到尽头。

总协一脸忧郁的表情,他的心境恰如逐渐熄灭的火焰。

“他们都尽量将事态淡化。”他以低沉的声音说,“不难想象他们都在嘲笑我吧?可是——文生·西佛说机体不可能出毛病,而我必须相信他。希兰姆·麦肯日说它们不会接受错误资料,我也必须相信他。但机体不知怎地出了问题,我同样必须相信这个事实。所以,仅仅剩下最后一个可能。”

他瞟了苏珊·凯文一眼,后者闭着眼睛,乍看似乎睡着了。

“那是什么?”她却立即作出回应。

“啊,机体的确接受了正确的资料,也的确送出了正确的答案,但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”

“在我看来,齐葛思苏斯卡夫人做了这种暗示,她泛指的是北界人。”

“是的。”

“违背机体又能达到什么目的呢?我们来考虑一下动机。”

“我看动机很明显,你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时,地球上不可能有严重的冲突。反之冲突倘若存在,某些人便能为了自身利益而攫取更多的权力,全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心,令它们遭到废弃,那么丛林法则将再度出现。而四个界域,个个脱不了有此打算的嫌疑。

“东方界域境内拥有全世界一半的人口,热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰,而且两者都有一段受北方欺侮的历史,想要作非理性的报复乃是人之常情。另一方面,欧罗巴拥有唯我独尊的传承,它一度真正统治了地球,而权力是最令人难忘的一样东西。

“然而,换个角度来看,这却是难以置信。东方和热带目前都在自己境内大肆发展,两者皆以不可思议的速度蹿升,它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想,它的军事实力等于零。”

“所以,史蒂芬,”苏珊说,“你只剩北方了。”

“是的,”拜尔莱中气十足地说,“没错。北方是如今最强盛的界域,若将其成员的历史包括在内,这个局面已经持续近一世纪。可是现在,相较之下它正在走下坡。热带界域可能即将攻占文明最前线,那会是法老时代之后的首例,有些北界人害怕这个事实。

“你也知道,‘人本协会’主要是一个北界组织,他们不讳言不想要机体——苏珊,他们人数很少,却都是有权有势之辈。这个组织的成员包括:不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖,此外还有野心分子,以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。

“总而言之,那些人只要一起拒绝接受机体的决定,便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。

“苏珊,一切都吻合了。世界钢铁公司有五名董事是它的成员,而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司,是一个属于北界的企业。我们仍在调查它的名册,但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥·威拉法兰卡,我们已经知道他是会员——而拉玛·巫拉萨耶拿也是,发现这点时我毫不惊讶。”

苏珊心平气和地说:“这些人,我应该指出,表现得都很差……”

“但自然如此,”拜尔莱插嘴道,“不听从机体的分析,就是不遵循一条最佳化的路径,得到的自然是较差的结果,那是他们付出的代价。他们现在日子难过,但在终将来临的混乱中……”

“你究竟打算做什么,史蒂芬?”

“显然不能浪费任何时间。我要把‘人本协会’列为非法组织,将一个个会员从重要岗位上换下来。从今以后,所有行政和技术人员的职位,申请者必须具结一份非该会员的誓词,否则绝不录用。这将代表放弃某些基本人权,但我确信世界议会……”

“行不通的!”

“什么!为何行不通?”

“我来作个预测。你若尝试任何这样的举动,将会发现寸步难行——你将发现这个命令不可能贯彻,你将发现相关措施通通都会陷入困境。”

拜尔莱吃了一惊。“你为什么这样说?我满心希望你会赞成这件事。”

“只要你的行动建立在错误前提上,我就绝不会赞成。你承认机体不可能出错,不可能接受错误资料。但你认为‘人本协会’可以违背机体,现在我要对你说明,那也是不可能的事。”

“这点,我完全看不出来。”

“那就听好。任何主管的任何行动,倘若并非切实遵循机体的指示,那个行动就会成为下批资料的一部分。因此,机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析,也就是说,判断出不服从的确实程度和方向。它的下一组答案,便会刚好有足够的偏颇,让那位主管在故意违背后,会自动将那组答案修正到最佳化的方向。机体一清二楚,史蒂芬!”

“你不可能确定这一切,你只是在猜测。”

“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测,史蒂芬。”

“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。现在你又说,没有人能违背它们的意思。那究竟是哪里有问题?”

“你自己已经回答了。根、本、没、有、问、题!稍微想想那些机体,史蒂芬。它们是机器人,它们服从第一法则。可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。’”

“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。你不同意吗?”

“我同意。”

“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”

“我会说,”拜尔莱不情愿地答道,“是机体被作废。”

“我也会这么说,而机体也会这么说。因此之故,为了我们,它们的首要考量是保全自己。所以,它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。

“所以巫拉萨耶拿失去了他的工厂,在他无法为害的地方找到另一份工作——他没有受到严重伤害,没有失去谋生能力,因为机体对人类所造成的伤害必须尽可能轻微,而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权;威拉法兰卡不再是一项重要计划的总工程师;而世界钢铁公司的那些董事,则正在失去钢铁业的支配权——或说即将如此。”

“但你不算真正看透这一切,”拜尔莱激动地坚持道,“我们怎能冒险假设你是对的?”

“你必须这样做。你还记得当你对机体提出这个问题后,它自己的回答是什么吗?它说:‘这件事不可解释。’机体并未说根本没有解释,或说它能断定没有解释,它只是不容许出现任何解释。换句话说,假使公布这个解释,就会对人类造成伤害,所以我们只能猜测——一直猜下去。”

“假设你是对的,苏珊,但那个解释怎能对我们造成伤害呢?”

“啊,史蒂芬,假如我是对的,那就代表机体为我们筹划未来的方式,并非只是针对我们直接的问题提出直接的答案,而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过,可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。

“史蒂芬,我们又怎么知道人类终极的幸福会伴随着什么?机体掌握着无限多的因素,我们却无从掌握!让我举个不算不熟悉的例子:整个的科技文明所带来的不幸和悲惨,说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明,说不定反而会更好。若是这样,机体就必须朝那个方向前进,而且最好别让我们知道,因为根据我们无知的偏见,我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定,一个完全都会化的社会,或者一个完全阶级化的社会,或者一个完全无政府的社会,才是真正的答案。我们不知道;只有机体知道,而它们正带着我们走向那里。”

“但你是在对我说,苏珊,‘人本协会’是对的;人类对未来已经失去自己的决定权。”

“其实,人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布,此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素,不会被任何一项所阻止,因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器,那就是对全球经济的绝对控制权。”

“多么可怕!”

“或许是多么美好!想想看,如今,所有的冲突终于能避免了。从今以后,只有机体是不可避免、不可或缺的!”

石英板后面的火焰熄了,只留下一缕轻烟作为它的遗迹。

“故事讲完了。”凯文博士缓缓起身,“我从头到尾看了个仔细。一开始机器人还不会说话,最后他们挺立于人类与毁灭之间。我看不到什么了,我的生命已到尽头。你将会看到下一波的发展。”

此后我再也不曾见到苏珊·凯文。她于上个月逝世,享年八十二岁。

同类推荐
  • 一幅梅花图

    一幅梅花图

    脚步声在他呆着的房门前停了下来……突然,门开了,他瞪大眼睛,还来不及举起砍刀,就被眼前的恐怖景象惊吓得倒在地板上……当他来到房门前时,朦胧中猛地发现一个披头散发满脸狰狞的女人贴在墙上瞪着他,可慢悠悠地又露出一丝奸笑,一动不动,样子越来越恐怖。突然,一阵风吹了过来,这恐怖形象却消失了。民国年间,北平粮钱胡同13号居住着一户钱姓人家。一夜之间,全家老少皆身首异处,死相恐怖,从此这处宅院如中了魔咒,留下数桩悬案,荒废多年几十年后,几个神秘的陌生人先后来到了阴森的13号……
  • 继承者们(上册)

    继承者们(上册)

    这是一个高富帅和白富美的圈子,他们生下来便拥有一切,也注定被生意与争斗紧紧捆绑。在他们的人生里,没有相互喜欢,只有出于家族需要的联姻,这是坐拥一切的代价。可是,一定要向命运屈服吗?一个是富可敌国、完美深情、却遭流放的帝国集团庶子,金叹;一个是帅气仗义、寂寞无助、又让人心酸的霸道暖男,崔英道;一个是美丽直率、聪明坚毅、点燃叹和英道两个人爱情小火苗的贫穷继承者,车恩尚。无论贫穷富有,他们所继承的一切,早已写进命运无法改变,但想要的小幸福,看似那么简单,却难以得到。抓不住,又放不下,爱与不爱反正都那么难。所以,跨越一切障碍牵那个人的手,用力地相拥,悲伤地相爱,不顾一切向前奔……
  • 后晋枭雄录

    后晋枭雄录

    内乱纷争。兄弟战于萧墙之内;外侮频仍,契丹逡巡边境之外;中原板荡。人民陷于水火之中。铁甲铿锵声中,英雄纵马挥刀力拼敌军,沙场醉卧累累白骨。大浪淘沙潮水来去,吉来征战几人回?血流处,万马奔腾席卷山野;林深处,惊起多少归鸟……
  • 晚安,故事

    晚安,故事

    相亲相爱的双胞胎远离城市的小村庄里,住着一对双胞胎。他们家庭富裕,哥哥既无须赶走弟弟,弟弟也不需抢夺财产。他们的父母早亡,两人相依为命,住在山脚边大橡树下的房子里。双胞胎长得很像——同样英俊。好像流落世间的王子,再加上父母双亡,如果有人耐心考证,相信一定能发现些什么。淳朴而富有同情心的村民相信着,隐隐约约,双胞胎不同凡人。打从双胞胎来到这里,村民就对他们很尊敬。兄弟俩的离群索居也加强了这种尊敬。
  • 沿着瞭望塔

    沿着瞭望塔

    《沿着瞭望塔》是王小峰的第一部长篇小说,小说的主题紧紧围绕着成长、理想主义、友情的话题展开。在一个没有理想主义的年代奢谈理想是件很危险的事情。故事的背景发生在上世纪60年代末期英国的一家录音棚,约翰·列侬心血来潮,要到中国参加文化大革命,他拉上了只为了履行信用的鲍勃·迪伦和其他几位摇滚歌星,一路磕磕绊绊,出生入死,终于到了中国。等他们到了中国,又将面临新的选择……
热门推荐
  • 九国风华

    九国风华

    有虞建立大虞皇朝定都洛邑分封九国,后传至第三十五代虞皇虞仁,虞仁生性放荡孱弱,九国势强各国争乱不断,北方异族蠢蠢欲动,国局动荡不安,兴盛的大虞皇朝岌岌可危。
  • 丫头,乖乖爱上我吧!

    丫头,乖乖爱上我吧!

    他和她从小青梅族马,喜欢一起玩耍,长大以后,被送去了美国,也被订了婚。
  • 夏商记

    夏商记

    夏朝改商朝时,中原发生了些例为人鲜知的战争,充满离奇、玄幻。给人一种惊奇的感。
  • 绝宠痴傻嫡女:逆天狂傲妃

    绝宠痴傻嫡女:逆天狂傲妃

    【已完结】她太傅之女,从小痴傻,受尽凌辱。她一朝穿越,借尸还魂,口出狂言,天若灭我,我灭天!本想安然度日,奈何各路人马,心机难测。想抢我夫君,先问问我答不答应?跟我玩潜伏,那就看谁最毒?想让我死,看你有没有这个本事?跟我耍计谋?且看我一一拆你招。不想让我安然度日?那我便扰你朝纲,谋朝篡位,翻身为主……【男主心机难测+女主善于攻计=冤家斗计】新书《盛宠狂妻:邪王的魅世妖妃》女主是只萌萌哒的小狐妖,男主是人见人怕的腹黑大神。
  • 调侃年代

    调侃年代

    本书精选作者的三篇小说力作:闻酒识女人、调侃年代、春夏之后。作者用饱含真诚的笔墨游走于人间百态,畅谈了女人与红酒的点点滴滴,酣畅地叙述了毕业后的苦辣酸甜,虔敬地探讨了生命的真谛。
  • 士道行

    士道行

    人行大道,号为道士。身心顺理,唯道是从,从道为事﹐故称道士。然则,道士也是人......
  • 重生之蝶变

    重生之蝶变

    相貌丑陋,地位卑微,家徒四壁,病入膏肓,苦逼女似这般境界的有木有?后天异能,能言善辩,蝶变“万人迷”气质女,神速敛金,身价无可匹敌。学生妹到“白骨精”、“狐狸精”的洒脱转变,引无数豺狼围观。跨国女总裁有木有?看姐华丽丽的变身。今天正式签约了。一下飘到云端!希望亲们继续支持啊!粉丝群:31956149
  • 岁月静好随遇而安

    岁月静好随遇而安

    时间或许可以停留在这一刻,好让我俯视这一切,然后随遇而安。她在我眼中或在我心中是那么的渺小,但渺小的她却似有一份执着,一份倔强的执着,等待着哪个他的出现,时间从来不是她放弃的理由,就算是大学空闲的时间也不是她堕落的借口,这样毫无目标的等待我不知道这是优点还是缺点,却也叫我这般无奈。20岁的她发现爱情来临了,但这对于她来说简直是一个世界性的难题。爱情,这个从未在她生命中出现的词语也无论和她这个平凡的女孩扯不上关系的词。竟然有一天也会降临在这个女孩的身上。她叫言静好,而他叫许安。或许我可以陪伴你直到地老,直到天荒。
  • 聪明工匠的故事

    聪明工匠的故事

    童话是世界儿童文学中永不凋谢的花冠,是与我们少年儿童捉迷藏的小朋友。童话奠定了我们的人生基础,影响着我们的一生。因此应该把那些名篇珍品传给后代,陶冶后代。
  • 我从百蛮来

    我从百蛮来

    这方世界有五仙,分别为:鬼道魂仙,神道念仙,六道人仙,地府阳仙,天庭道仙。重活两世的穿越来客,誓要看看那道仙以上的风景。