当前位置:首页科技前沿 》 机器能否替代人类?
机器能否替代人类?
时间:2022-04-19作者:中国先锋作家出版社 阅读:
            

   内容摘要

    在新作《克拉拉与太阳》中,石黑一雄巧妙地将图灵测试的经典命题“机器能否思考?”改写成“机器能否替代人类?”如何解读和评价机器人克拉拉拒绝替代人类的行为,成为学界在讨论该部小说时无法绕过的一个重要话题。从某种程度上来说,克拉拉之所以拒绝替代人类,主要受到其伦理顿悟的影响,即她意识到无法触及的“人心”是人与机器之间的一个重要差异。乔西的“人心”并不单纯是指她身体上的某个器官,而是指所有爱她的人在心中对其难以取代的感情。经历伦理顿悟后的克拉拉拒绝替代乔西,以积极的行动者姿态,竭尽所能拯救其于死亡的边缘,为人类对自身以及对非人类所理应承担的伦理责任提供了道德警示。由是说来,“机器能否替代人类?”并非是一个有待机器人回答的问题,而是一个人类在人工智能时代所必须应对的问题。对该问题的回答不仅是一个科学选择,更是一个伦理选择。

   关键词《克拉拉与太阳》;石黑一雄;人工智能;机器人;伦理选择


    在《机器人的未来:机器人科学的人类隐喻》一书中,意大利学者多梅尼科·帕里西(Domenico Parisi)把人类对自身的认识划分成四个阶段。帕里西指出:“在人类对自身的认识中,机器人是第四次革命。第一次革命是哥白尼的革命:人类生活的这个地方----地球,不再是宇宙的中心。第二次革命是达尔文的革命:人类不是上帝创造的,而是自然创造的。第三次革命是弗洛伊德的革命:在大多数情况下,人类的思维是无意识的。现在新的革命已经开始了----机器人革命----人类只是肉体”(20)。帕里西所说的第四次革命即机器人革命,与聂珍钊所提出的科学时代形成了有机的呼应。聂珍钊指出:“科学时代的人已经不能脱离科学而存在。科学几乎影响了人的所有方面。人类不仅在创造科学、发展科学,也同样在接受科学的影响及科学对自身的改造”(252)。人类利用科学对自身的改造不仅包括“通过外科手术实现的对人身体的改造,如对病变部分的切除、对部分病变器官的置换、对不符合自身愿望部分的美化等,而且已经扩大到对人的生命的制造,如试管婴儿,或者对人的机体的复制,如基因克隆”(252),此外还包括人类按照自己模样创造出的另一个自我----人造人。在约瑟夫·巴-科恩、大卫·汉森看来,“从石器时代开始,人类就尝试着利用艺术和技术来复制人类的外貌、能力以及智力”(4)。机器人是人类在尝试复制自我的道路上所取得的一个重要成就,也是人造人的一个主要类型。值得注意的是,“当人形机器人离我们的生活越来越近的时候,对由其而引发的伦理道德问题的讨论也变得愈加尖锐”(212)。

   实际上,机器人及其伦理问题也是科幻文学的一项重要书写内容,从玛丽·雪莱的《弗兰肯斯坦》到菲利普·迪克的《仿真人会梦见电子羊吗?》,再到伊恩·麦克尤恩的《我这样的机器》,莫不如是。正是在这种意义上,亚当·罗伯茨说:“所有的机器人小说从根本上来说,都是道德小说”(214)。在机器人及其伦理这一话题上,诺奖得主、英国当代著名小说家石黑一雄尤为值得关注。继在《千万别丢下我》中探讨了克隆人问题之后,石黑一雄在2021 年力推新作《克拉拉与太阳》(Klara and the Sun),聚焦机器人问题。该部作品沿用石黑一雄擅长的人物叙述笔法,以机器人克拉拉的视角讲述了机器人如何介入人类生活的故事。在人工智能专家卡帕尔迪的劝说下,乔西的父母决定当乔西因病离世时,用克拉拉延续女儿的生命,而人类的这一主动邀请遭到了机器人克拉拉的断然拒绝,她以积极的行动者姿态,不遗余力地帮助乔西恢复了健康。安妮·恩莱特(Anne Enright)将《克拉拉与太阳》与石黑一雄的另一部作品《千万别丢下我》相提并论,认为这是一部关于“成为人类意味着什么”的小说。恩莱特的问题在朱迪斯·舒列维茨(Judith Shulevitz)那里得到了进一步细化。舒列维茨指出:石黑一雄在作品中提出了诸多悬而未决、难以回答的问题,如“谁的意识存在局限,是我们还是机器人?谁的爱更加真实?如果我们使机器人感受到他们被我们所带入的世界中的美与痛苦,他们会因此加害我们,还是会带领我们走向光明?”(Shulevitz)如果将恩莱特和舒列维茨的观点综合起来,《克拉拉与太阳》所涉及的核心问题就是人类在人工智能时代将走向何处?抑或机器能否替代人类?


01
    机器人的人生第一课:是否可以信任人类?
    在小说中,克拉拉是一台AF 机器人,敏于观察,勤于学习,擅于模仿。克拉拉命运的改变始于某天她与女孩乔西在AF 商店橱窗的一次相遇。在被放入橱窗的第四天,克拉拉看到一辆出租车放慢速度,停靠在商店的路边,从车里出来一位病恹恹的女孩。小说以克拉拉内聚焦的方式,展现了乔西并不健康的形象:“她苍白又瘦削,就在她朝我们走来的时候,我看出了她的步态和其他的路人不一样。她走得并不算慢,但每走一步她似乎都要权衡一下,确保自己还能站稳,不会摔倒”(石黑一雄 14)。在同克拉拉隔着玻璃进行一番私密交流后,乔西决定要把她买回家。临别之际,乔西与克拉拉做了一个约定:
“我这会儿得走了。但我很快就会回来的。到时候我们再聊。”接着她又添了一句,声音轻得近乎耳语,只有我能听见:“你不会走的,对吧?”
我摇摇头,对她微笑。
“太好了。行。那现在我们就说再见吧。但只是现在”。(18)
在上述对话中,乔西希望克拉拉不要离开,等她回来。此处,有一个值得关注的细节,即乔西说话声音轻微得只够克拉拉一人听见,由此说明这个约定完全属于她们两人之间的秘密。上述人机之约的困境在于克拉拉只是商店里一台待售的AF机器人,出售权并不在自己手中,时刻都有被顾客买走的可能,而乔西也只是一个孩子,能否成功购买克拉拉,最终并不取决于她自己而是其家长的意愿。由是观之,能否信守承诺成为乔西和克拉拉所要共同面对的一个难题。彼时,无论是克拉拉还是乔西都丝毫没有怀疑对方,坚信彼此的承诺。
    就在克拉拉被搬到橱窗第二周的那个早上,她又看到了乔西。乔西又一次向克拉拉表达了要带她回家的强烈意愿,反复向克拉拉确认她本人是否真的愿意跟自己回家。遗憾的是,克拉拉回忆道:“乔西第二天没有再来,第三天也没有。然后,等到我们在橱窗里的第二周过半的时候,我们的机会也用尽了”(33)。如前所述,既然与克拉拉有约在先,那么乔西就应该遵守约定,及时回来买走她。一旦乔西第二天没有如约而至,克拉拉可能面临两种困境的考验:第一,如果有其他顾客选中克拉拉,她是该选择离开还是选择继续等待?克拉拉如果选择离开,就意味着背离自己的约定,失信于乔西;第二,如果选择继续等待,而乔西一直没有来,克拉拉就会在橱窗期结束的时候,被撤出橱窗,由此错过自己最佳的出售机会,面临再也卖不出去的可能窘境。无论是哪种情况,都是对克拉拉能否遵守约定的一种考验。在小说中,克拉拉先后经历了上述两种情况。譬如,在克拉拉等待乔西重返商店的某天,一个年龄大约在12 岁半、留着刺猬头发型的小女孩走进商店,一眼就看中了克拉拉。尽管克拉拉也看出了小女孩对自己的兴趣,但并没有对她表现出应有的示好:
    她依次抚摸我的两只手肘,然后用她的右手握住我的左手,就这样牵着我,两眼直视我的脸。她的表情相当严苛,但那只牵着我的手却轻柔地捏了捏我,我明白这是她设计的又一个我俩之间的小秘密。但我没有对她微笑。我始终目无表情,目光越过女孩的刺猬头,盯着对面墙上的红架子,尤其是倒扣在第三层上的那排陶瓷咖啡杯。姑娘又捏了两回的手,第二回已经不那么轻柔了,但我并没有垂下目光看她,也没有微笑。(39)
    克拉拉一反常态,对喜欢自己、很有可能要买走自己的顾客摆出了一幅漠视和无动于衷的态度,最终导致她对自己彻底失去兴趣,弃之而去。克拉拉这一异常举动被商店经理察觉。她在告诫克拉拉“是顾客在挑选AF,千万不要弄反”(42)之余,猛然间意识到克拉拉可能有了自己的约定,决定趁机给她上一课:
   让我来告诉你一件事,克拉拉。孩子们总是在许诺。他们来到窗前,许诺各种各样的事情。他们许诺会回来,他们求你不要让别人把你领走。这种事情一直在发生。但十有七八,那个孩子永远也不会回来。或者,更糟糕的是,那个孩子回来了,却看也不看一直在等他的那个AF,反而转身选了另一个。孩子们就是这样的,克拉拉,你一直在观察,在学习,也学到了很多。那么,这就是我要教给你的又一课。你明白了吗?(42)
    经理的这番话显然给了克拉拉一记当头棒喝,让她对人类是否值得信任产生了些许怀疑。经理根据自己的人生经验,给克拉拉的告诫是:人类是不可信任的,哪怕是孩子。根据当时的情况来看,经理显然是对的,因为乔西答应说第二天就回来,但她并没有按时出现。颇具反讽意味的是,与经理对人类的消极态度相反,机器人克拉拉选择了相信人类。尽管乔西没有像她所许诺的那样准时出现,但这并不妨碍克拉拉单方面地选择遵守自己的诺言。
   橱窗展示期满,克拉拉被经理搬入商店后区的壁龛。大约十天后,乔西和她的母亲终于来了。当看见乔西在商店里四处寻找某个AF机器人未果的时候,经理顿时明白了乔西就是克拉拉要等的那个人,于是将她带到了在商店后区的克拉拉面前。小说以克拉拉内聚焦的方式,呈现了她和乔西再次见面的场景:
乔西看到我时,她的脸上满是喜悦,脚下的步子也随即加快了。
“你还在这儿!”
   她比上回更瘦了。她迈着她那没有把握的步子不断地靠近,我以为她打算拥抱我,可就在最后一刻她却站住了,直视着我的脸。
“噢,天啊!我真的以为你已经走了!”
“我为什么要走呢?”我平静地说,“我们约好了的。”
“是啊,”乔西说,“是啊。我想我们是约好了的。我想都是我弄砸了。我是说,过了这么久”。(52)
    当再次看到克拉拉的时候,乔西难以抑制自己的喜悦之情。就连乔西都认为自己迟到那么久,克拉拉可能已经被他人买走的时候,克拉拉口中的那句“我们约好了的”,当即表明自己是一位遵守约定、可以信赖的机器人。机器与人类,谁更值得信任?答案不言自明。在“是否可以信任人类”这个问题上,无论是乔西还是经理,都做出了否定的回答,而在“是否可以信任机器?”这个问题上,克拉拉的回答显然是肯定的。

    耐人寻味的是,在作品中,几乎所有人都把秘密毫无保留地分享给机器人克拉拉,而不是分享给自己的同类。这一行为意在暗示人类所普遍面临的信任危机:他们宁愿选择相信机器,也不相信人类。譬如,在同克拉拉去摩根瀑布的时候,乔西的母亲让克拉拉模仿乔西,并在一瞬间把克拉拉看作乔西,而且还表达了将来要再和克拉拉一起出游的愿望。随后,她希望克拉拉严守自己曾让她模仿和扮演乔西的秘密。又如,里克的母亲海伦小姐请求克拉拉让乔西来劝说里克努力考取阿特拉斯·布鲁金斯大学,并且透露自己还有一样能够帮助里克考取这所著名学府的秘密武器,即里克的生父、在该校任职的万斯。她寄希望于通过万斯,试图以“走后门”的方式让里克进入这所顶尖学府。在《克拉拉与太阳》中,人类对自己失去信心,寄希望于机器,最突出的表现就是他们认为人类身上再也没有什么东西是机器所无法取代的,进而试图用机器来替代人类。如果机器人选择相信人类,他们又该如何回应人类发出的用机器替代人类的邀请?是坦然受之,还是断然拒绝?


02
   机器人的伦理困境:“假如我被要求替代人类?”
乔西一家为什么会选中克拉拉?仅仅是因为乔西需要陪伴,渴望摆脱孤独吗?如果说乔西对克拉拉的喜爱是因为其姣好的外形,而母亲选择克拉拉的主要动机则是源自其内心的一个潜在诉求:如果有一天当乔西因病离世的时候,克拉拉可以成为延续她女儿生命的那台机器。克拉拉真的能够堪此重任吗?在决定购买克拉拉之前,母亲专门咨询了商店经理关于克拉拉的独特之处。在小说中,母亲与经理之间有这样一段对话:
“那么,这一台独特之处在哪里呢?这个……克拉拉?”
“克拉拉有着许多独特的品质,真要说起来,我们可以说一上午呢。不过,如果要我突出强调她的一个特质,唔,那我一定要说她对观察和学习的热爱。她能够接受并且融合她所看到的身边的一切,这种能力真是让人称奇。因此,在这家店里的所有AF当中----包括B3在内----她的理解力目前是最为成熟的”。(53--54)
上述可见,根据经理的描述,克拉拉拥有过人的能力,比如她善于观察和学习,能够接受和融合她看到的所有事物,表现出卓越的理解力。为了验证经理的说法,母亲当场让克拉拉模仿乔西的走路姿势和行为举止。从某种意义上说,母亲的这一举动是在测试克拉拉是否具有成为一个理想的替代者的基本潜质。
在小说中,克拉拉先后经历了从观察者、模仿者、替代者到行动者的角色变化。最开始,克拉拉充分发挥自己的特长,在多种场合下观察乔西,主要承担了观察者的角色。在克拉拉被乔西买回家后,她的重要任务就是负责观察乔西。克拉拉说:“在多种环境下观察乔西对我来说非常重要”(102)。她凭借自己对乔西的密切观察,在发现乔西病危的时候,第一时间呼叫母亲,及时挽救了乔西的生命。与其对乔西的观察相呼应,克拉拉被母亲要求模仿乔西,甚至是扮演乔西。让克拉拉印象特别深刻的就是她与母亲两人的摩根瀑布之旅。原本是乔西要求和母亲一道带着克拉拉去看摩根瀑布,而后来自己却因病滞留家中,最终只有母亲和克拉拉去看了瀑布。在克拉拉的记忆中,摩根瀑布之旅让她和母亲之间的友谊一度冷却。尽管克拉拉具有超强的理解力,但让她百思不得其解的是,为什么她们之间突然产生了隔阂。克拉拉说:“它困扰我的原因在于,事后很长一段时间,我一直看不清它是如何在我俩之间制造了隔阂的,也看不清我能如何避免这样一件事情发生”(106--107)。典型的例证就是母亲每次在门厅看到克拉拉的时候,都不再像以前那样打招呼了。那么导致克拉拉与母亲之间产生隔阂的那件事究竟是什么呢?对该问题的回答,需从母亲要求克拉拉扮演乔西说起。在摩根瀑布旁聊天时,母亲要求克拉拉模仿乔西,但她并不满足于单纯的模仿,而是希望克拉拉可以直接变成乔西:
“不过现在我要你动起来。做点什么。做乔西,不要停。做个小小的动作给我看。”
我像乔西那样微笑起来,安然摆出一个懒洋洋的、不拘小节的姿态。
“很好。现在说点什么,让我听听你说话。”
“对不起。我不确定……”
“不。那是克拉拉。我要乔西。”
“嗨,老妈。我是乔西。”
“很好,继续。来啊。”
“嗨,老妈。没啥好担心的,对吧?我来了,我没事儿”。(131--132)
克拉拉出色的模仿,让母亲在一瞬间认为她就是乔西。经过这次摩根瀑布之旅,母亲看到了克拉拉与乔西之间近乎零差别,意味着机器与人之间不再有明显的差异,克拉拉确实可以成为乔西的替代者。这无疑会让母亲觉得不安和难以接受,进而导致其刻意疏远克拉拉。当然,彼时的克拉拉仍然以为她只是乔西的陪伴者和观察者,直到他们去拜访人工智能工程师卡帕尔迪后,她才恍然大悟,原来自己最根本的任务是要去替代乔西。
从表面上看,母亲带着克拉拉和乔西去卡帕尔迪工作室的目的是为了观看乔西的肖像,实则是为了测试克拉拉是否满足替代乔西的条件。完成测试后的克拉拉发现在卡帕尔迪工作室中的乔西肖像并不是真正的肖像,而是一个AF。用克拉拉的话来说,“有一件事情我已经怀疑有一阵子了,那就是卡帕尔迪先生的肖像并不是一幅画,也不是一件雕塑,而是一个AF。我走进那里,就是为了证实我的猜测。卡帕尔迪先生非常准确地把握住了乔西的外在样貌”(260)。那么卡帕尔迪按照乔西的模样做一个AF的目的何在?克拉拉推测卡帕尔迪对自己的测试,是为了检验自己能否很好地训练这个AF,而真相则完全出乎她的意料。卡帕尔迪明确要求克拉拉在未来的某个时刻去占有这个AF,去成为乔西:“克拉拉,我们不是在请你训练新乔西,正如你察觉到的那样,是一个空壳。如果那一天真的来了----我希望不会,但假如它来了----我们要你凭借你迄今学到的一切,占据楼上的那个乔西”(263)。换言之,卡帕尔迪的根本意图是,当乔西不在这个世界的时候,克拉拉可以成为她的替代者,去“占有”(inhabit)那个外貌酷似乔西的AF,进而由里到外都成为乔西。
作为人工智能专家,卡帕尔迪笃信技术理性,认为克拉拉与乔西之间没有差异,乔西身上不存在克拉拉所不能取代的任何东西。为了实现其用机器替代人类的计划,卡帕尔迪不遗余力地劝说克拉拉和母亲接受他的提议。小说写道:
“所以你现在明白我们在请你做什么了,克拉拉,”卡帕尔迪先生说,“我们不仅仅是要求你模仿乔西的外在行为。我们还要请你延续她,为了克丽丝。为了所有爱乔西的人。”
“可那真的可能吗?”母亲说,“她真的能为我延续乔西吗?”
“是的,她能,”卡帕尔迪先生说,“现在既然克拉拉完成了楼上的测验,我就能拿出科学证据给你看了。证明她已经在相当全面地评估乔西的全部冲动与欲望的道路上取得了长足的进展。问题在于,克丽丝,你和我一样。我们都是感情用事的人。我们改不了的。我们这代人依然保留着老派的情感。我们的一部分自我拒绝放手。这一部分自我仍然执着地想要相信我们每个人的内核中都藏着某种无法触及的东西。某种独一无二、无法转移的东西。我们必须放手,克丽丝。那里什么都没有。乔西的内核中没有什么是这个世界的克拉拉所无法延续的。第二个乔西不会是一个复制品。她和前一个完完全全是一样的,你有充分的理由就像你现在爱着乔西一样去爱她。你需要的不是信心。只是理性。我必须这样做,这很难,但现在看来在我身上的收效还不错。你也能行的”。(264)
卡帕尔迪对克拉拉采用的策略是要求与请求,即克拉拉的任务不仅是模仿乔西,更重要的是去延续乔西;甚至对她提出带有伦理诉求的请求,即为了包括母亲在内的所有爱乔西的人去延续乔西。在卡帕尔迪的理念中,克拉拉通过了测试,在科学上已经证明了机器取代人类的可能性,而母亲所要做的就是理性地看待这一现实,接受这一选择。根据卡帕尔迪的分析,人类在情感上认为每个人的内核中可能会存在机器难以触及和无法取代的东西,但从科学实验看来人类并不存在任何被难以取代的东西。既然“那里什么都没有”,所以母亲缺乏的不是“信心”,而是“理性”。卡帕尔迪接连用四个理由来劝说母亲:第一,科学实验的结果证明了机器可以取代人类,所以克拉拉完全可以取代乔西;第二,所谓的人类内核存在无法触及和无法取代的东西只是一种老派的情感,乔西的内核中没有什么是克拉拉所不能替代的;第三,母亲所要做出的选择是抛弃感性思想,理性地接受现实;第四,卡帕尔迪自己能做到的,母亲也同样可以做到。
母亲显然接受了卡帕尔迪所提出的用克拉拉来延续乔西的建议。她对克拉拉说:“你将成为乔西,我会一直爱你胜过一切。所以为我做成这件事吧。我在请求你为我做成这件事。为我延续乔西”(213)。可见,母亲在卡帕尔迪的劝说下,已经做好了放弃乔西、改用克拉拉来延续乔西的准备,并且主动请求克拉拉为自己去延续乔西。母亲甚至还这样劝说克拉拉,男孩里克喜欢和爱慕乔西,所以如果克拉拉同意延续乔西,可预见的结果是她不仅会拥有有母亲的爱,而且还会得到里克。
就克拉拉的机器人身份而言,人类显然不需要征求她的意见,而只须对她发出指令。众所周知,机器人与人类相处的规则是机器人学的一个重要命题。美国科幻小说家艾萨克·阿西莫夫在短篇小说《转圈圈》中,通过小说人物格里哥利·鲍尔和麦克·多诺凡两人之间的对话,提出了机器人学的三大法则:一、机器人不得伤害人类,或因不作为而使人类受到伤害;二、除非违背第一法则,机器人必须服从人类的命令;三、在不违背第一及第二法则的情况下,机器人必须保护自己(阿西莫夫 201)。问题是,一旦三大法则之间产生冲突,机器人该如何做出选择?鲍尔解释说:“各个法则之间的冲突,由脑中不同的正子电位负责摆平。假如一个机器人正走向险境,并了解这个危险,第三法则所自动产生的电位便会令他回头。但假设你命令他走入险境,这样一来,第二法则产生一个高于前者的反向电位,机器人便会冒着自身的危险服从命令”(201)。小说中,鲍尔和多诺凡来到了水星,但他们的太阳光电池已经耗尽,只有硒才可以激活光电池组,而能去采集硒的只有机器人速必敌。不过,硒矿池的中心存在某种危险,速必敌越是靠近硒矿池,就越能感受到这种危险。所以,在不能因自己不作为而使人类受到伤害,在服从人类命令与保护自己之间,速必敌无法做出选择,只好围绕硒矿池不停地转圈圈。

回到人类要求克拉拉来替代乔西这一话题,人类的命令不仅没有给克拉拉带来伤害,反而会让她获得诸多好处,比如同时拥有里克和母亲的爱。从这个角度而言,克拉拉似乎没有拒绝的理由。但事实上,克拉拉在小说中所陷入了“人类命令自己去取代人类”的伦理两难。伦理两难又称伦理悖论,主要“由两个道德命题构成,如果选择者对它们各自单独地做出道德判断,每一个选择都是正确的,并且每一种选择都符合普遍道德原则。但是,一旦选择者在二者之间做出一项选择,就会导致另一项违背伦理,即违背普遍道德原则”(聂珍钊 262)。一方面,克拉拉作为机器人不能违背人类的命令,但另一方面,她如果接受命令,就意味着放弃拯救乔西的努力,而这显然会给乔西带来伤害,也是她所不愿看到的结果。在这种“是,也不是”(to be, or not to be)的困境中,克拉拉可以独立地做出伦理判断吗?在杜严勇看来,“从机器人伦理的角度来看,智能程度较高,或者拥有自我意识的机器人可以独立做出伦理判断,它们在一定程度上具备了成为道德主体的基本条件”(26)。对于母亲一再要求自己去办成这件事,克拉拉的回答是“直到刚才,我还相信我的职责就是拯救乔西,让她的身体好起来。但也许这是一条更好的出路”(269)。包括母亲在内的所有人都放弃了病重的乔西,试图用机器人克拉拉来替代乔西,而只有机器人克拉拉执意坚持拯救乔西,拒绝人类让自己替代乔西的请求,做出了宁愿牺牲自己也要拯救乔西的伦理选择。


03


机器人的伦理顿悟:难以触及的“人心”
在小说中,机器取代人类似乎在各行各业中上演。对此,小说人物反应不一。譬如,当乔西、辛迪带着克拉拉一起去剧院看演出的时候,遭到现场一位女士的抗议和不满。她直言不讳地说:“它们先是抢走了我们的工作。接着它们还要抢走剧院里的座位?”(305)姑且不论诸如克拉拉一样的机器人是否抢走人类在剧院中的座位,但是它们在现实中取代了人类的工作岗位却是不争的事实。乔西的父亲原本是一名出色的工程师,后来也被机器所取代。不过,乔西的父亲对此坦然接受,他说:“我认为,被替代是我遇到的一件最好的事情。我总算解脱了”(240)。尽管乔西的父亲能在自己的工作被机器取代这件事情上达成和解,但他从情感上无法接受自己的女儿被机器人取代,怀疑克拉拉能否学习和拥有乔西的“人心”(human heart)。在小说中,克拉拉与父亲之间有如下一段关于人心的对话:
“那你有什么想法呢?你觉得你能行吗?能演好这个角色吗?”
“这不是一件容易的事。但我相信,只要我继续用心观察乔西,我就有能力做到这一点。”
“那我就再换个问题问你吧。我问你:你相信有‘人心’这回事吗?我不仅仅是指那个器官,当然喽。我说的是这个词的文学意义。人心。你相信有这样东西吗?某种让我们每个人成为独特个体的东西?我们就先假定这样东西存在吧。那么,难道你不认为,要想真正地学习乔西,你要学习的就不仅仅是她的举手投足,还有深藏在她内心的那些东西吗?难道你不要学习她的那颗心吗?”(275)
尽管克拉拉对自己扮演乔西的能力充满信心,认为只要自己用心观察,就能够做到这一点,但是父亲强调,克拉拉所要学习的不仅仅是乔西的“举手投足”(mannerisms),而是“深藏在她内心的那些东西”(what’s deeply inside her)。父亲口中的那些深藏于心的东西就是所谓的“人心”。人心指的不仅仅是生物学意义上的器官,而是“诗学意义上”或文学意义上的一种比喻用法,指的是那些使得一个人成为 “独特个体”(special and individual)的东西。父亲坚信“人心”的存在,而这也是决定克拉拉能否成功延续乔西的关键。在父亲看来,克拉拉对于人心的学习和延续,仅靠“表演”(impersonation)是远远不够的。如果克拉拉对于人心的学习不到位,那么她就不能在严肃意义上成为真正的乔西。换言之,人心成为人与机器之间的一个重要分水岭。在延续乔西的任务上,克拉拉所要做的不仅仅是占有乔西模样的AF,而是要学习乔西的人心。问题在于乔西身上的人心究竟是怎样的?人心又在哪里?在和父亲的深入交流中,克拉拉终于明白了所谓的人心并不是在乔西的身体中,而是那些所有爱乔西的人在心中对乔西无可替代的感情,而这也是克拉拉所获得的最为重要的伦理顿悟。
在与克拉拉的交流中,父亲明确表示,自己对乔西身上没有什么是机器所不可替代的科学假设转变成了对卡帕尔迪的嫌恶和憎恨。父亲说:
我想,我之所以恨卡帕尔迪,是因为在内心深处,我怀疑他也许是对的。怀疑他的主张是正确的。怀疑如今科学已经无可置疑地证明了我女儿身上没有任何独一无二的东西,任何我们的现代工具无法发掘、复制、转移的东西。古往今来,一个世纪又一个世纪,人们彼此陪伴,共同生活,爱着彼此,恨着彼此,却全都就是基于一个错误的假设。一种我们过去在懵懵懂懂之中一直固守的迷信。这就是卡帕尔迪的看法,而我的一部分内心也在担忧他是对的。克丽丝,另一方面呢,和我不一样。她现在也许还不知道,可她绝不会放任自己被说服的。如果那一刻真的到来了,无论你把自己的角色扮演得有多好,克拉拉,无论克丽丝是多么地希望这办法能奏效,她终究是无法接受的。她太……老派了。即便她知道自己是在同科学和数学对抗,她依然无法接受。她就是迈不出去这一步。可我不一样。我的心里有着……某种她所缺乏的冷酷。也许这都是因为我是一名专业的工程师吧,借用你的话来说。这就是为什么我在碰见卡帕尔迪这类人的时候,这么难表现出礼貌来。每当他们做出他们要做的那些事,说出他们要说的那些话时,那感觉就好像是他们从我手中夺走了我此生最珍视的一样东西。我说清楚了吗?(283)
根据卡帕尔迪的说法,人类过去之所以相互陪伴、共同生活和彼此相爱,其根本原因在于人类坚信自己是独一无二、无可替代的,但这很可能是“一个错误的假设”(a mistaken promise)。科学的发展证明了人类身上并没有什么特别之处,没有任何独一无二的地方。人类再也没有什么东西是科技所无法发掘、复制、转移的了。在这种意义上,卡帕尔迪确实可以按照乔西的样子复制一个AF 乔西,同时又让克拉拉去占据这个复制出来的AF,从而转移自己的心智。父亲不愿意相信卡帕尔迪,但内心又怀疑卡帕尔迪是正确的。相比而言,父亲认为母亲太过于“老派”,无法接受这样的事实,无论她自己多么渴望给乔西找一个替代者,无论克拉拉多么善于模仿或扮演乔西。两相比较,父亲得出的结论是母亲“迈不出那一步”,而他自己则不同于母亲,因为他有“某种冷酷”。事实果真如此吗?实际上,石黑一雄在作品中采用了典型的“解叙述”(de-narration)的策略来呈现一个前后冲突的叙述。这种前后冲突的叙述被布莱恩·理查森(Brian Richardson)称之为“解叙述”。在《非自然的声音:现当代小说的极端化叙述》(Unnatural Voices: Extreme Narration in Modern and Contemporary Fiction, 2006)一书中,理查森将解叙述看作是极端叙述的一个重要形式。他指出, 所谓的解叙述就是“一种叙述否定,叙述者否定了在其之前在叙事中所提供内容的重要方面”(87)。早在卡帕尔迪工作室的时候,母亲就已经接受了卡帕尔迪的观点,认为乔西身上没有什么是克拉拉所不能取代的,甚至还劝说克拉拉为自己去延续乔西,可见她并不是像父亲说的那样迈不出那一步。相反,父亲虽然说自己有“某种冷酷”,但实际上用机器来替代自己的女儿乔西,让他感觉是“他们从我手中夺走了我此生最珍视的一样东西”(283)。也即是说,最不愿意接受用机器来延续女儿生命的恰恰是父亲本人,毕竟女儿是他人生中最为珍视的东西。
毫无疑问,貌似冷酷的父亲对乔西深沉的父爱给了克拉拉极大的触动,直接促使了克拉拉的伦理顿悟,即所谓的人心并不在乔西自己身上,而是那些所有爱乔西的人在心中对她的感情。克拉拉最终明白了即便自己能在外貌和言行举止上成功地扮演乔西,但她始终无法取代乔西在那些爱她的人的心中的位置。这是克拉拉作为机器人对人类世界的一个突破性观察和判断,也为其后续所采取的拒绝人类要求自己去替代乔西的请求,以及不惜牺牲自己去挽救乔西而采取的伦理行动做出了铺垫。在克拉拉生命的尽头,她对商店经理解释了自己没有延续乔西的原因,而该原因也是对克拉拉伦理顿悟的一个最佳诠释。克拉拉说:“我做了我所能做的一切来学习乔西;如果真的有那样做的必要,那我是会竭尽所能的。但我认为那样做的结果恐怕不会太好。不是因为我无法实现精准。但无论我多么努力地去尝试,如今我相信,总会有一样东西是我无法触及的。母亲、里克、梅拉尼娅管家、父亲----我永远都无法触及他们在内心中对于乔西的感情”(384--385)。根据克拉拉的解释,她确实具有延续乔西的能力,而且也能精准地模仿和学习乔西,但无论她怎样努力,都不会触及母亲等人在内心中对于乔西的感情。这正是她所无法替代的“人心”。
根据乔西的判断,卡帕尔迪关于乔西身上没有任何东西不能用机器来延续的说法显然是错误的,因为乔西确实有机器所不能替代的特别之处,只不过这个东西不在乔西身上,而是在周围那些爱她的人身上。克拉拉补充解释说:“卡帕尔迪先生相信乔西的内心中没有什么特别的东西是无法延续的。他对母亲说,他找啊找,可就是找不到那样特别的东西。但如今我相信,他是找错了地方。那里真有一样非常特别的东西,但不是在乔西的心里面,而是在那些爱她的人的心里面”(385)。在克拉拉看来,卡帕尔迪接连犯了两个错误:第一个错误在于他认为乔西心中没有什么特别的不能取代的东西;第二个错误在于他找错了地方,这个特别的东西不在乔西本人的心中而在于爱乔西的人的心中。鉴于卡帕尔迪的上述两个错误,克拉拉深知自己不可能成功地延续乔西,所以在拒绝替代乔西的请求之余,竭尽所能地去挽救乔西的生命,扮演了非人类行动者的角色。

在小说的叙事进程中,克拉拉经历了一个从观察者、模仿者、替代者到行动者的角色转变。作为一个AF机器人,克拉拉具有非同寻常的观察力、学习力和理解力,这也是她被选中去替代乔西的一个原因。在其生命历程中,她出色地扮演地观察者和模仿者的角色,但拒绝做人类的替代者,而她最无悔也最自豪的就是自己竭尽所能地做了拯救乔西的行动者。小说结尾,克拉拉对经理说:“我很高兴我当初做出了那样的决定”(385)。这个决定就是她拒绝了卡帕尔迪等人所发出的让自己替代和延续乔西的请求,转而做了一系列行动去拯救人类都已经放弃希望的身患重症的人。


04


机器人的伦理选择:非人类的行动者
法国社会学家布鲁诺·拉图尔受到格雷马斯关于“行动元”概念的启发,提出了著名的“行动者网络理论”(Actor-Network-Theory, 简称ANT)。拉图尔说:“行动者网络理论借用了来自于文学研究的技术词汇行动元”(Latour 54)。在拉图尔看来,“行动者网络理论并非一种关于用物‘取代’人作为行动者的空洞论点:它仅仅指出,任何关于社会的科学都无法开展,除非我们先深入研究什么人和什么东西参与了行动这一问题,即便这可能意味着纳入一个我们因缺乏更好的术语只能称之为非人类的因素”(72)。换言之,在拉图尔的理论体系中,行动者或参与行动的主体既可以是人类,也可以是非人类。正是在这种意义上,拉图尔强调检验行动者网络理论的一个重要手段就是“非人类必须是行动者,不能只是悲哀地发挥着承载象征投影的作用”(10)。在非人类叙事作品中,非人类实体是作为行动者而存在,成为故事世界的主角,其行动也由此构成了作品所要再现的故事内容,直接推动了作品的叙事进程。
在小说中,乔西的姐姐萨尔就是因为患病离开人世,或许这也是乔西母亲放弃了希望,准备接受卡帕尔迪的建议,用克拉拉延续乔西的一个原因。在小说中,与母亲、父亲和卡帕尔迪等人不同的是,克拉拉从未放弃拯救乔西的努力,甚至将之作为自己的一项重要任务。也即是说,对于重症病人,人类的选择是放弃希望,寻找替身, 而机器人选择坚持,心怀希望。可以说,当几乎所有人都放弃了治愈乔西的努力时,只有机器人克拉拉像堂吉诃德一样,孤身一人为治愈乔西这个任务而坚持不懈。身为非人类的机器人,克拉拉如何作为一个行动者呢?在小说中,机器人克拉拉为了拯救乔西采取了两种行动:第一,截断乔西生病的源头,即破坏制造污染的库廷斯机器;第二,寻找治愈乔西的途径,即充分依赖太阳的滋养。
克拉拉认为带有三个烟囱、制造污染的库廷斯机器必须被摧毁,因为它们很可能就是导致乔西患病的直接原因。她对乔西的父亲保罗说:“只要我们能够找到那台库廷斯机器并且摧毁它,我相信随之而来的将是乔西的痊愈。那样的话,卡帕尔迪先生、他的肖像、我学习乔西学得能有多像,这些全都不重要了”(278)。在克拉拉看来,摧毁库廷斯机器是治愈乔西疾病的根本方法,一旦取得成功,就无需考虑卡帕尔迪提议的用自己延续乔西的方案。问题在于,怎样才能破坏库廷斯机器呢?克拉拉寄希望于乔西的父亲保罗。作为一名专业工程师,保罗给出的建议是取出克拉拉体内的 P-E-G 9 溶液,将之注入库廷斯机器中的西尔威斯特通用发电单元,这样可以对机器造成不可修复的破坏,不过从克拉拉体内取出溶液会部分地影响她的认知能力。对于这一牺牲,克拉拉没有任何犹豫,反而高兴自己完成了一个重要的任务,因为她所放弃的东西和完成的任务相比一点也不重要,而且让她对治愈乔西的病又“心存希望了”(299)。为此,克拉拉诚挚地说:“我不介意损失了宝贵的液体。我情愿献出更多,献出全部”(345--346)。不过破坏库廷斯机器只是治愈乔西的一个方法,况且克拉拉只是破坏了一台库廷斯机器,无法破坏第二台、第三台以及其他更多的库廷斯机器,未能从根本上阻止污染,所以她最终还是需要依赖太阳的滋养。
为了祈求太阳大发仁慈,给乔西以足够的滋养,克拉拉在里克的帮助下,穿过草丛,先后两次赶往贝恩先生的谷仓。在谷仓中,克拉拉看到了太阳的光束,她要试图赶在太阳落山前采取行动,发出请求。克拉拉说:“我刚一踏入太阳的光束,便立刻想到了一件事:如果我希望在太阳再度上路前吸引他的注意力,那我必须得立刻行动”(343)。克拉拉甚至对着太阳忏悔,认为太阳是在生自己的气,因为自己让太阳失望了,她没有摧毁所有的库廷斯机器,未能成功地阻止污染。不过,克拉拉一再强调乔西是无辜的,希望太阳能为她送上“那份特殊的滋养”(345)。一个令人费解的问题是,为什么机器人克拉拉近乎偏执和迷信地认为太阳的滋养就一定可以治愈乔西呢?关于这个问题,可能有两种答案:第一,克拉拉本人的经历,因为她是一台太阳能机器人,太阳是她所有能量的来源,她本人的生命完全依赖于太阳的滋养;第二,她在商店橱窗中亲眼见证了太阳奇迹般地让街角的乞丐和他的狗起死回生。某天,透过橱窗,克拉拉看到RPO 大楼旁边的乞丐和他的狗“已经保持了一整天的老样子----显然他们已经死了”(47),不过克拉拉回忆道:“第二天早上,铁格栅升起,天气真是好极了。太阳向大街上,向大楼里倾洒着他的滋养,我朝乞丐人和狗昨天死去的地方看去,却发现他们竟然没有死----太阳发出的某种特殊的滋养救了他们”(47--48)。在克拉拉看来,乞丐和他的狗之所以起死回生,完全就是太阳创造的奇迹,是太阳的滋养起到关键的作用。在克拉拉的意念之中,既然太阳可以让乞丐和狗起死回生,那么只要他展现自己的慈悲,也一定可以救回乔西。所以在贝恩谷仓中,克拉拉向太阳发出了最诚恳的请求:“我知道我在城里的努力失败了,但我请求您再一次展现您的仁慈,将您那特殊的帮助赐予乔西。明天,也许是后天,请您看一眼屋里的她,给与她您曾经给过乞丐人的那种滋养。这就是我对您的请求,哪怕这样做或许是在走后门,而我之前的使命也失败了”(348--349)。在乔西病入膏肓,昏睡不起的日子里,克拉拉一直期盼太阳的造访。
某天早晨,当克拉拉看到太阳就要出来的时候,她立即采取行动,要求母亲和梅拉尼娅管家去楼上乔西的房间,让阳光照射在乔西身上。小说通过克拉拉的内聚焦,呈现了她所采取的行动以及太阳给予乔西滋养的奇迹时刻:
“该死的太阳!”梅拉尼娅管家大叫着,“走开,该死的太阳!”
“不,不!”我赶忙走到梅拉尼娅管家跟前,“我们必须拉开这些,拉开一切!我们必须让太阳尽他的全力!”
我试图从她手中拿走窗帘的布料,尽管她一开始不肯放手,最终却还是让步了,一脸惊诧的神色。这时,里克已经来到我的身边,似乎凭着直觉做出了一个判断,于是他也伸出手来,帮忙升起百叶帘,拉开窗帘。
太阳的滋养随即涌入房间,如此的充沛饱满,里克和我都摇摇晃晃地向后退去,几乎要失去平衡。梅拉尼娅管家双手遮着脸,嘴里又说了一遍:“该死的太阳!”但她没再试图遮挡他的滋养。(357--358)
由于克拉拉的积极行动,阳光射入乔西的房间,直接照射在乔西身上,给予她充足的滋养,乔西随之苏醒。后来,乔西奇迹般地恢复了健康,成为一个正常的孩子。用克拉拉的话来说,“事实证明,太阳特殊的滋养对于乔西就像对乞丐人一样有效;那个天色阴沉的早晨过后,她不但变得有力气了,还从一个孩子变成了一个成人”(363)。从乔西被扭转的命运来看,遇到克拉拉又何尝不是她的幸运?克拉拉高兴自己当初做出了不惜一切拯救乔西的决定,不难推断的是乔西也同样高兴自己当初选择了克拉拉。

论及自己与乔西的差异,克拉拉强调说自己无法替代的乔西的一个首要原因是自己无法触及那些爱她的人在心中对乔西的感情。同样地,作为一个机器人,克拉拉也成功地触及了人类在心中对她的感情。小说结尾,母亲断然拒绝了卡帕尔迪拆解克拉拉的要求,对他说:“别碰我们的克拉拉。让她安安静静地慢慢凋零吧”(375)。对克拉拉表现出不舍的还有恢复健康的乔西。在离家上大学之际,乔西折回给了克拉拉一个长久的拥抱。克拉拉回忆道:“就在母亲手握方向盘准备就绪之后,乔西忽然返身朝我走来〔……〕就在她的手触到我的前一刻,她高举起双臂,仿佛是要尽她的所能,摆出一个Y 字来。接着她就将我揽入了怀抱,许久都没有放手”(377)。从某种意义上来说,乔西对克拉拉一个长久的拥抱充分证明了克拉拉在其内心中的独特位置。克拉拉以自己的实际行动,赢得了乔西和母亲对其难以被取代的情感。在这种意义来说,克拉拉最终也成为和人类一样的一个“独特个体”。


05
机器能否替代人类,抑或小说家如何回应人工智能?
从严格意义上来说,石黑一雄算不上是一个科幻小说家,但身处人工智能时代,任何作家都难以绕过人工智能这一话题,石黑一雄也不例外。如果把石黑一雄的小说创作放置于人工智能的宏大语境之下,他对人工智能的回应又有何独特之处?尤其是与其同时代的作家相比,他如何回应诸如“图灵测试”(Turing Test)等人工智能领域的经典命题?J. M. E. 海兰(J. M. E. Hyland)在《被遗忘的图灵》一文中写道:“图灵大概不会认为自己在百年纪念日之时会被当作国家战争英雄,但是他一定知道自己留下了一笔技术遗产。图灵机和图灵测试是这一遗产的著名部分”(37)。这个被海兰所推崇的图灵测试又名“模仿游戏”(imitation game)。1950 年,艾伦·图灵(Alan Turing)在哲学期刊《心灵》(Mind)杂志上发表了一篇题为《计算机器与智能》(Computing Machinery and Intelligence)的论文,首次提出了图灵测试的理论。图灵将论文第一部分命名为“模仿游戏”,大胆提出“机器能否思考”(Can Machines Think?)的问题。论文伊始,图灵写道:
我提议考虑这样一个问题,“机器能否思考?”。回答这个问题,需要开始界定“机器”与“思考”的意思。这些定义或许要被框起来,这样可以反映这些词语被正常使用的可能范围,但是这种态度是危险的。如果通过考察“机器”和“思考”的一般用法所得出的意思,则难以脱离通过数据统计和民意调查来寻找“机器能否思考?”这个问题的意义和答案的窠臼。但这种做法是荒诞的。我不试图提供一种定义,而是用另一个问题来替换这个问题,即一个紧密相关、用词表达相对清晰准确的问题。
这个问题的新形式可以用我们称为“模仿游戏”的术语表示。这是一个可以由三个人来玩的游戏,一个男性(A),一个女性(B)以及一个既可以是男性也可以是女性的提问者(C)。游戏的主题就是提问者需要决定其他两人谁是男性、谁是女性,其判断主要是根据X、Y 的标签,游戏的最后,他可以指出“X 是A,Y 是B”或者“X 是B,或Y 是A”。(Turing 433)
在图灵测试中,上文中的男性和女性被换成了机器和人。在测试者与被测试者(一个人和一台机器)被隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。如果机器让参与者做出超过30% 的误判,那么这台机器就通过了测试,被认为具有人类智能。图灵认为:“我相信在50 年之内,计算机的存储容量会达到109,并且能够在模仿游戏中取胜。普通水平的猜测者,在经过5 分钟的提问之后,猜对的机会不会高于70%。我相信到那个时候,‘机器能思考吗?’这个问题就会自然地失去意义,根本不值得讨论”(霍奇斯 541)。图灵测试成为计算机科学界和人工智能研究界热议的一个话题。2014 年6 月7 日在英国皇家学会举行的“2014 图灵测试”大会上,英国雷丁大学发布新闻稿,宣称弗拉基米尔·维西罗夫(Vladimir Veselov)创立的人工智能软件尤金·古斯特曼(Eugene Goostman)成功通过了图灵测试。

在《克拉拉与太阳》中,图灵测试的经典命题被石黑一雄改写成了“机器能否替代人类”,如果我们把该小说与石黑一雄的另一部作品《千万别丢下我》放在一起加以考量,不难窥探石黑一雄所试图探究的一个更严肃的话题,即“人类可以用人造人来替代自己吗?”在《千万别丢下我》中,人类创造出了克隆人,试图以通过器官移植的方式,部分地取代自己。无论克隆人有多么的不情愿,但最终沦落为人类的“不完全替代者”,成为延续人类生命的存在。在《克拉拉与太阳》中,人类创造出高度智能的机器人,成为人类的伴侣。在乔西活着的时候,AF 机器人克拉拉是她的伴侣,而一旦乔西因病去世,克拉拉则被要求化身为乔西,成为人类的“完全替代者”。在《千万别丢下我》中,克隆人凯茜、汤米经历了与人类的种种抗争之后,最终顿悟到因为自己不是人类,所以不会从人类那里获得延迟捐献的许可,无奈之下,被迫接受被捐献的命运,以牺牲自己的方式成为人类的部分替代者。在《克拉拉与太阳》中,克拉拉顿悟到自己始终无法触及那些爱乔西的人在心中对乔西的感情,拒绝了人类要自己替换乔西的要求,转而积极采取行动,在人类快要放弃希望的时候,勇敢地将乔西从死亡的边缘中救了回来。与人类对自身失去希望的状态形成鲜明对比,凯茜、汤米、克拉拉等人造人对人类依然抱有希望与信心,他们的伦理选择,为我们在人工智能时代对人类自身以及非人类所承担的伦理责任提供了道德警示。


结语


    2021 年,《现代小说研究》(Modern Fiction Studies)杂志在该刊第1 期推出了“诺奖之后的石黑一雄”(Ishiguro after the Nobel)的研究专辑。在“导论”中,克丽丝·霍姆斯(Chris Holmes)、凯丽·米·里奇(Kelly Mee Rich)两位编者写道:
考察单个作家的创作生涯必须是一项重读的工作。这就意味着重访他们的作品,当然还要更细致地研究他们的创作如何会随着时间演进,同时哪些核心元素又保留不变,自身具有辨识性。在当代作家中,石黑一雄尤其适合重读,一部分原因是他的作品、尤其是他的小说非常连贯。主人公以第一人称叙述者的身份思考他们的余生,或以不可靠的复杂形式和语气距离,或以他们在事物秩序中所处地位的困难关系,来努力评论他们所参与的伤害结构。(1)
无论是《千万别丢下我》,还是《克拉拉与太阳》,都采用了石黑一雄标签式的“第一人称叙述手法”,即修辞叙事学上的“人物叙述”(character narration)手法。在詹姆斯·费伦(James Phelan)看来,所谓的人物叙述是一门间接交流的艺术,即“作者通过人物叙述者对受述者的交流来实现其同读者的交流。这一艺术基于作者使一个文本有效地作用于两个读者(叙述者的读者和作者的读者,或用技术性术语来说就是受述者和作者的读者),实现两个目的(作者的目的和人物的目的),将叙述者和人物两个角色同时结合在一个人(‘我’)身上”(1)。只不过,在石黑一雄笔下,这些人物叙述者都是非人类。在《千万别丢下我》中,克隆人凯茜讲述了自己和其他一群克隆人被迫为人类捐献器官,成为人类的部分替代者,其目的在于讲述自己如何在人类面前失去了主体性,被剥夺了独立存在的权利,引发了读者的共情;在《克拉拉与太阳》中,机器人克拉拉讲述了自己拒绝人类让其替代他们的要求,赢得人类在内心对之的感情,成为一个独特的个体。
倘若跳出文本之外,我们不禁要问,石黑一雄为什么要写机器人?他书写机器人的终极旨趣何在?对该问题的回答,我们不妨援引帕里西在《机器人的未来:机器人科学的人类隐喻》一书中所举的例子。在书中,一位来自火星的科学家马丁·艾(Martine Eye, 简称ME)来到地球,决定对地球万物中的人类进行研究。ME 选择研究人类的一个重要原因是“人类有很多与自身相关的欲望和恐惧,而且这些欲望和恐惧模糊了人类对自己的认识;他们以为自己是自身所希望的样子,而不是自身所不喜欢的那样;并且他们无可避免地以自身为出发点去解释万物;他们认为自己是世界的中心,但他们不是世界的中心,而且他们的人类中心观扭曲了他们对自身的认识”(2)。那么究竟该如何研究人类呢?ME 决定从研究机器人开始,理由是:1. 如果你想理解人类,构建和人类行为一样的机器人;2. 如果你想理解人类,构建能再现人类并能再现人类发展过程的机器人;3. 如果你想理解人类,构建可以尽可能多地再现人类现象的机器人(3--4)。按照ME 的思路,通过构建和再现机器人的目的是为了理解人类。不过与帕里西及其笔下的ME 相比,石黑一雄显然走得更远。他通过书写机器人的终极目的不仅仅是为了理解人类,而是为了触及在人工智能时代机器否替代人类的这个迫切命题。人工智能的发展固然给人类提供了一个用机器来替代人类的选项,但这并不意味着人类一定要做出这一选择。
论及科幻文学的价值,吴岩说:“科幻作家在作品中呈现的诸多抱怨、反抗、建构、反思,通过认知系统内的实验去面对社会的方式,抚慰了时代变迁下受伤的心灵,为未来的社会发展带去了有价值的思考和体验。而科幻所创造的想象的社会产品、科幻所营造的种种想象的图景,给人类以鼓励和警示”(33)。在《克拉拉与太阳》中,石黑一雄借助科幻文学这一独特文类,与人工智能之父图灵展开隔空对话,将“机器能否思考?”这一经典命题改成“机器能否替代人类?”。从根本上来说,这并非是一个有待机器人回答的问题,而是一个人类在人工智能时代所必须应对的问题;对该问题的回答不仅是一个科学选择,更是一个伦理选择。
此文原载于《外国文学研究》2022年第1期                  
主办单位:中国先锋作家出版社   
Copyright 2008 - 2018 Chinese avant-garde writers press. All Rights Reserved 投稿邮箱:xianfengzuojia@sina.com
中国先锋作家出版社登记证号:52151314-000-04-10-1
地址:北京市朝阳区北沙滩1号院,香港九龙旺角花园街2-16号好景商业中心23楼2309室,上海静安区巨鹿路675号 技术支持:奇兵网络