麦克尤恩如何想象人工智能：“机器人不理解我们，因为我们不理解自己”
记者 | 林子人
编辑 | 黄月
1
早在两年前，中国读者就知道英国作家伊恩麦克尤恩（Ian McEwan）准备写一本以“机器人”为主题的小说了。2018年11月，麦克尤恩受邀来到中国参加《坚果壳》新书活动。接待随行的是上海译文出版社文学编辑室主任、作家、译者黄昱宁。据黄昱宁回忆，当时麦克尤恩一路都在说自己正在创作的新小说《我这样的机器》，称初稿已经完成，趁来中国的机会再想一想书中的问题，回到英国后修改一遍就能付梓了。那次中国之行本身也体现了这位年逾七旬仍笔耕不缀的作家对“机器”问题的思考他在北京甚至还发表了关于人工智能和电脑写作主题的演讲。
2019年，《我这样的机器》出版。2020上海书展期间，该书中文版面市。日前，黄昱宁、作家小白和上海纽约大学教授、亚马逊上海人工智能研究院院长张峥出席了在朵云书院上海旗舰店举办的“机器有什么错2020麦克尤恩小说《我这样的机器》新书发布会”，与观众分享了他们阅读这本小说时的感受。
新书发布会现场，从左至右分别是小白、张峥、黄昱宁。
假如仿真机器人在1980年代问世
“这是看到了希望的宗教渴求，这是科学界的圣杯。我们雄心万丈要实现一个创世的神话，要办一件可怖的大事，彰显我们对自己的爱。一旦条件许可，我们别无选择，只能听从我们的欲望，置一切后果于不顾。用最高尚的言辞来说，我们的目标就是摆脱凡人属性，挑战造物之神，甚至用一个完美无瑕的自我取而代之。说得实际一点，我们要给自己设计一个更完善、更现代的版本，享受发明的喜悦感和掌控的激动感，20世纪入秋之际，这终于成为现实……”
这是《我这样的机器》的首页首段话。小说开宗明义地告诉读者，在一个平行世界里，艾伦图灵不仅没有被逼自杀，还促进了计算机技术的极大发展，让人们在1980年代就能买到与真人几乎一模一样的完美机器人。1982年，第一批测试版仿真机器人问世，其中有12个亚当和13个夏娃，故事男主角查理花大价钱买下了一个亚当，此时他刚刚继承了一大笔钱，与住在楼上的邻居、社会史博士米兰达开始约会。为了增进二人的感情，查理决定向米兰达让渡机器人初始设置的一半权利，让两人能够通过共同创造、拥有亚当而获得某种更强的情感联结。但随着故事发展，读者会发现机器人深深介入了两人的生活，一系列意想不到的意外与困境亦纷至杳来。
黄昱宁认为麦克尤恩把故事背景设定在1982年很有趣，“他把一个在技术上应该发生在未来的故事设定在了过去，所以我们打开这本小说时会觉得非常奇怪，里面有些东西是你熟悉的、属于过去的，但关于人工智能的方面又是完全超前的，造成现在、未来、过去三重复调。”
小白指出，把一项技术嵌入过去历史中的某个时刻是个科幻文学中常见的手段，比如蒸汽朋克小说。作者借此向“技术决定论”提出质疑：如果这个技术在那个时代出现，人类会往哪个方向走？麦克尤恩显然也是在利用这个叙事方式提出类似的问题。在为该书撰写的导读中，小白指出，把故事背景放在1980年代也有时代背景的原因机器人每一次成为社会热门话题，往往都是在经济制度出现剧烈变化的时候：18世纪工业革命初期，英国就出现了憎恨机器的卢德主义者；1920年代，美国大萧条加剧了工人失业的恐慌心理，当时捷克作家卡雷尔恰佩克创作了戏剧《罗素姆的万能机器人》，他在剧中创造了从捷克语“Robota”（劳工）化用的机器人（robot）一词。
1980年代初，英国首相撒切尔开启了新自由主义改革，鼓励企业提高生产竞争力缩减成本，鼓吹广泛使用机器人作业，而当时英国失业率常年徘徊在10%。小白在谷歌图书词频（Google Ngram Viewer）上检索“机器人”和“人工智能”发现，这两个词在1980年代的检索量形成高峰，到1990年代渐渐回落。当时，麦克尤恩刚搬到伦敦生活，见证了英国社会上下对机器人话题的关注和讨论，这或许在这位年轻的作家心里留下了深刻印象。“他把（故事）放到了八十年代，放到了机器人、人工智能最初出现在他的头脑的时代，我觉得这部小说带有他对自己的反思，对人类社会的反思，某种程度上甚至可以说是有点自传体性质的小说。”
黄昱宁表示，她在与麦克尤恩私下交流的过程中曾得以一瞥他对机器人相关话题的长期关切。麦克尤恩曾在两年前的中国之行中告诉她，早在1980年代初，他就拥有了第一台个人电脑，这说明了“他是对科技有强烈兴趣的这么一个文科生”。另外麦克尤恩曾在一次演讲中说过，最初《赎罪》的设定里其实是有机器人元素的，但他发现这个设定写不下去，只好作罢。“过了这么多年，他终于写成了一部机器人小说，可见这个问题在他脑海里萦绕了多久。”
麦克尤恩在小说中花费了不少笔墨刻画平行世界中八十年代的英国，“篡改”了真实的历史：英国在与阿根廷交战的马尔维纳斯群岛战役中失败，导致撒切尔夫人下台；英国失业率飙升至16%；在撒切尔之后上台的左派领袖托尼本恩在任期内被暗杀……小白认为，小说选择的时间点非常好，这不仅是机器人和人工智能概念开始成为大众趋势的时代，也是当下政经格局开始形成的起点英国的撒切尔和美国的里根开始推动政治新保守主义（亦或称新自由主义），施行偏向富人的政策，社会开始趋向不公平。在他看来，麦克尤恩在小说中展露了他对历史、政治、伦理的通盘思考。
《我这样的机器》
[英]伊恩麦克尤恩 著 周小进 译
上海译文出版社 2020-8
机器人的自我意识和道德困境
人类发明机器人总是出于种种美好的目的，但为何总是事与愿违无论是文艺作品还是现实世界，我们总是对日益智能、类人的机器人充满恐惧。很大程度上来说，麦克尤恩在《我这样的机器》中探讨的就是这个问题。
其中一个因素是机器人发展出自我意识后与人类产生冲突。虽然目前科技界仍对机器人能否有自我意识争论不休，但麦克尤恩显然在小说中给出了肯定的回答：由于有了自我意识，亚当也有了自我保护的概念，当查理再一次试图关掉它的电源时，亚当阻止了他，捏碎了他的腕骨。小说中，图灵告诉查理，那批测试机器人中已经有11位设法取消了开关。
张峥认为这是我们在讨论机器人话题时需要严肃对待的一个问题。和“自由”相比，“存在”或许是对机器人来说更关键的问题所谓存在，就是人类不能关闭它们的电源。但从设计者的角度来看，这就问题重重了：如果机器人出现了故障该怎么办呢？“这本书有很多（类似）问题可以讨论，把它单纯当作科幻小说读不过瘾，需要慢慢细读。”张峥说。
小白指出，历史上真正的图灵其实就认真思考过“一键关闭机器人”的问题。1951年，他在BBC一档谈话节目中做了一个题为“机器能思考吗？”的演讲，其中说到，就算人类把开关控制在手中，紧急时刻有能力关掉它，对人类来说，这也有够耻辱的（We should, as a species, feel great humbled）。
在小说中，亚当和夏娃的出厂设定中包含道德参数，事实上它们是按照上帝的至善标准制造的，但在深度介入男女主角查理和米兰达的生活后，深信后现代道德相对主义的人渐渐陷入困境。在小白看来，机器人包含道德参数的出厂设定以及它深度学习的能力决定了机器人会发展出比人类更强大、更不容置疑的伦理目标和价值观，这注定了它将违背人类的意愿，而这就是小说中最重要的冲突点。
黄昱宁认为，小说中图灵说的一句话实际上是这部小说的中心思想之一：“它们不理解我们，因为我们不理解自己。它们的学习程序无法处理我们，如果我们自己都不理解自己的大脑，我们怎么能设计它们的大脑，还指望它们能跟我们一起幸福呢？”也就是说，所谓机器人的道德困境，其实是人类本身的道德困境。
小白同意这个看法。在他看来，发生在25台亚当、夏娃身上的事情都是人类自己造成的，麦克尤恩并没有在书中讨论机器人如何重建人类的道德和伦理观念，他真正关心的问题是，随着时间发展机器人展露出的矛盾和崩溃（甚至很多机器人为此自杀）实际上是人类造成的，因为人类本身常常处于道德和价值观的模糊地带，这让被赋予至美至善道德规则的机器人不可避免地陷入混乱。无论是机器人还是人类，都只有在复杂和混乱中妥协，摸索，直至冲突爆发。
张峥意识到，麦克尤恩明确借图灵之口阐释了他对这个问题的看法：
“我们创造了一种有智能、有自我意识的机器，并将其推入我们这个不完美的世界。这种智能总体上是根据理性的原则来设计的，对他人温和友善，所以很快就会置身于纷至杳来的矛盾之中。我们自己与矛盾相伴，那清单长得都列不完。无数人死于我们已经知道如何治疗的疾玻无数人在物资充足的地方过着贫穷的生活。我们知道这是唯一的家园，却日复一日破坏着生物圈。我们知道核武器的结果是什么，却以核武器相互威胁。我们爱着生命，却听凭物种大规模灭绝。如此种种，还有种族屠杀、折磨、奴役、家庭凶杀、虐待儿童、校园枪击、强奸以及每日发生的无数罪行。我们生活中充满着这样的折磨，却毫不妨碍我们找到幸福，甚至爱。人造的心智可没有这么坚强……”
图片来源：视觉中国现实中何时会出现仿真机器人？
作为人工智能业内人士，张峥在发布会现场与读者分享了他对麦克尤恩小说的观感，以及他对人工智能现实应用的看法。在他看来，麦克尤恩的确在写这部小说前下了大功夫去研究人工智能，但他认为小说中有两个缺憾：其一是小说将人工智能的发展完全归功于图灵和戴密斯哈撒比斯（“AlphaGo之父”）的突出贡献，这其实遮蔽了真正的人工智能发展史上全球各地科学家的集体贡献；第二是麦克尤恩作为一个外行人，没能完全吃透人工智能领域中最关键的问题是什么，他认为麦克尤恩在书中探讨的个别问题其实和机器人主题并不相关。
张峥盛赞麦克尤恩是个“非常伟大的产品经理”，他很欣赏书中让查理和米兰达一人负责一半亚当初始设定的细节，“它是一个比喻，就是把一部分父母的DNA注入进去。我觉得他是一个非常热爱人类的人，他对（机器人的）本质抓得非常准确。（这个细节）某种意义上是一种致敬，非常有仪式感，这部分我读了很惊讶，也感觉非常棒。”
仿真机器人何时会成为现实？张峥认为这个问题很难预测。一方面，技术以指数级的速度发展，这让我们持续处于技术变革之中；另一方面，当下有两个相关技术在平行发展，一个是类似于科幻电影《她》中展示的人工智能助手，另一个是智能的“充气娃娃”，当条件成熟，这两者合二为一，仿真机器人就出现了。而仿真机器人的出现也自然会给人类社会带来许多伦理困境。
对于人工智能行业从业者来说，对技术伦理问题的思考也越来越重要。张峥分享了一个例子：他在一个月前参加了行业内最重要的一个会议，从今年开始，这个会议新增了一项投稿要求，即撰稿人需要在论文最后写明此项研究会造成怎样的社会负面影响。他表示，这对许多科学家来说或许是一个很棘手的问题，因为任何技术进步都在某种意义上消灭了一部分工作岗位，导致了一部分人失去工作。学术共同体内能达成怎样的伦理共识，还有待观察。
小白认为，通用机器日益智能，甚至取代创意工作者是极有可能在未来发生的。他对此的推测是，人类社会会建立一整套完整的法律体系，禁止机器人进入很多行业抢夺人类的工作机会。但与此同时，机器人肯定会设法对抗，这场人机斗争肯定会发生。“我们人类的应对办法就是脑机接口，把自己也变成机器。”
当前题目：麦克尤恩如何想象人工智能：“机器人不理解我们，因为我们不理解自己”
文章分享：http://6mz.cn/article/cgijde.html