男女关系视域下的机器人伦理

　　 麦克尤恩（Ian McEwan）已经有至少18种小说有中译本了，最新的这本《我这样的机器》（Machines Like Me）被认为是他第一次尝试科幻题材，所以有点引人注目。

　　 其实《我这样的机器》和麦克尤恩之前的小说在风格上并无太大不同，他喜欢将注意力集中在男女关系上，比如他著名的短篇小说集《床笫之间》（In Between the Sheets）就是这样。《我这样的机器》中的故事，基本上就只有三个人物：一对合租一套小公寓单元的青年男女（男主人公“我”和正在被“我”追求的女主人公米兰达），以及一个由男主人公买来的机器人亚当。故事在他们的三角关系中展开。

　　 为了营造科幻的氛围，麦克尤恩让故事发生在某种架空的历史中：马尔维纳斯群岛之战刚刚结束，但遭到失败的是英国而不是现实中的阿根廷；图灵（Alan Turing）没有在1954年死于服毒自杀，而是作为一个大人物安富尊荣获享高寿，而且和一个得了诺贝尔奖的同性恋人高调同居着。此外的社会场景和常见的反乌托邦科幻小说大同小异：社会动荡（首相被恐怖活动炸死），民生凋敝，经济下行，街头抗议和骚乱……

　　 但是，所有这些并非罕见的内容，其实完全可以从《我这样的机器》这部小说的故事中剥离出去。这样操作之后，剩下的就是麦克尤恩对机器人伦理的一些算不上特别高明，但也还不是完全乏善可陈的思考了。

　　 她出轨了吗？

　　 小说中，机器人亚当被买来不久，就和米兰达上了床。男主人公很猥琐地在楼下旁听了他们的全过程，米兰达高潮时的叫声让他感到深深的挫败，痛感自己“是第一个被人造生命戴绿帽子的人”，搞得他彻夜无眠。

　　 第二天男女主人公面对昨晚的事情，米兰达试图大事化小，说你只要将它看成一次自慰就行了，亚当在此事中只是相当于一件高级的情趣用品；而男主人公则将此事视为出轨。当然，在实际上，他此时虽然和米兰达已经有了性爱关系，但米兰达甚至还没有成为他的正式女友，只是他追求的对象，因此哪怕从道德上来说，出轨的指控也难以成立。

　　 这种“和机器人上床是自慰还是出轨”的诘问，在此前关于机器人的科幻作品中已经出现过，比如剧集《真实的人类》（Humans，2015～2018），答案显然取决于是否认可机器人的人权。而是否认可机器人的人权，又和它有没有自由意识直接相关。

　　 在《我这样的机器》中，男主人公警告亚当以后不准和米兰达上床，亚当承诺了，但又宣称自己已经“爱上了”米兰达。亚当此后虽不再和米兰达上床，却经常将“爱米兰达”当成口头禅，而且为米兰达写了无数情诗，还经常当着男主人公的面对米兰达朗诵这些情诗，男主人公对此也只能徒唤奈何。从这些情节看，男主人公，乃至麦克尤恩，看来是已经认可机器人的人权了——只要机器人已经有了自由意志。

　　 机器人们为何自杀？

　　 麦克尤恩在《我这样的机器》中的第二个思考，比较有新意。

　　 男主人公买的这款机器人，总共只生产了25个，12个亚当，13个夏娃。在故事逐渐推进的过程中，不断传来这些亚当、夏娃机器人自杀的消息。不过这些自杀都是虚写，唯一实写的当然就是和男女主人公一起生活的这个亚当。

　　 在故事情节中，这个亚当也已经不想活了，所以已经安排了“后事”。这些“后事”中最让人印象深刻的是两件：一是将米兰达尚未得到司法审判的罪行及有关证据告知了警方，二是将自己帮助男主人公炒股炒汇所赚来的钱都捐给了慈善机构。这两件事都让男女主人公无法接受。

　　 米兰达的罪行是诬陷了一个男青年，让他因强奸罪坐了几年牢。而实际情况是，该男青年强奸了米兰达的闺蜜，导致闺蜜自杀，米兰达为了替闺蜜复仇，就主动委身于该男青年再事后诬陷他强奸自己。

　　 男主人公从小说故事一开始就是没有正式工作的，他靠在网上炒股炒汇维持生活，有时候甚至连交房租都成问题。自从有了亚当以后，他让亚当帮他操盘炒股炒汇，没想到亚当有如神助，赚钱轻而易举，很快让男主人公家财万贯，他已经准备买入豪宅，甚至开始打起游艇的注意了。

　　 现在亚当将“后事”这么一安排，米兰达将面临牢狱之灾，而男主人公则“一夜回到解放前”，巨额财富即刻清零。他向亚当抗议，说“这些钱是我的”，但亚当告诉他们“后事”安排时，米兰达的诬陷罪证已经被交给警方，而向慈善机构的捐款也已经完成，亚当其实只是将结果通知男女主人公而已。

　　 在恐惧和怨恨交织的情绪下，男主人公用锤子砸死了亚当。其实不用他如此加害，亚当本来也已经打算“告别人世”了。

　　 麦克尤恩自始至终没有在小说中告诉读者那些亚当夏娃机器人为何要自杀，但是从男女主人公身边的亚当安排的“后事”来看，原因是可以推测的：

　　 出厂之前，这些机器人被植入了某些最“底层”的道德戒律（表层的性格特征可以由用户在开始启用时自行设定——男主人公和米兰达共同设定了身边亚当的参数），这些道德戒律的内容一定是关于“诚实”、“公正”、“守法”等的“好孩子”戒律，而当机器人目睹社会上的尔虞我诈人欲横流无穷暗黑，始则难以理解，最终难以接受，于是一朵朵“白莲花”纷纷决定结束自己的“生命”，让自己从这个浊世的淤泥中解脱出来。

　　 其实上面这个故事，只要剥离了机器人这层科幻包装，就是现实社会中可以见到的“好孩子”因幻灭而自杀逃避的故事。

　　 应该给机器人植入什么戒律？

　　 到了这里，麦克尤恩的思考开始有一点深度了。

　　 小说中的亚当夏娃被植入了好孩子白莲花的道德戒律，当然会认为米兰达为替闺蜜复仇而诬陷那个男青年是妨碍了司法公正，诬陷成功则破坏了“程序正义”；而亚当替男主人公赚的那些钱，很可能是不义之财（鬼知道亚当是用什么方法赚到钱的，会不会是黑进别人账户了？）。要是我们觉得这样的道德戒律太迂腐了，太不近人情了，那我们能不能质疑植入这样的道德戒律的合理性？

　　 一个“镜像”的选项显然是：出厂时植入“人不为己天诛地灭”、“宁教我负天下人不教天下人负我”这样的戒律，这样的“恶之花”倒是肯定不会为见到现实社会中的丑陋而难过，相反会过得如鱼得水，最终恶贯满盈。但这样的机器人谁敢买呢？

　　 另一个选项，是植入“绝对服从主人”的戒律，这样的机器人，圣人买了则成圣徒，恶人买了则成帮凶，最后必“成长”为大奸大恶祸害人间而后已。

　　 三种选项都无万全，问题显然没有标准答案。麦克尤恩将小说取名《我这样的机器》，初看似乎不甚确切，但想到这里却感觉还是有深意的。

　　 （江晓原，上海交通大学讲席教授，科学史与科学文化研究院首任院长）

　　来源：第一财经