西德尼·佩尔科维茨

科幻故事——不管发生在地球上，还是发生在遥远的银河系里——都倾向于把智能机器作为角色之一，经常还是作为主角。它们的亮相方式有时是无实体的人工智能，如《2001：太空漫游》（1968）中操作飞往木星的宇宙飞船的哈尔9000型电脑；有时是一具机械身体，如《地球停转之日》（1951，2008）中笨重的机器人高特，或《星球大战》（1977）中优雅迷人的C-3PO；有时却是与人类很像的人造人，如《终结者》（1984）中的T-800，或《星际迷航：下一代》（1987—1994）中的中校戴特，或《银翼杀手》（1982）和《银翼杀手2049》（2017）中的那群复制人。

这些机器经常顶着各种不同的名头出现——机器人、合成人、人造人、人工智能、生化人、电子人和复制人——但不管它们的名字与外形如何，它们都很聪明、自主，而且身手不凡，尽管有时也会受到内置约束的限制。它们通常都很吓人，但又不失其迷人的一面，总是耐人寻味。

为什么会如此痴迷于观看自身思想和身体的人工版本？也许我们想看看技术能否实现让人类像众神一样，拥有设计和制造生命体或半（类）生命体的力量。这背后也许还有人类一个秘而不宣的渴望：如果一切得以实现，也许有一天我们便能知道如何提高自身了。抑或我们仅仅是希望在银幕上看到自身，只是间接地，通过我们自己的造物来看。这就给了我们一个有利的位置，让我们能诚实地思考我们人类的罪恶和美德。但或许我们的目标并没有那么崇高。我们可能只是喜欢想象出这样一个世界：机械仆人做着我们人类不愿意自己做的事情，或者以超人的完美状态服侍着我们。

这些原因一定是深藏在人类心灵的深处，因为早在我们能制造智能机器之前，它们就是人类幻想的一部分了。智能金属机器人的概念可以追溯到古希腊神话中关于塔罗斯（Talos）的故事，塔罗斯是一个由青铜制造的人形机器人，巡逻并保卫着克里特岛，如果有船只靠近，他会抛下滚滚岩石。

在长长一串被人类投入使用的机器人名单当中，塔罗斯排在第一个。在捷克作家卡雷尔·恰佩克（Karel Čapek）1921年的舞台剧《罗素姆万能机器人》（Rossum's Universal Robots，随后是1935年的俄语电影版本。）中，明确界定了机器人的低下地位。剧中有一些人形人造劳力从工厂里被制造出来，它们被称为robots（机器人），这个词在捷克语中的意思是“强迫劳动力”或“奴隶”。这些机器人最后拥有了自我意识，培育出了情感，并渐渐对它们所处的地位生出了深深的怨恨。它们反抗并消灭了人类，但是当一个雄性和一个雌性机器人发现了爱，并出发去创立一个新的、也许是更好的种族时，这部剧留下了一线希望。

机器人被当作奴隶的主题一直延续至今，从弗里茨·朗（Fritz Lang）执导的经典电影《大都会》（Metropolis，1927），到导演雷德利·斯科特的影片《银翼杀手》。前者，一个科学家制造了一个怪诞的女性机器人玛丽亚作为机器人工人部落中的第一名工人；后者中的几个复制人是当人类在遥远的星球定居后，被迫为人类工作的合成人。《银翼杀手》中的合成人，又被轻蔑地称为“人皮鬼”，似乎与人类非常相像，但却是可以随意处置的，都只有四年的寿命。这群复制人由罗伊·巴蒂（鲁特格尔·豪尔饰）领导，他们杀害了一艘太空船上的全体人类船员，非法返回到地球上，希望在这里能延续他们的生命。

弗里茨·朗的《大都会》(1927)的标志性电影海报。
Metropolis © UFA.

有“银翼杀手”头衔的特工瑞克·戴克（哈里森·福特饰），被指派追杀这帮造反的复制人，除巴蒂之外，他们全都要被销毁掉。在最后的场景中，巴蒂把他的经历和记忆做了一番富有诗意的表达，但它们都要随着巴蒂的死而永远消失了，然后他的生命已到尽头。这个场景已经成为科幻片中一个经典瞬间，因为巴蒂的表达中那强有力的意象和豪尔对一个合成人变成人类（或许超过了人类）的精细描绘，都超越了人们对机器人的刻板印象。

这里所描述的机器起初并不值得我们同情，但因后来变得太像人类了，以至于唤发了我们的共鸣，这种情况在其他科幻电影中也有过探讨。在导演斯坦利·库布里克的《2001：太空漫游》中，人工智能哈尔为保全自己而杀死了一位人类船员——然而当中校鲍曼（凯尔·杜拉饰）拔出这个人工智能的存储单元，我们看到这个能干的头脑退化成了一个5岁大的孩子，唱起了“黛西，黛西，给我你的答复”时，我们还是不禁会产生一丝同情。在《星际迷航：下一代》中，人造人中校戴特（布伦特·斯皮内饰）在星际舰队中深受他的人类战友的接纳和尊重。他要比人类更加强壮和聪明，但他仍然渴望会变得更加像人类。他天真而又诚心地努力学习着情感，饲养着一只宠物猫，这些都使戴特变成了剧集中一个可爱的角色，而他的这些努力都是对人类——他的创造者的恭维。当一个孩子想要变成他或她的父母的样子时，每一位父母都会为此感到欣慰的。

另一些虚构的机器智能就一点也谈不上可爱了。詹姆斯·卡梅隆的电影《终结者》中那个T-800机器人（阿诺德·施瓦辛格扮演）尽管脸板得像石头，看起来却非常像人。但这只是外面一层人工合成的伪装，里面的一台机器只被置入了一条指令：找到并杀死某个女人，因为她未出生的儿子将会领导未来的抵抗组织来对抗天网，而天网是一个具有自我意识的计算机网络，它想要消灭人类。在《太空堡垒卡拉狄加》（Battlestar Galactica，2004—2009）中，赛昂人，这种既有类人外形又有机械式构造的机器人消灭了大部分的人类，他们认为人类是有缺陷的种族，并且想把他们赶尽杀绝。

《太空堡垒卡拉狄加》全体演员在一幅《最后的晚餐》主题的宣传照中。
Battlestar Galactica © SCI FI Channel Image courtesy of Photofest.

亚历克斯·嘉兰执导的影片《机械姬》（2015）中，艾丽西亚·维坎德扮演仿人机器人阿娃。
Ex Machina © Universal Pictures. Image courtesy of Photofest.

班坦图书公司出版的艾萨克·阿西莫夫的《我，机器人》的小说封面。

合成人不管被表现得值得得到人文关怀，还是作为人类的敌人出现，这些故事都做了某些伟大科幻经常会做的事（除了娱乐）：它们将可能的未来描绘了出来，让我们可以在新技术真正到来之前，想象一下它会把我们带往何处。当《银翼杀手》在1982年发行时，机器人技术、人工智能和基因工程还处于起步阶段，而这些科学将来真的会导致一种或另一种合成人的出现。然而《银翼杀手》预见到了我们在35年后必须认真考虑，当这项技术已经取得巨大进步时可能引发的问题。一些较新的电影，如史蒂文·斯皮尔伯格执导的《人工智能》（2001）和导演亚历克斯·嘉兰（Alex Garland）广受赞誉的机器人惊悚片《机械姬》（Ex Machina，2014）等，继续在关注着这些问题。

在当今时代，我们还没有真正创造出能与电影中的合成人相媲美的现实版本。不管是在外形上还是在行动上，能做到与人类有令人信服的相似度的机器人或人造人至今还没出现。目前的人工智能也不像我们在银幕上看到的那样，能表现出显著的智能，尽管一些像未来学家雷·库兹韦尔（Ray Kurzweil）这样的狂热者相信，我们距离创造出人类智能水平的机器已经很近了。而另一些人，英国机器人学家默里·沙纳汉（Murray Shanahan）同意我们将会生产出先进的人工智能，但不会是在近期的未来。作为《机械姬》科学顾问的沙纳汉认为，当前的数字技术大概能够模拟出老鼠大脑中的7000万个神经元。但这个数量还不到人类大脑中800亿个神经元的百分之零点一，所以制造出像《银翼杀手》中复制人那样具有一般人类水平的人工智能，还有一段很长的路要走。

即便如此，人工智能与机器人还是在以越来越快的步伐进入我们的世界，我们必须学会与它们共处。早在1950年，科幻作家艾萨克·阿西莫夫在他的小说《我，机器人》中，就这种互动如何能行得通给我们提供了一些线索，在书中他制订了机器人三定律：第一定律，机器人不得伤害人类个体，或者目睹人类个体遭受伤害而袖手旁观；第二定律，机器人必须服从人给它的命令，除非该命令与第一定律有冲突；第三定律，机器人在不违反第一、第二定律的情况下必须尽可能保护它自己的生存。后来阿西莫夫又加上了一条优先于其他定律的“第零定律”：机器人不得伤害人类整体，或者目睹人类整体遭受伤害而袖手旁观。

2004年由威尔·史密斯主演的电影《我，机器人》，是大致基于阿西莫夫的原著改编的，电影在描绘一种2035年的文明时明显地把三定律融入其中，那时机器人已得到广泛的应用，人们放心地让它们来帮助人类。但即使这看起来坚不可摧的定律也有可能被打破。故事中，人们发现一个机器人在一种允许它避开第一定律的情况下杀死了一个人。更糟的是，一个控制着这些机器人的更高级的人工智能对三定律形成了它自己的诠释，从而演绎出它自己的第零定律：它的最大责任是维护人类整体的利益。这个人工智能命令所有现存的机器人夺取对人类的控制权，目的是拯救我们免于毁在我们自己的手中。在电影结尾，这场机器人的革命被阻止只能算作是险胜。

问题不仅出在像三定律（或四定律）这样预先植入的严格规则，有可能会被一个真正聪明的人工智能用一种意想不到的方式来诠释；问题还出在像这样的指令太过死板，根本没办法应付真正的道德问题。基于此，一些麻烦可能来得比你想象的还快——以战场为例，美国虽说还没有可以派出去执行杀戮任务的终结者仿人机器人，但研发有自主能力的武器已经提上了日程，这些武器可以在战争中做出死亡决定。

在2004年举行的首届国际机器人伦理研讨会上，配备人工智能杀人武器的伦理问题就已经讨论过。如今这个问题已受到联合国的重视，因为美国和其他一些研发军事人工智能的国家可能只需派少数士兵上战场就能发动起一场战争。几年以来，美国已经在用半自主的武装无人机来搜寻敌方的战斗人员，是否向对方开火的最后决定权掌握在数千公里之外的人类手中。下一步涉及的将是完全自主的武器，它们可以自己来决定目标和射击的时机。这一计划潜在的负面结果在电影《机械战警》（1987）中已经被令人信服地展现过，片中那个有侵略性的自主机器人警察，ED-209，就杀死了一个无辜的旁观者。

但据美国前国防部副部长罗伯特·沃克称，全自主武器不在五角大楼的计划之列。相反，他最近说，有个想法是“要让人类留在使用致命武器的决策周期中……未来某天我们是否会制造出一个完全自主的机器人，并由它来掌管致命武器？我想这个问题的答案是不会”。另有一些人认为，人工智能的快速发展将会导致一轮不断升级的人工智能军备竞赛。然而，我们并不知道怎样才能制造出一种有伦理观的战争机器人，它们得能分清楚友方和敌方，战斗人员和非战斗人员——这种复杂的判断远不是阿西莫夫那简单的第一定律所能胜任的。正是考虑到这一点，2015年，有超过3000名的机器人学和人工智能研究人员签署了一封公开信，要求“禁止超出人类控制范围的有攻击性的自主武器”。

为了给机器人再附加一套远比三定律更为精细的道德准则，我们人类或许也得需要一套道德标准，为的是万一它们变得像罗伊·巴蒂那样有了情感，我们得保证不再像对待奴隶一样对待它们。有迹象表明，社会已经开始认识到了这种可能性，尽管这个问题并非毫无争议，而且也有很多意想不到的衍生问题。2017年10月，沙特阿拉伯王国给一个具有一定对话能力的女性人形机器人索菲亚授予了公民身份。多数观点认为这是一种公关策略，是一个在妇女权益方面有令人遗憾记录的国家试图示对技术的友好姿态，不管怎样，这一举动将人们的注意力吸引到了这样一个问题上，合成人的权益将怎样才能真正从我们自身的权益中发展出来。

与此同时，欧盟正严肃考虑是否将最终需要授予高级机器人和人工智能人格。这并不是要把它们变成有公民权的公民，而是像法人资格那样，为将来担责提供一种法律依据。举个例子，如果一辆自动驾驶汽车中的人工智能做出了一个错误的判断，并因此撞伤了一个行人，谁将为此负责？是自主的人工智能自己，还是它的人类设计师和程序员，抑或是让这一整套产品上路的公司？在智能机器发展形成道德立场这方面，像这样的问题还只属于早期阶段。

如果哪天我们人类真解决了如何与这些新型人造物种相处，那么帮助我们走到这一步的，一定是那些有关智能机器的科幻故事。通过探索人与机器的分界，这些故事说明了这样一个道理，当我们与我们的造物打交道时，我们必须应对的不仅是智能问题，道德问题也同样重要。这些故事也在提醒我们，这种互动也可能不总是友好的。

电视系列片《詹姆斯·卡梅隆的科幻故事》中的一个终结者机器人内骨骼的复制品。图片来源：迈克尔·莫里亚蒂斯/AMC

像史蒂芬·霍金这样的一些科学家已经发出过警告，在事先没经过充分考虑之前就接纳机器智能，一定会有负面结果。我们应当留意这些言论，但真正能唤起我们注意的，恐怕还得是一个杀气腾腾的哈尔9000，一个冷酷无情的终结者杀手，或一个像人类一样的罗伊·巴蒂给我们来一次情感上的冲击。当我们一头扑向那个人工智能的未来时，它们的故事可能才是我们最好的警钟。