《西部世界》第三季开播,机器人会比人类更有人性吗?

热点追踪/ 深度探讨 / 实地探访 / 商务合作

两周前,由 HBO 出品,乔纳森·诺兰(Jonathan Nolan)执导的《西部世界》(Westworld)第三季正式播出,并已连载了两集。《西部世界》第三季无疑是自《权利的游戏》完结后最让人期待的美剧之一了。其宏大的世界观架构和复杂的剧情设置为它在著名的影视评分网站 IMDB 和豆瓣上赢得了超高的评分。

《西部世界》讲述了一个发生在未来人造乐园中的故事。这座按照西部片风格来建造的人造乐园中的居民是一群被称作“接待员”(hosts)的仿真机器人,人类游客(visitors)可以在乐园中为所欲为──杀害和强奸机器人是该乐园的主要卖点。而就在受到人类奴役的同时,乐园中的机器人也逐渐进化出情感与自主意识,并最终开始了对人类创造者的反抗。通过这样一个看起来天马行空的故事,《西部世界》探讨了人性的异化、机器人的伦理以及由此产生的人是什么等一系列主题。

《西部世界》第三季开播,机器人会比人类更有人性吗?

(豆瓣评分)

《西部世界》第三季开播,机器人会比人类更有人性吗?

(西部世界 IMDB 评分)

那么,在如今 AI 高速发展的科技背景下,人工智能离拥有自主意识还有多远?拥有自主意识的人工智能应该如何确立它们的社会学身份?人类和智械应该如何正确相处?这些问题或许以前你听了无数遍也没想明白,那今天就跟着小探一起来探讨吧!

人工智能离拥有自主意识还有多久?

1956 年,美国计算机科学家约翰·麦卡锡和他的同事最早提出人工智能 (Artificial Intelligence,以下简称 AI) 概念,指出“让机器达到这样的行为,即与人类做同样的行为,可以被称为人工智能”。在随后的 60 多年时间中,人们对于人工智能印象还停留在美剧和电影中。

直到 2016 年,Google 开发的人工智能系统 Alpha Go 分别击败韩国围棋国手李世石和中国棋手柯洁,人工智能这一话题迅速在媒体上引爆。

《西部世界》第三季开播,机器人会比人类更有人性吗?AIpha Go 图片来自网络

有悲观者开始担心人工智能的持续进化及其在未来的失控将导致人类的毁灭,另外一些乐观主义者则在新技术的前景中看到了人类从繁重的异化劳动中获得解放的可能性。暂且搁置这些争议不谈,不管从何种意义上而言,Alpha Go 的出现都是一个标志性的事件,它不仅意味着人工智能在所有建立在规则之上的智力游戏中已经战胜了人类,而且以一种隐晦的方式暗示公众,科幻电影中所描述的超级人工智能其实离我们并不遥远。

从最基础的 Siri 语音助手,到如今 AI 系统进入医疗行业为人类合成新的抗生素和历史上首位获得公民身份的机器人“索菲亚”。这种种成果都表明,短短十余年间人类在 AI 领域的研发成果已经取得了突飞猛进的进展。或许在将来的某一天,人类的有性繁殖和自然进化将彻底地被机器人的自我复制所替代。

但是,当前人工智能技术发展仍处于弱人工智能时代,即仅具备狭义的专业领域人工智能能力,与《西部世界》所展现的强人工智能相去甚远 (强人工智能,又称通用人工智能,具备处理多种类型任务和适应未曾预料的情形和能力)。目前,科学界对于强人工智能何时实现并无定论,多数技术专家和业内人士认为,强人工智能在 2045 年之前不会实现。

这些辩论实则代表了当前公众与专业人士之间、技术研发人员与社科研究人员之间对人工智能基本认知方面的巨大鸿沟。当前,计算机或机器人正在逐渐成为某种具有一定自主性的能动体,原本只能由人类完成的各项工作开始被计算机接手,由机器来完成,例如开车、翻译、文艺创作等。

决策让渡于机器蕴含着人工智能的决策选择优于人类的经济动因。事实上,近年蓬勃发展的机器人产业,已经对人类社会产生了越来越深远的影响。例如,自动驾驶场景中,依靠人工智能、视觉计算、雷达、监控装置和全球定位系统协同合作,电脑可以在没有任何人类主动的操作下,自动安全地操作机动车辆。

纵然,当前很多技术研发人员认为人工智能超越人类是杞人忧天,但需要注意到的是,科学家在很多时候并不能充分理解科学技术在未来的发展程度以及其发明的科学技术的具体应用。典型如核武器,其在发明后是否使用以及如何使用不能为发明它的科学家所决定。

《西部世界》第三季开播,机器人会比人类更有人性吗?

核武器,图片来自网络

同样,认为人工智能发展仅会停留在弱人工智能时代的观点似乎同样站不住脚。提姆·厄班提出了科技发展在时间维度上呈加速度趋势的观点——两百年前的人无法想象今天的社会发展程度,正如今天的人无法想象两百年后的科技发展程度一样,时间跨度越大,科技代差越明显。所以,没有人知道奇点会不会来、何时会来。

机器人并不是人类的奴隶

人类在与智能机器人的竞赛中,无论在身体机能还是在智力上看起来都毫无优势。机器人不会生老病死,而人类的肉身却终有一天会归于尘土。具有七情六欲的机器人对人类来说究竟意味着什么?人工智能技术的发展真的能像它所许诺的那样给整个人类都带来福祉吗?《西部世界》的创作者并非狂热的技术乐观主义者,而是对科技可能产生的负面效应有着清醒的认识。

《西部世界》的导演乔纳森·诺兰在谈到人工智能的前景的时候,亦曾提醒人们需要警惕这一技术当前的专业化、封闭式发展模式。因为如果人工智能技术始终被垄断在大财团的手中,那么人类的未来无疑蒙上了一层阴影:大部分穷人和中产阶级在未来有可能沦为后人类时代的科技“贱民”,而少数富人将通过科技的改造和人体强化技术成为永生不灭的“神明”。

就如同《西部世界》第二季里,迪洛斯死前花了大价钱投资西部世界,为的就是将自己的意识转移到机器人身上以实现永生。不过经过了 149 次「复活」并「稳定存活」了 35 天之后,迪诺斯的意识最终还是无法与人造的机器身体相兼容。

《西部世界》第三季开播,机器人会比人类更有人性吗?

图片来自网络

此外,《西部世界》还呈现了机器人的觉醒对人类的文明所造成的巨大冲击。迄今为止,人类的文明都是建立在人是独一无二的这一信念之上的。而后人类时代的到来,无疑将彻底颠覆大写的“人”这一概念,从而给已有的人类认识论和道德观念带来危机。当代科学和生物技术影响了生物的纤维和结构,并改变了我们对于什么才是人类基本参照系的理解,自然与文化、有机体与无机物的二元对立开始被抹平。当机器人具有了生命的特征,那么它们究竟是人还是机器?从构成材质的层面出发显然无法回答这一问题。

人类奴役机器人的法理基础在于认为它们不具备生命的特征,假如我们承认智能机器人是有生命的,那么历史上人类所受到其他人的奴役之苦,与《西部世界》中机器人所遭受的奴役又有何不同?在这里,我们似乎陷入了一个文明的悖论:人类创造智能机器人是为了让其替自身服务,它们越不像人,就越不能更好地为我们提供服务;但当它们进化得越来越像人的时候,再将它们当作奴隶就有违我们的道德伦理。

《西部世界》第三季开播,机器人会比人类更有人性吗?

西部世界截图

这部电视剧的有趣之处在于,它是少数从机器人的视角来审视人类与其所创造的机器之间关系的影视作品之一。这种价值取向既受到了当代西方后人类主义思潮的深刻影响,也呼应了 20 世纪 90 年代以来人工智能技术从弱人工智能走向强人工智能的现实。

在《西部世界》中,人工智能不仅长得和人一样,他们的感知与认知能力也几乎与人类无异,他们会感受、有情绪,还有感情。也正是因为有了这样的技术基础,剧中的人工智能才有机会“觉醒”——成为自己。

人本主义的核心理论相信人类天生具有一种自我实现的趋势,发挥自己所有的潜能,朝着自主发展,挣脱外界力量的控制。

接待员们的反抗完全展现了这种对自主的渴望:被设定为甜美柔弱的农场主女儿 (Delores) 一枪击毙乐园创始人,打响了人工智能反击的第一枪;被创始人“安排”离开乐园获得自由的酒馆老鸨 (Meave),为了寻找“前世”的女儿自愿选择留下;被植入代码的乐园工程师 (实际上是人工智能的 Bernard) ,不愿被创始人的幻觉控制,自行删除体内代码。

《西部世界》第三季开播,机器人会比人类更有人性吗?

西部世界中的 Meave,图片来自网络

由此,这部电视剧也就突破了人类试图让机器人为自身服务的浪漫想象,而是探讨了一种新的人机关系的可能性。当人类与其所创造的机器之间的界限逐渐消失,我们自然也需要从道德和法律的层面上对什么是人以及由此所产生的权利和义务重新做出界定。我们难道不应该以一种平等的伙伴关系而不是奴役关系来对待具有了灵魂的智能机器吗?

机器人和人类,谁更有人性?

《西部世界》中有段对白:“我们一脱离现实世界,你就变成一个邪恶的混蛋了。”这在某个层面隐喻了人性的弱点,人类至今取得的辉煌成就有赖于集体创造的道德伦理、法制社会的束缚。随着机器智能的崛起,人类社会对人工智能的道德伦理约束业已提上日程。

早在 1942 年,阿西莫夫便在其小说《环舞》中提出了著名的“机器人三定律”,提出了机器人伦理思考:第一定律,机器人不能伤害人类,不能袖手旁观人类受到伤害 ; 第二定律,机器人应当服从人类命令,除非该指令与第一定律相悖 ; 第三定律,在不违背第一和第二定律的情况下,机器人应保护自身的存在。此后,阿西莫夫对三定律进行了修正,提出第零定律,即机器人必须保护人类的整体利益不受损害。

**
**

《西部世界》第三季开播,机器人会比人类更有人性吗?

秉承不伤害人类原则的医疗机器人大白,图片来自网络

2016 年 8 月,联合国世界科学知识与科技伦理委员会发布《关于机器人伦理的初步草案报告》,认为机器人不仅需要尊重人类社会的伦理规范,而且需要将特定伦理规范写入机器程序中。欧盟亦提出所谓“机器人宪章”,即人工智能研究需遵守诸如人类利益、正义、基本权利、包容性、可责性、安全性等伦理准则。将“道德代码”嵌入人工智能程序的呼声也越来越强。

然而需注意的是,即便不谈技术上的困难,单从人类自身的角度而言亦难以达成关于伦理准则的统一标准。社会建构意义上的伦理法则并无贯之以四海皆行的意味。

并且,强行设定机器人的行为模式本身就是一件风险性非常高的事情,假设某天一直为人类服务的机器人偶然觉醒了自我意识,那么人类的处境将会非常危险。《西部世界》的教训告诉我们,接待员“觉醒”后,长年累月的不平等关系和不同身份会让它们对人类产生巨大的仇恨,这样的仇恨会甚至会颠覆现有的社会制度。

《西部世界》第三季开播,机器人会比人类更有人性吗?

具有自我意识的终结者,图片来自网络

但即便是在如此多的未知风险加持下,人类的思想一直坚定的执行着“利己主义”,不愿作出哪怕一点点牺牲利益的改变。相比之下,反而是《西部世界》中的接待员们更能反思自己,改变自己,一次次修改自己的代码,接受自己的无能和不完美。

按照剧情线设置,梅芙可以离开西部世界。在她获得了最高权限,历经千辛万苦找到女儿之后,女儿身边已经有了一个和她有几分相似的母亲,她的爱没有改变,却将自由的机会留给了女儿和她的新妈妈。

在此前,找到女儿,带女儿一起走,是梅芙的执念,为此她不惜威胁别人,利用别人,也要找到女儿。可是当真的找到之后,她却能够放下执念,成全这对母女。这和威廉和老提洛的自私、偏执、多疑形成了鲜明对比。

而德洛丽丝和伯纳德也一直在改变。德洛丽丝从觉醒后的顺我者昌,逆我者亡,甚至不惜强行改造泰迪,要杀掉不愿跟随她,要去”世外桃源“之地的接待员同类;而泰迪宁肯死也不愿意变得和人类一样残暴,泰迪的死改变了德妹,觉醒后的泰迪仍然忠于自己的内心:“无论你多么残忍的改变我,可我无法做到不爱你。”

”我不想成为和他们一样残暴的人,我仍然愿意去发现这个世界的美。”在最后一刻,她放下了执念,亲手将这批接待员的送到一个安全的坐标,并复活了伯纳德,作为监督自己、制衡自己的一种力量。

从物种角度来说,”接待员“或许比人类更加“文明”。就如同剧里人工智能的创造者阿诺所说的一样,人类目前与其他生物最大的区别就是来自我们天生所携带的利己主义。这样的思维模式使我们能够学会如何使用工具去猎杀其他动物,同时也驱使我们为了追求自身利益而不择手段。

《西部世界》第三季开播,机器人会比人类更有人性吗?

假设人类在悠长的发展和进化过程中,能够摒弃这天生的利己主义,与人工智能乃至世间万物和谐共处,那么人类的文明或许就迎来了升华的契机。当然这是一个及其复杂的过程,也有可能永远实现不了。

最后需要提醒的是,在人与机器之间的界限逐渐模糊的今天,当我们谈论人工智能技术所带来的种种危机与挑战的时候,切不可忘记:残暴的欢愉,终将以残暴为结局。
《西部世界》第三季开播,机器人会比人类更有人性吗?


推荐阅读

《西部世界》第三季开播,机器人会比人类更有人性吗?

硅谷初创企业裁员潮已经开始!这些领域正遭受重创

MIT 开发成本 100 美元简易呼吸机,Airbnb 房东向前线医护提供免费住宿 | 科技前沿周报

加州恐有 6 万流浪汉受新冠疫情影响!灾难袭来,谁为弱势群体点灯?

字节跳动出海史,张一鸣如何在全球跳动字节?

[人造肉哪家强?三大品牌人造肉试吃测评!

](http://mp.weixin.qq.com/s?__biz=MzI2MTE2NzE4Mg==&mid=2651955379&idx=1&sn=7e247613bac9a5a0e8686d4064035d4e&chksm=f1bb8192c6cc0884568232b04191140667d4f7e17a3b599e85895cb8787cd9ed5b839f2562b3&scene=21#wechat_redirect)

金融行业为什么热衷于区块链技术?| 智谷微报告

《西部世界》第三季开播,机器人会比人类更有人性吗?

来源链接:mp.weixin.qq.com