《西部世界》第三季開播,機器人會比人類更有人性嗎?

熱點追蹤/ 深度探討 / 實地探訪 / 商務合作

兩週前,由 HBO 出品,喬納森·諾蘭(Jonathan Nolan)執導的《西部世界》(Westworld)第三季正式播出,並已連載了兩集。《西部世界》第三季無疑是自《權利的遊戲》完結後最讓人期待的美劇之一了。其宏大的世界觀架構和複雜的劇情設置爲它在著名的影視評分網站 IMDB 和豆瓣上贏得了超高的評分。

《西部世界》講述了一個發生在未來人造樂園中的故事。這座按照西部片風格來建造的人造樂園中的居民是一羣被稱作“接待員”(hosts)的仿真機器人,人類遊客(visitors)可以在樂園中爲所欲爲──殺害和強姦機器人是該樂園的主要賣點。而就在受到人類奴役的同時,樂園中的機器人也逐漸進化出情感與自主意識,並最終開始了對人類創造者的反抗。通過這樣一個看起來天馬行空的故事,《西部世界》探討了人性的異化、機器人的倫理以及由此產生的人是什麼等一系列主題。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

(豆瓣評分)

《西部世界》第三季開播,機器人會比人類更有人性嗎?

(西部世界 IMDB 評分)

那麼,在如今 AI 高速發展的科技背景下,人工智能離擁有自主意識還有多遠?擁有自主意識的人工智能應該如何確立它們的社會學身份?人類和智械應該如何正確相處?這些問題或許以前你聽了無數遍也沒想明白,那今天就跟着小探一起來探討吧!

人工智能離擁有自主意識還有多久?

1956 年,美國計算機科學家約翰·麥卡錫和他的同事最早提出人工智能 (Artificial Intelligence,以下簡稱 AI) 概念,指出“讓機器達到這樣的行爲,即與人類做同樣的行爲,可以被稱爲人工智能”。在隨後的 60 多年時間中,人們對於人工智能印象還停留在美劇和電影中。

直到 2016 年,Google 開發的人工智能系統 Alpha Go 分別擊敗韓國圍棋國手李世石和中國棋手柯潔,人工智能這一話題迅速在媒體上引爆。

《西部世界》第三季開播,機器人會比人類更有人性嗎?AIpha Go 圖片來自網絡

有悲觀者開始擔心人工智能的持續進化及其在未來的失控將導致人類的毀滅,另外一些樂觀主義者則在新技術的前景中看到了人類從繁重的異化勞動中獲得解放的可能性。暫且擱置這些爭議不談,不管從何種意義上而言,Alpha Go 的出現都是一個標誌性的事件,它不僅意味着人工智能在所有建立在規則之上的智力遊戲中已經戰勝了人類,而且以一種隱晦的方式暗示公衆,科幻電影中所描述的超級人工智能其實離我們並不遙遠。

從最基礎的 Siri 語音助手,到如今 AI 系統進入醫療行業爲人類合成新的抗生素和歷史上首位獲得公民身份的機器人“索菲亞”。這種種成果都表明,短短十餘年間人類在 AI 領域的研發成果已經取得了突飛猛進的進展。或許在將來的某一天,人類的有性繁殖和自然進化將徹底地被機器人的自我複製所替代。

但是,當前人工智能技術發展仍處於弱人工智能時代,即僅具備狹義的專業領域人工智能能力,與《西部世界》所展現的強人工智能相去甚遠 (強人工智能,又稱通用人工智能,具備處理多種類型任務和適應未曾預料的情形和能力)。目前,科學界對於強人工智能何時實現並無定論,多數技術專家和業內人士認爲,強人工智能在 2045 年之前不會實現。

這些辯論實則代表了當前公衆與專業人士之間、技術研發人員與社科研究人員之間對人工智能基本認知方面的巨大鴻溝。當前,計算機或機器人正在逐漸成爲某種具有一定自主性的能動體,原本只能由人類完成的各項工作開始被計算機接手,由機器來完成,例如開車、翻譯、文藝創作等。

決策讓渡於機器蘊含着人工智能的決策選擇優於人類的經濟動因。事實上,近年蓬勃發展的機器人產業,已經對人類社會產生了越來越深遠的影響。例如,自動駕駛場景中,依靠人工智能、視覺計算、雷達、監控裝置和全球定位系統協同合作,電腦可以在沒有任何人類主動的操作下,自動安全地操作機動車輛。

縱然,當前很多技術研發人員認爲人工智能超越人類是杞人憂天,但需要注意到的是,科學家在很多時候並不能充分理解科學技術在未來的發展程度以及其發明的科學技術的具體應用。典型如核武器,其在發明後是否使用以及如何使用不能爲發明它的科學家所決定。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

核武器,圖片來自網絡

同樣,認爲人工智能發展僅會停留在弱人工智能時代的觀點似乎同樣站不住腳。提姆·厄班提出了科技發展在時間維度上呈加速度趨勢的觀點——兩百年前的人無法想象今天的社會發展程度,正如今天的人無法想象兩百年後的科技發展程度一樣,時間跨度越大,科技代差越明顯。所以,沒有人知道奇點會不會來、何時會來。

機器人並不是人類的奴隸

人類在與智能機器人的競賽中,無論在身體機能還是在智力上看起來都毫無優勢。機器人不會生老病死,而人類的肉身卻終有一天會歸於塵土。具有七情六慾的機器人對人類來說究竟意味着什麼?人工智能技術的發展真的能像它所許諾的那樣給整個人類都帶來福祉嗎?《西部世界》的創作者並非狂熱的技術樂觀主義者,而是對科技可能產生的負面效應有着清醒的認識。

《西部世界》的導演喬納森·諾蘭在談到人工智能的前景的時候,亦曾提醒人們需要警惕這一技術當前的專業化、封閉式發展模式。因爲如果人工智能技術始終被壟斷在大財團的手中,那麼人類的未來無疑蒙上了一層陰影:大部分窮人和中產階級在未來有可能淪爲後人類時代的科技“賤民”,而少數富人將通過科技的改造和人體強化技術成爲永生不滅的“神明”。

就如同《西部世界》第二季裏,迪洛斯死前花了大價錢投資西部世界,爲的就是將自己的意識轉移到機器人身上以實現永生。不過經過了 149 次「復活」並「穩定存活」了 35 天之後,迪諾斯的意識最終還是無法與人造的機器身體相兼容。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

圖片來自網絡

此外,《西部世界》還呈現了機器人的覺醒對人類的文明所造成的巨大沖擊。迄今爲止,人類的文明都是建立在人是獨一無二的這一信念之上的。而後人類時代的到來,無疑將徹底顛覆大寫的“人”這一概念,從而給已有的人類認識論和道德觀念帶來危機。當代科學和生物技術影響了生物的纖維和結構,並改變了我們對於什麼纔是人類基本參照系的理解,自然與文化、有機體與無機物的二元對立開始被抹平。當機器人具有了生命的特徵,那麼它們究竟是人還是機器?從構成材質的層面出發顯然無法回答這一問題。

人類奴役機器人的法理基礎在於認爲它們不具備生命的特徵,假如我們承認智能機器人是有生命的,那麼歷史上人類所受到其他人的奴役之苦,與《西部世界》中機器人所遭受的奴役又有何不同?在這裏,我們似乎陷入了一個文明的悖論:人類創造智能機器人是爲了讓其替自身服務,它們越不像人,就越不能更好地爲我們提供服務;但當它們進化得越來越像人的時候,再將它們當作奴隸就有違我們的道德倫理。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

西部世界截圖

這部電視劇的有趣之處在於,它是少數從機器人的視角來審視人類與其所創造的機器之間關係的影視作品之一。這種價值取向既受到了當代西方後人類主義思潮的深刻影響,也呼應了 20 世紀 90 年代以來人工智能技術從弱人工智能走向強人工智能的現實。

在《西部世界》中,人工智能不僅長得和人一樣,他們的感知與認知能力也幾乎與人類無異,他們會感受、有情緒,還有感情。也正是因爲有了這樣的技術基礎,劇中的人工智能纔有機會“覺醒”——成爲自己。

人本主義的核心理論相信人類天生具有一種自我實現的趨勢,發揮自己所有的潛能,朝着自主發展,掙脫外界力量的控制。

接待員們的反抗完全展現了這種對自主的渴望:被設定爲甜美柔弱的農場主女兒 (Delores) 一槍擊斃樂園創始人,打響了人工智能反擊的第一槍;被創始人“安排”離開樂園獲得自由的酒館老鴇 (Meave),爲了尋找“前世”的女兒自願選擇留下;被植入代碼的樂園工程師 (實際上是人工智能的 Bernard) ,不願被創始人的幻覺控制,自行刪除體內代碼。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

西部世界中的 Meave,圖片來自網絡

由此,這部電視劇也就突破了人類試圖讓機器人爲自身服務的浪漫想象,而是探討了一種新的人機關係的可能性。當人類與其所創造的機器之間的界限逐漸消失,我們自然也需要從道德和法律的層面上對什麼是人以及由此所產生的權利和義務重新做出界定。我們難道不應該以一種平等的夥伴關係而不是奴役關係來對待具有了靈魂的智能機器嗎?

機器人和人類,誰更有人性?

《西部世界》中有段對白:“我們一脫離現實世界,你就變成一個邪惡的混蛋了。”這在某個層面隱喻了人性的弱點,人類至今取得的輝煌成就有賴於集體創造的道德倫理、法制社會的束縛。隨着機器智能的崛起,人類社會對人工智能的道德倫理約束業已提上日程。

早在 1942 年,阿西莫夫便在其小說《環舞》中提出了著名的“機器人三定律”,提出了機器人倫理思考:第一定律,機器人不能傷害人類,不能袖手旁觀人類受到傷害 ; 第二定律,機器人應當服從人類命令,除非該指令與第一定律相悖 ; 第三定律,在不違背第一和第二定律的情況下,機器人應保護自身的存在。此後,阿西莫夫對三定律進行了修正,提出第零定律,即機器人必須保護人類的整體利益不受損害。

**
**

《西部世界》第三季開播,機器人會比人類更有人性嗎?

秉承不傷害人類原則的醫療機器人大白,圖片來自網絡

2016 年 8 月,聯合國世界科學知識與科技倫理委員會發布《關於機器人倫理的初步草案報告》,認爲機器人不僅需要尊重人類社會的倫理規範,而且需要將特定倫理規範寫入機器程序中。歐盟亦提出所謂“機器人憲章”,即人工智能研究需遵守諸如人類利益、正義、基本權利、包容性、可責性、安全性等倫理準則。將“道德代碼”嵌入人工智能程序的呼聲也越來越強。

然而需注意的是,即便不談技術上的困難,單從人類自身的角度而言亦難以達成關於倫理準則的統一標準。社會建構意義上的倫理法則並無貫之以四海皆行的意味。

並且,強行設定機器人的行爲模式本身就是一件風險性非常高的事情,假設某天一直爲人類服務的機器人偶然覺醒了自我意識,那麼人類的處境將會非常危險。《西部世界》的教訓告訴我們,接待員“覺醒”後,長年累月的不平等關係和不同身份會讓它們對人類產生巨大的仇恨,這樣的仇恨會甚至會顛覆現有的社會制度。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

具有自我意識的終結者,圖片來自網絡

但即便是在如此多的未知風險加持下,人類的思想一直堅定的執行着“利己主義”,不願作出哪怕一點點犧牲利益的改變。相比之下,反而是《西部世界》中的接待員們更能反思自己,改變自己,一次次修改自己的代碼,接受自己的無能和不完美。

按照劇情線設置,梅芙可以離開西部世界。在她獲得了最高權限,歷經千辛萬苦找到女兒之後,女兒身邊已經有了一個和她有幾分相似的母親,她的愛沒有改變,卻將自由的機會留給了女兒和她的新媽媽。

在此前,找到女兒,帶女兒一起走,是梅芙的執念,爲此她不惜威脅別人,利用別人,也要找到女兒。可是當真的找到之後,她卻能夠放下執念,成全這對母女。這和威廉和老提洛的自私、偏執、多疑形成了鮮明對比。

而德洛麗絲和伯納德也一直在改變。德洛麗絲從覺醒後的順我者昌,逆我者亡,甚至不惜強行改造泰迪,要殺掉不願跟隨她,要去”世外桃源“之地的接待員同類;而泰迪寧肯死也不願意變得和人類一樣殘暴,泰迪的死改變了德妹,覺醒後的泰迪仍然忠於自己的內心:“無論你多麼殘忍的改變我,可我無法做到不愛你。”

”我不想成爲和他們一樣殘暴的人,我仍然願意去發現這個世界的美。”在最後一刻,她放下了執念,親手將這批接待員的送到一個安全的座標,並復活了伯納德,作爲監督自己、制衡自己的一種力量。

從物種角度來說,”接待員“或許比人類更加“文明”。就如同劇里人工智能的創造者阿諾所說的一樣,人類目前與其他生物最大的區別就是來自我們天生所攜帶的利己主義。這樣的思維模式使我們能夠學會如何使用工具去獵殺其他動物,同時也驅使我們爲了追求自身利益而不擇手段。

《西部世界》第三季開播,機器人會比人類更有人性嗎?

假設人類在悠長的發展和進化過程中,能夠摒棄這天生的利己主義,與人工智能乃至世間萬物和諧共處,那麼人類的文明或許就迎來了昇華的契機。當然這是一個及其複雜的過程,也有可能永遠實現不了。

最後需要提醒的是,在人與機器之間的界限逐漸模糊的今天,當我們談論人工智能技術所帶來的種種危機與挑戰的時候,切不可忘記:殘暴的歡愉,終將以殘暴爲結局。
《西部世界》第三季開播,機器人會比人類更有人性嗎?


推薦閱讀

《西部世界》第三季開播,機器人會比人類更有人性嗎?

硅谷初創企業裁員潮已經開始!這些領域正遭受重創

MIT 開發成本 100 美元簡易呼吸機,Airbnb 房東向前線醫護提供免費住宿 | 科技前沿週報

加州恐有 6 萬流浪漢受新冠疫情影響!災難襲來,誰爲弱勢羣體點燈?

字節跳動出海史,張一鳴如何在全球跳動字節?

[人造肉哪家強?三大品牌人造肉試吃測評!

](http://mp.weixin.qq.com/s?__biz=MzI2MTE2NzE4Mg==&mid=2651955379&idx=1&sn=7e247613bac9a5a0e8686d4064035d4e&chksm=f1bb8192c6cc0884568232b04191140667d4f7e17a3b599e85895cb8787cd9ed5b839f2562b3&scene=21#wechat_redirect)

金融行業爲什麼熱衷於區塊鏈技術?| 智谷微報告

《西部世界》第三季開播,機器人會比人類更有人性嗎?

來源鏈接:mp.weixin.qq.com