人與智能機器人和平相處的安逸能持續多久


3樓貓 發佈時間:2022-07-21 14:52:33 作者:Deon Language

當然這部作品最大的意義還是在於引發觀眾對人與機器人關係的思考。「夏娃的時間」中的機器人並非只是能通過圖靈測試那麼簡單,它一下子就把我們帶到了機器人發展到近乎終極的狀態上:機器人雖不能成為「自然生命體」,但其已經完全擁有「人的思維和情感」,甚至可以涉足代表著人之思想和創造力的藝術領域。自然地,我們便不可避免地要思考這樣一個問題:如何定義「人」。

1、如何定義人?

美國《獨立宣言》中寫道:「All man are created equal」。網上資料說,一開始這裡的「created」用得相當有宗教意味,意思是人類都是由造物主——上帝創造的。後來法國將其改為人生「born」而平等。 當時是「create」還是「born」或許還只是一個關於是否帶有宗教色彩的問題,而現在看來情況不止如此。科技日新月異,人類可以「create」越來越多的東西,但許多靠「born」得來的東西,人卻無法自己「create」,其中最具代表性的就是人的思維。

人對自然有著與生俱來的嚮往和憧憬,因為人源於自然。人創造出了五光十色的城市光景,卻更喜歡絢爛閃耀的滿天繁星;人創造出了鋼筋和混凝土,卻更喜歡歌頌自然所生的綠葉和泥巴。「天然、自然」等詞語在我們心中是神聖的,人類對自己這個天生的小小腦袋瓜同樣充滿的好奇和敬畏。很難想象,當人創造出了具有思維的機器人的時候,人應該如何看待它們,又或者說是,「他們」。

困難在於如何定義人。有了標準,我們就可以區別人和非人。然而我們卻難以確定人的本質是什麼。如果說人的本質就是思維,那麼毫無疑問當機器人也能像人一樣思考的時候,我們應該將其視作人。

不過現實並非如此簡單,光是機器人這副身軀,就已經是許多人心理上無法逾越的障礙。我們經常說量變會導致質變。若一個人遭遇不幸,左腳換上了機械肢,我們當然不會認為他已經不是人。那麼當他的身體超過一半都是機械的時候,我們又將怎麼看?如果他全身都變成了機械,甚至連大腦都是機械的,但思維還是原來的那個人,那麼我們是否還將其看作人?

人與智能機器人和平相處的安逸能持續多久 - 第1張

▲ 人類致力於和機器人及其相關物劃清界限

2、無處不在的矛盾

現在來思考一個最為矛盾的問題。

  • 人制造機器人的前提是人能夠控制機器人;
  • 人制造機器人的目的是讓機器人做人不願做或力不能及之事;
  • 人制造機器人的方向是人性化,其終極形態便是能夠像人類般思考,進而表現得與人無異。

顯然當我們反推回去時,矛盾便清晰地展現了。機器人越能像人一樣思考,就越會思考為什麼自己要做人類不願做的事,為什麼要受人控制。也就是說機器人越能更好地服務人,就越有可能思考為什麼要服務人。

現在讓我們改寫一下上面的句子:

  • 奴隸主想要奴隸的前提是他對奴隸擁有控制權;
  • 奴隸主想要奴隸的目的是讓奴隸做自己不願做的事;
  • 奴隸主把人而不把其他生物當奴隸的原因是隻有人可以像人一樣思考和理解。

如此對比我們就會發現,在機器人技術上的進步和發展似乎是在導致另一種意義上的奴隸制的重演。如果我們把“機器人不是天然生命體”作為“不把機器人當作人”的理由,這或許是一種對自由意志的褻瀆,一種麻木的自欺欺人。

另一個矛盾是,如果具有高級思維真的被當作判定一個物體是人的標準,那麼製造有思維的機器人是不會被允許的,如克隆人會被禁止一般。或許我們一開始就不應該發展機器人,但一旦我們開始,科技的發展就難以終止。我們還沒想好萬全之策,就已騎虎難下。

人與智能機器人和平相處的安逸能持續多久 - 第2張

▲ 與人思維無異的機器人終有背叛人類的一天

3、結局總是殘酷的

令人感到不安的是,人類在該類影視作品中總以人與機器人和平相處作為結局。如此處理雖然符合主流價值觀,表達出人類共有的對未來科技的美好願景,但現實明顯是更為殘酷的。

在聽到陸夫親自彈鋼琴後,走出咖啡店的SAMMY露出了微笑。SAMMY是作品塑造的一個正面形象,她的微笑使我們為機器人情感的自然流露而感到高興。

然而機器人具有思維必定不只是產生善良,同時亦會有罪惡。影視作品中主角與機器人建立的深厚感情無疑只是我們美好的願望而已。若機器人擁有了思維,成為了與人類相異的族群,這種存在於個體之間的友誼可能只是殘酷鬥爭中的一些溫情小插曲,便如人類戰爭中也有兩國士兵在烽火連天的戰場上相互救助的感人故事。

倘若機器人的思維是真正獨立的,它們作為一個群體維護自身利益的立場就不會動搖。「天然的肉體、真正的生命、源於自然」這些字眼到時候不過是人類的美好卻不強大的自豪感。在雙方都具有思維的條件下,人類大腦運作的速度必然不如機器人,機體持續性和自我複製能力也處於劣勢。具有思維的機器人必將擺脫人類的控制,或許還會將人類毀滅。

在「夏娃的時間」裡或許大家是平等的,但回到外面的世界以後,機器人還是服務人類的一方。問題不在於「夏娃的時間」這個小店裡的人和機器人是否平等,而在於當範圍擴大到整個人類和機器人這兩個群體對峙的時候,平等能不能存在,或者說雙方是否願意讓這種平等存在。不過這種集體對峙關係的結局只能像歷史書教導我們的那樣——「沒有永遠的朋友,只有永恆的利益」。

人與智能機器人和平相處的安逸能持續多久 - 第3張

▲ 在街上,陸夫不願他人看到自己和SAMMY在一把傘下

下面這段文字摘錄於Sam Harris在TED上的演講「Can we build AI without losing control over it」。我們仔細思考一下,就能體會到這種彷彿就在眼前的恐懼:

It's not that our machines will become spontaneously malevolent. 我們的機器不會自動變得邪惡。 The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us. 我們唯一的顧慮就是我們將會打造比我們人類更有競爭力的機器。而一旦我們和它們的目標不一致,我們將會被摧毀。 Just think about how we relate to ants. We don't hate them. 想想我們與螞蟻的關係吧。我們不討厭它們。 We don't go out of our way to harm them. In fact, sometimes we take pains not to harm them.We step over them on the sidewalk. 我們不會去主動去傷害它們。我們煞費苦心不傷害他們。實際上,我們經常會盡量避免傷害螞蟻。我們會選擇從它們身邊走過。 But whenever their presence seriously conflicts with one of our goals, let's say when constructing a building like this one, we annihilate them without a qualm. 但只要它們的存在妨礙到了我們達成目標,比如說當我們在建造這樣一個建築,我們會毫不手軟地殺掉它們。 The concern is that we will one day build machines that, whether they're conscious or not, could treat us with similar disregard. 所以我的顧慮是,終將有一天我們打造的機器,不管它們是否有意識,它們終將會以我們對待螞蟻的方式來對待我們。

人與智能機器人和平相處的安逸能持續多久 - 第4張

▲ 機械腳下,人如螻蟻

倘若我們正在「夏娃的時間」裡與機器人朋友閒聊,但出了店我們彼此就必須形同陌路,或者由友人變主僕。那麼,我們將如何回答這個問題:

人與智能機器人和平相處的安逸能持續多久 - 第5張

▲ 人與智能機器人和平相處的安逸能持續多久

動畫信息

夏娃的時間
中文名:夏娃的時間
原 名:イヴの時間
又 名:Time of Eve
首 播:2008-08-01(日本)
IMDb:tt1506339

相關閱讀

最近更新

隨機推薦


© 2022 3樓貓動漫 站點地圖 廣告合作:asmrly666@gmail.com