人与智能机器人和平相处的安逸能持续多久


3楼猫 发布时间:2022-07-21 14:52:33 作者:Deon Language

当然这部作品最大的意义还是在于引发观众对人与机器人关系的思考。「夏娃的时间」中的机器人并非只是能通过图灵测试那么简单,它一下子就把我们带到了机器人发展到近乎终极的状态上:机器人虽不能成为「自然生命体」,但其已经完全拥有「人的思维和情感」,甚至可以涉足代表着人之思想和创造力的艺术领域。自然地,我们便不可避免地要思考这样一个问题:如何定义「人」。

1、如何定义人?

美国《独立宣言》中写道:「All man are created equal」。网上资料说,一开始这里的「created」用得相当有宗教意味,意思是人类都是由造物主——上帝创造的。后来法国将其改为人生「born」而平等。 当时是「create」还是「born」或许还只是一个关于是否带有宗教色彩的问题,而现在看来情况不止如此。科技日新月异,人类可以「create」越来越多的东西,但许多靠「born」得来的东西,人却无法自己「create」,其中最具代表性的就是人的思维。

人对自然有着与生俱来的向往和憧憬,因为人源于自然。人创造出了五光十色的城市光景,却更喜欢绚烂闪耀的满天繁星;人创造出了钢筋和混凝土,却更喜欢歌颂自然所生的绿叶和泥巴。「天然、自然」等词语在我们心中是神圣的,人类对自己这个天生的小小脑袋瓜同样充满的好奇和敬畏。很难想象,当人创造出了具有思维的机器人的时候,人应该如何看待它们,又或者说是,「他们」。

困难在于如何定义人。有了标准,我们就可以区别人和非人。然而我们却难以确定人的本质是什么。如果说人的本质就是思维,那么毫无疑问当机器人也能像人一样思考的时候,我们应该将其视作人。

不过现实并非如此简单,光是机器人这副身躯,就已经是许多人心理上无法逾越的障碍。我们经常说量变会导致质变。若一个人遭遇不幸,左脚换上了机械肢,我们当然不会认为他已经不是人。那么当他的身体超过一半都是机械的时候,我们又将怎么看?如果他全身都变成了机械,甚至连大脑都是机械的,但思维还是原来的那个人,那么我们是否还将其看作人?

人与智能机器人和平相处的安逸能持续多久 - 第1张

▲ 人类致力于和机器人及其相关物划清界限

2、无处不在的矛盾

现在来思考一个最为矛盾的问题。

  • 人制造机器人的前提是人能够控制机器人;
  • 人制造机器人的目的是让机器人做人不愿做或力不能及之事;
  • 人制造机器人的方向是人性化,其终极形态便是能够像人类般思考,进而表现得与人无异。

显然当我们反推回去时,矛盾便清晰地展现了。机器人越能像人一样思考,就越会思考为什么自己要做人类不愿做的事,为什么要受人控制。也就是说机器人越能更好地服务人,就越有可能思考为什么要服务人。

现在让我们改写一下上面的句子:

  • 奴隶主想要奴隶的前提是他对奴隶拥有控制权;
  • 奴隶主想要奴隶的目的是让奴隶做自己不愿做的事;
  • 奴隶主把人而不把其他生物当奴隶的原因是只有人可以像人一样思考和理解。

如此对比我们就会发现,在机器人技术上的进步和发展似乎是在导致另一种意义上的奴隶制的重演。如果我们把“机器人不是天然生命体”作为“不把机器人当作人”的理由,这或许是一种对自由意志的亵渎,一种麻木的自欺欺人。

另一个矛盾是,如果具有高级思维真的被当作判定一个物体是人的标准,那么制造有思维的机器人是不会被允许的,如克隆人会被禁止一般。或许我们一开始就不应该发展机器人,但一旦我们开始,科技的发展就难以终止。我们还没想好万全之策,就已骑虎难下。

人与智能机器人和平相处的安逸能持续多久 - 第2张

▲ 与人思维无异的机器人终有背叛人类的一天

3、结局总是残酷的

令人感到不安的是,人类在该类影视作品中总以人与机器人和平相处作为结局。如此处理虽然符合主流价值观,表达出人类共有的对未来科技的美好愿景,但现实明显是更为残酷的。

在听到陆夫亲自弹钢琴后,走出咖啡店的SAMMY露出了微笑。SAMMY是作品塑造的一个正面形象,她的微笑使我们为机器人情感的自然流露而感到高兴。

然而机器人具有思维必定不只是产生善良,同时亦会有罪恶。影视作品中主角与机器人建立的深厚感情无疑只是我们美好的愿望而已。若机器人拥有了思维,成为了与人类相异的族群,这种存在于个体之间的友谊可能只是残酷斗争中的一些温情小插曲,便如人类战争中也有两国士兵在烽火连天的战场上相互救助的感人故事。

倘若机器人的思维是真正独立的,它们作为一个群体维护自身利益的立场就不会动摇。「天然的肉体、真正的生命、源于自然」这些字眼到时候不过是人类的美好却不强大的自豪感。在双方都具有思维的条件下,人类大脑运作的速度必然不如机器人,机体持续性和自我复制能力也处于劣势。具有思维的机器人必将摆脱人类的控制,或许还会将人类毁灭。

在「夏娃的时间」里或许大家是平等的,但回到外面的世界以后,机器人还是服务人类的一方。问题不在于「夏娃的时间」这个小店里的人和机器人是否平等,而在于当范围扩大到整个人类和机器人这两个群体对峙的时候,平等能不能存在,或者说双方是否愿意让这种平等存在。不过这种集体对峙关系的结局只能像历史书教导我们的那样——「没有永远的朋友,只有永恒的利益」。

人与智能机器人和平相处的安逸能持续多久 - 第3张

▲ 在街上,陆夫不愿他人看到自己和SAMMY在一把伞下

下面这段文字摘录于Sam Harris在TED上的演讲「Can we build AI without losing control over it」。我们仔细思考一下,就能体会到这种仿佛就在眼前的恐惧:

It's not that our machines will become spontaneously malevolent. 我们的机器不会自动变得邪恶。 The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us. 我们唯一的顾虑就是我们将会打造比我们人类更有竞争力的机器。而一旦我们和它们的目标不一致,我们将会被摧毁。 Just think about how we relate to ants. We don't hate them. 想想我们与蚂蚁的关系吧。我们不讨厌它们。 We don't go out of our way to harm them. In fact, sometimes we take pains not to harm them.We step over them on the sidewalk. 我们不会去主动去伤害它们。我们煞费苦心不伤害他们。实际上,我们经常会尽量避免伤害蚂蚁。我们会选择从它们身边走过。 But whenever their presence seriously conflicts with one of our goals, let's say when constructing a building like this one, we annihilate them without a qualm. 但只要它们的存在妨碍到了我们达成目标,比如说当我们在建造这样一个建筑,我们会毫不手软地杀掉它们。 The concern is that we will one day build machines that, whether they're conscious or not, could treat us with similar disregard. 所以我的顾虑是,终将有一天我们打造的机器,不管它们是否有意识,它们终将会以我们对待蚂蚁的方式来对待我们。

人与智能机器人和平相处的安逸能持续多久 - 第4张

▲ 机械脚下,人如蝼蚁

倘若我们正在「夏娃的时间」里与机器人朋友闲聊,但出了店我们彼此就必须形同陌路,或者由友人变主仆。那么,我们将如何回答这个问题:

人与智能机器人和平相处的安逸能持续多久 - 第5张

▲ 人与智能机器人和平相处的安逸能持续多久

动画信息

夏娃的时间
中文名:夏娃的时间
原 名:イヴの時間
又 名:Time of Eve
首 播:2008-08-01(日本)
IMDb:tt1506339

相关阅读

最近更新

随机推荐


© 2022 3楼猫动漫 站点地图 广告合作:asmrly666@gmail.com