从大热美剧《西部世界》看人工智能

标签:安全PC技术平台人工智能

访客:19914  发表于:2016-12-21 10:19:25

从大热美剧《西部世界》看人工智能

《西部世界》上周播出了第一季最终集,结局虽然褒贬不一,有人说神剧,有人说烂尾,但毫无疑问非常震撼。

精彩程度堪比美剧《权利的游戏》,这部由《盗梦空间》导演克里斯托弗·诺兰的亲弟弟乔纳森·诺兰指导、电视剧界著名金主HBO投资拍摄的新剧从上映开始就备受关注。根据Deadline统计,本季最后一集收视人数高达220万。而各平台上总观众数估计达到了 1200 万(仅限美国)。收视率甚至超过了《权利的游戏》。

而人工智能(Artificial Intelligence,简称“AI”),这个话题伴随着《西部世界》(豆瓣评分9.2分,IMDb评分9.2分)再一次回到了吃瓜群众们的视野当中。

谁才是《西部世界》中的“NPC”?

如果你还没有看过《西部世界》,简单介绍一下:《西部世界》的故事设定在未来世界,西部世界是一座成年人的主题乐园,人们带着大把的钞票来西部世界寻欢作乐。游客花费大量金钱来到这个主题公园,在那里,拟人的机器人“接待员”能让游客享尽情欲、暴力等欲望的放纵。你可以在这里忘记一切社会准则,逃避现实社会,住进这个无法无天的世界,你的任何行为都不需要承担后果。游客可以杀死机器人,每次机器人“死亡”后,它的身体会被清洗,内存被擦除,然后再开始一个新的脚本。

而随着剧情的推进,这些脚本里的人工智能开始有了自己的思考,开始不按脚本做事,出现的变化。

《西部世界》的AI们开始作为主角去思考,站在这些人工智能的角度上,人类所有的伦理设定都有问题,每个加害于他们的人类都非常非常可怕。人类为这些机器赋予智能,然后又去剥夺它们的自由意志,这本身便是一种罪恶。

《西部世界》导演Jonathan Nolan 表示这部剧将在第二季探讨更多接待员的功能。看看他们的设计选择是否有意义,这会很有趣。

影视剧作只是行业人放开思维的探索,而现实生活中,AI 能有自主意识吗?

假如机器人的记忆每天晚上都会被完全删除,他认为那就像是什么也没发生过。但他也认为这其中存在可能的安全问题。为了让强化学习起效,AI 需要为积极的奖励进行优化。如果机器人的内存没有被完全删除——如果机器人开始记住在它身上发生的坏事,那么它可能会试图避开触发这些消极奖励的行为或人类。

纽约大学David Chalmers 教授认为:“我对意识的看法,也是大多数人对意识的看法——这些人无疑是有自主意识的。他们有相当丰富的情感体验,表现为可以感觉疼痛,思考问题,等等。他们不仅被动地对命令进行反应,还会思考自身的状态。他们在推理。很显然,人是有感情的。”

Chalmers 认为,不用试图找出什么能让机器人拥有意识,而应该思考机器人缺乏什么。最明显的是,它们缺乏自由意志和记忆力。但是,我们人类中也有很多人生活在无法打破的惯例中,也有许多人有严重的记忆问题,但没人会认为应该消灭掉这些人。

他说,“我认为作为一种理论它是无望的。机器人的意识,或者说机器人的自主意识,要比预编程的复杂得多。而编程让机器人直接监控它们自己的想法则要简单得多。”

任何情况下,虐待机器人都很容易对人类的安全造成威胁。我们冒险去创造没有自主意识的机器人,它们从消极反馈中吸取经验教训;或者我们无意中(或者比如在西部世界的情况下,是有意地)创造了有意识的机器人,最终将面对机器人的虐待和压迫。

事实上,相较于这些电影中的人工智能,一些“弱人工智能”(弱人工智能一般被认为是人工智能的分支或者技术。比如语音识别和个性化推荐)早已融入人类的生活。在警惕机器人、矩阵的同时,也应当注意到这个现象。

评论(1)

您可以在评论框内@您的好友一起参与讨论!

    1. 宋伟 这部美剧还是很值得一看的。剧情精彩有深度,对AI的探讨也很令人深思。

      回复[0] 2016/12/22 09:25

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");