如何评价美剧《西部世界》（Westworld）？ 第1页

含剧透，请谨慎阅读。顺便安利一下集智主站：集智 - 通向智能时代的引擎

美剧《西部世界》向人们展示了人工智能获得自主意识后的未来世界。但是，我们离制造出《西部世界》里 AI 接待员还有多远的距离？我们不妨结合最近几年的人工智能研究看看有哪些能够实现，哪些不会成真，我们会发现其实并不是我们想象中的那么遥不可及。

AI 的故事理解能力

《西部世界》中的机器人并非只靠程序员编写程序而成。还有一大部分工作要靠专业作家完成，他们负责为每个机器人编写独有的背景故事。这些故事给了接待员们所需的记忆和感情深度，让他们在园区游客眼里看起来是活生生的人。当问及它们是谁，做过什么或者有什么感觉，它们会查阅自己的背景故事，从中寻找答案，并不会像庞麦郎那样找不到答案就交给时间。

《西部世界》在剧中提到，能够回答故事性的问题，是通过图灵测试的基本要求，而乐园中的机器人在“建园后第一年就做到了。” 但图灵其实是作为一种思维实验提出了这项测试，不是用来衡量 AI 研究进程的一个标准。一个机器是否通过了图灵测试，对于判断我们还有多久能造出剧中的机器人并没有多大帮助。

为了解决这个问题，2015 年 Facebook 的 AI 实验室发布了一篇论文《Towards AI-Complete Question Answering: A Set of Prerequisite Toy Tasks》，介绍了新型的 bAbI 测试。在论文摘要中，研究人员写道：

为了衡量研发智能对话机器人的进度和水平，我们认为可以利用一套代理任务，通过询问问题来评估机器人的阅读理解能力。我们的任务通过几个方式衡量理解水平：系统是否能通过综合故事情节、简单介绍、逻辑推断等因素回答问题。任何目标是能和人类对话的 AI 系统，都应先满足我们设计的这些任务的要求。

换句话说，在你希望 AI 能通过图灵测试前，应该先通过 bAbI。

这项测试包含一系列的很多的简单故事和问题，均是自动生成，能测试 20 个不同的心智技能。比如，下面这个问题就是用来测试机器是否被不相关的事实情况所困扰：

Mary 去了洗手间。John 走向走廊。Mary 走到了办公室。
Mary 在哪里？答案：办公室。

下面是个难度稍高点的问题，用来测试基本的逻辑归纳能力：

Lily 是个天鹅。Lily 是白色的。Bernhard 是绿色的。Greg 是个天鹅。
Greg 是什么颜色的？答案：白色。

要想通过这项测试，机器应该在三个方面都能达标：它的理念是学习一切，包括它自己的语言，通过阅读方式即可。如果专门针对 bAbI 测试编写程序肯定能获得近乎完美的分数，但是如果是普通的没有做任何针对性设计的 AI 呢？

去年 12 月份，Facebook 发布了一篇名为《Tracking the world state with recurrent entity networks》的论文，称 Facebook 的 AI 已经能完成全部 20 项任务。

当然 AI 研究人员也可以训练一个神经网络，完成这些任务或其他的问答测试，从而创造一个能使用它自己从现实世界学来的知识讲述故事，例如 Facebook AI 实验室研发出一种叫做“记忆网络”的新学习模型，能够从与人类的对话中学习语言，进而应用到未来的对话中。

论文地址： https://arxiv.org/pdf/1410.3916.pdf

无独有偶，Google 的 DeepMind 实验室也研发出一种算法，能阅读和理解《每日邮报》等新闻文章。

论文地址：https://arxiv.org/pdf/1506.03340v3.pdf

而且，这种机器学习方式即便是测试问题以随机的语言提问，也能凑效。

这很重要，因为如果机器能够学习仅凭文字就能回答问题，那么随着技术不断成熟，最终也能通过阅读学习我们的世界甚至我们人类。这也是 DeepMind 的下一个目标，其也在进行让机器理解故事的研究。等机器读完全部 Google Books 上的书籍后，就能更进一步，阅读我们为它专门写的书籍：正如《西部世界》中为机器人写的背景故事一样。

还有很重要的一点我们需要理解，那就是通过阅读书籍和背景故事训练后的 AI 没有理由会知道自己是个机器人。如果 AI 向自己的记忆问及“我是谁”这种问题时，它会在训练它的数据中检索信息，而训练 AI 的书籍通常是以人类的视角写就，而非机器人，因此 AI 自我意识到自己是个机器人并不是件容易发生的事。

AI 的记忆问题

《西部世界》中关于记忆有两个重要情节：

• 接待员开始获取本应清除掉的记忆。
• 接待员有优良的记忆能力，无法分清什么是回忆，什么是现实。

这种情况现实吗？

我们先来看看清除记忆这个话题。

当前大部分 AI 技术的进步都是源自神经网络领域的发展，它们是模仿人类大脑的一种数据结构。不知你是否注意到当前手机的语音识别质量大幅提高，像谷歌翻译软件这样的翻译质量也进步很多，这些进步的背后正是神经网络的进步。

这些应用于语音和图像识别方面的神经网络，在执行任务的时候有点像是出自本能反应。神经网络经过训练后，向它们展示一些数据，它们就能立刻对答案做出最佳猜测。但神经网络如果越大，性能会越差，因此限制了它们执行一些重要的任务。所以研究者们开始给它们添加一个新元素：记忆。

神经网络中的记忆与普通计算机的存储记忆大不相同，虽然内容都是存储在一些常规文件中。首先它有“内容可寻”的特性：神经网络通过查询和它想要的内容类似的信息，就能获取记忆。其次，神经网络的记忆并不是简单地划分为人类理解中的文件和目录。它是大量的数字，神经网络自己决定怎么利用和整合它们。

DeepMind发布的一篇探究神经网络记忆的论文中指出：

研究人员利用记忆中的所有元素（不像通常图灵机器和或电脑只利用了一种元素）定义了“模糊”阅读和写作，它们的模糊程度可大可小。模糊的程度，是由一种“注意力集中”机制决定的，这种机制会限制每次阅读和写作操作，与记忆中的一小部分元素产生相互作用，而忽略其余元素。

论文地址：https://arxiv.org/pdf/1410.5401v2.pdf

这样以来，某些事情存储在神经记忆中哪个位置就变得很难定义：一个特别的记忆可能会分布在许多位置，而有些位置比其它位置会起到更大的作用。这就给清除某些特定记忆时带来一个很棘手的问题：怎么做到让这些位置的其它记忆完好无损？当然我们也可以像剧中的 Ford 那样选择“回滚”指令，也就是说让一个较早版本的印象代替整个记忆内容，这肯定能起作用。但这么做也意味着 AI 会忘记它刚学到的所有东西，包括一些有用的信息，正如剧中 Bernard 所说：“正是那些毫不起眼的东西让她们看起来很真实，活生生的，让乐园的游客们爱上她们。”

Ford 和 Bernard 都面临一个很困难的任务：他们既想清除接待员脑中先前被游客们屠杀和虐待的记忆，但又想让接待员脑中保存下她们在此过程中学习的新词汇新短语、进步的骑马技术等等。这些微小的经历能改善接待员的真实感。

即便是 AI 技术不断进步，清除记忆也不会很容易，因为在神经网络中，所有记忆是互相连接的，一个旁观者很难理解清楚，这和人类大脑机制很像。

那第二个话题呢？也就是接待员们无法分清回忆与现实。2016 年 DeepMind 还发了篇论文《Towards conceptual compression》，论文作者介绍了一种基于神经网络的算法，能像人类的记忆一样工作：扔掉细节但保留概念。

下面这张图显示的是集中图像压缩算法之间的比较：

最上面一行是原始图像，灰色的一行是网络中用的普通 JPEG 算法（灰色是因为它没法将文件压缩到这种程度），接着一行是 JPEG2000，最后两行是使用了神经网络的压缩结果（两种不同的模式）。每种算法都给定了相同的空间去编码原始图像。

我们可以很清楚地看到，第五行的神经网络能够保存“水前的鸟”这个概念，而称得上先进的 JPEG2000 的结果却是一片模糊，普通 JPEG 就直接放弃了。其它几幅图，比如人与大象也是如此。

这和人类的记忆机制很像，虽然遗失和模糊了回忆中的一些细节，但基本的概念仍保留了下来。

因为神经记忆的这种“模糊”特性，以及广大编程人员不得不以最有效的方式利用资源，所以很难想象机器人的记忆能保存那么多的细节，以至于都无法和机器感应器保存的现实数据区分开来。尽管我们常常认为计算机是种很完美的设备，从不丢失信息，但事实是它们一直都会放弃一些数据以改善在其它方面的性能。

人类对 AI 的控制问题

《西部世界》中另一个值得和现实 AI 研究比较的方面是关于 AI 的可控性。

机器人反抗制造它们的人类，是科幻作品中的常用素材，《西部世界》也没例外。Maeve学会了如何覆写将其关停的程序。在现实中，我们已经在使用很多机器人：工厂中造东西的，家里打扫卫生的。它们都不曾反抗人类，也没这个能力。因此，很难看到这种想法变成现实。

很难，并不意味着不可能。

我们今天应用的神经网络，比如用在手机中识别语音，都是模式匹配网络。向它们展示一些数据后，它们会对看到的东西做出最佳猜测。比如向它展示一只猫，它会输出“猫”这个结果。尽管我们很难完全理解神经网络是如何给出答案的，但它们依然对人类非常安全，因为它们没有任何代理权力，也就是说没有能力与这个世界产生互动，也无法制定计划。

然而，研究者们近来一直在大力研发能和世界互动以及制定计划的 AI。这些新型 AI 能玩游戏，和当前这些非常简单的、完全靠脚本驱动的程序非常不同。只需观看游戏画面和操作步骤，它们就能学会玩一个新游戏。因为玩这种为人类设计的游戏会涉及到复杂的计划和执行操作，所以这些AI与剧中的接待员这种 AI 很像。

不幸的是，这种类型的 AI 已经出现了一些事故，显示它们可能会走向歧途。最先出现在奖励类游戏中。要学会玩一个游戏，需要明白一些注意事项，好知道自己玩的好还是不好。而在游戏中，这同常意味着自己要尽量最大化得分。而AI在玩游戏中为了尽可能得分，会做出不寻常的举动：

OpenAI曾研发出一个神经网络，学习玩CoastRunner，这是一款划船比赛游戏。AI的设计者们希望AI能完成比赛路线，因此将程序编写为让AI通过收集比赛路线周围的能量和金币来获得最大得分。

那么哪里出了问题呢？看视频：

我们会发现 AI 在比赛途中发现在某个地方收取能量包后，过一会儿会出现能量包，结果 AI 居然在这不停地绕起了圈，还会算计多久能量包会再次出现，于是 AI 用这种套路拿到了高分。

而在另一个玩游戏的 AI 在玩俄罗斯方块时，居然学会了每次快要输的时候通过无限期地暂停游戏能获得更好的得分。

如果 AI 能学会破解软件控制其运行环境（虽然这种情况看起来不可思议），我们不难想象一个迷恋于得分的机器人也可能做出反抗人类指令的举动。

人工智能研究者们也在严肃对待这个问题，DeepMind 和牛津大学的研究人员在他们的论文《Safely Interruptible Agents》中认为人类应时刻监督 AI 做出造成灾难性后果的行为。而且他们认为 AI 还可能学会以比人类要求更高的水准完成任务，从而防止人类将其关停。

对于这个问题，《西部世界》并没有多少探讨，至少在第一季是这样。实际上，剧中的接待员们似乎也没有什么特定目标，只是机械地重复她们的故事线。这样我们就产生一系列的疑问：如果一个 AI 接待员忽然获得了自由，比如 Maeve，她会做什么？占领世界？尽情享乐？报复人类？还是什么都不做？可能第二季会告诉我们答案吧。但是，Maeve 的神经网络在运行在她脑中的普通非神经软件上发现了一个 bug，然后“黑”进了自己的大脑让关闭她命令失灵，这在现实中是完全不可能的。

结语

在浏览 AI 研究成果的过程中，最让人印象深刻的并不是最新的技术成就，而是 AI 令人难以置信的飞速发展。现在研究者们已经开始用儿童书籍训练 AI 的理解能力，要不了多久就可以用人类图书馆中的书籍训练 AI。因此，我们有生之年见证机器完全通过真正意义上的图灵测试也并非完全遥不可及。