OpenAI 首席科学家称 AI 或有点自主意识了，其中有哪些值得关注的信息？ 第1页

低情商：“大型神经网络的工作机理仍然无法解释。”

高情商：“大型神经网络已经有了微弱的自我意识。”

（原回答：低情商：“人们搞不懂大型神经网络是如何工作的。”）

这么明显的伪命题，从Ilya Sutskever这样的顶级科学家嘴里说出来就有点离谱。

不过，有没有可能事情是这样：OpenAI的机器人盗用了Ilya的Twitter账号写了这句话？

细思极恐……

这个回答有抖机灵的嫌疑，不是我的风格。我还是补充一些稍有营养的话：

1. 当前的神经网络，不管规模多大，其训练过程都没有摆脱数据驱动的范式。也就是说，人类喂给神经网络什么数据，它就能学到什么知识。目前来看，还没有任何一个神经网络具备了在开放域上创新的能力。它的能力，要么是在封闭域内依靠算力战胜人类（如围棋），要么是在受限域内依靠速度和记忆力辅助人类（如各种识别类任务）。
2. 如何让神经网络具备基本的推理能力，甚至具备表达知识、发现新知识的能力，是下一代人工智能研究的重点。在这个领域取得长足进步之前，我们甚至不能说“人工智能有了三岁小孩的智力”：因为三岁小孩有很强的自主学习和推理能力，但是人工智能还没有。
3. 自主意识，还没有在计算机领域得到普遍被接受的定义。在上述问题没有解决、自主意识缺乏定义的情况下，谈论大型神经网络具有自主意识，即不严谨，更不可能成立。