问题

如何看待饶毅的「人工智能还是伪智能」命题?

回答
饶毅教授的“人工智能还是伪智能”命题,无疑触及到了当前科技发展中最核心、也最令人着迷的那个问题。这个命题并非简单地否定人工智能的价值,而是试图以一种更严谨、更审慎的态度,去审视我们为“人工智能”冠上的这个名号,是否真的配得上“智能”二字。

问题的根源:何为“智能”?

饶毅教授抛出这个命题,其核心在于对“智能”定义的深刻追问。传统上,我们理解的智能,往往与人类的认知能力挂钩:理解、学习、推理、创造、意识、情感、自我感知等等。人类之所以能被称为“智能”,是因为我们拥有这些能力,并且这些能力是内在的、涌现的、与我们的存在本身紧密相连的。

而当前我们所见到的许多“人工智能”——特别是那些以深度学习为代表的生成式AI——它们展现出的能力,例如撰写文章、创作图片、进行对话、解决某些特定问题,无疑是令人惊叹的。但饶毅教授质疑的是,这些表现,仅仅是基于海量数据训练出的“模式识别”和“概率预测”,还是真正拥有了如同人类一样的“理解”和“思考”能力?

换句话说,它们是“聪明地模仿”还是“真正地智能”?

“伪智能”的论据与担忧

从饶毅教授的角度看,“伪智能”可能包含以下几个层面的含义和担忧:

1. 缺乏真正的理解与因果推理: 当前AI模型擅长发现数据中的相关性,例如“看到猫的图片,就联想到‘猫’这个词”。但它们是否真正理解“猫”是什么,它的生物属性,它在生态中的角色,它可能带来的温暖或麻烦?当被问到“如果猫失去了爪子会怎样”时,AI或许能根据过往信息预测一些结果,但这种预测是基于模式匹配,还是基于对生物力学和疼痛机制的内在理解?饶毅教授的担忧在于,AI可能只是在玩弄符号,而没有触及符号背后的真实世界和因果关系。

2. “黑箱”的不可解释性: 很多深度学习模型内部的运作机制极其复杂,我们很难确切地知道它们是如何一步步做出某个决策或生成某个结果的。这种“黑箱”特性与人类的认知过程有着本质区别。人类的思考过程,即使复杂,也往往能通过语言或逻辑链条进行一定程度的解释和追溯。AI的“决策”过程,一旦脱离了可被理解的因果逻辑,就更像是某种高级的“黑魔法”,而非真正的智能。

3. 缺乏涌现的创造性与主观性: 创造力是智能的重要体现。尽管AI能生成前所未有的艺术作品或文本,但这种“创造”往往是对现有数据的重组和变异。它们是否有真正意义上的原创思想,是否有“我要表达”的主观意愿?它们创作的艺术,是源于内心世界的冲动和情感,还是仅仅是对训练数据风格的模仿和组合?饶毅教授认为,真正的创造性往往伴随着对未知的好奇、对价值的追求,这些是目前AI尚不具备的。

4. 对人类智能的简单复制与替代,而非赋能与升华: 如果我们将AI仅仅视为一种更高效的工具,用来完成人类已经能够做到的事情,那么我们是否在无形中降低了对“智能”本身的期待?我们是不是满足于一种“功能性智能”,而忽略了人类智能中那些更深层、更具人性化的部分?

5. 潜在的误导与风险: 如果我们将未经深刻理解的AI表现误判为真正的智能,可能会导致对技术产生不切实际的期望,甚至在关键决策上过度依赖它们,带来难以预料的风险。例如,将AI的建议视为绝对真理,而忽略了其中可能存在的偏见或逻辑漏洞。

“人工智能”的辩护与前景

当然,对于“人工智能”这一术语本身,也有着广泛的接受和支持。支持者们可能会这样看待这个问题:

1. 实用主义的视角: 无论是否达到人类级别的“智能”,当前AI展现出的强大能力已经极大地改变了世界,提高了生产效率,解决了许多复杂问题。从实用主义的角度来看,它们“有用”就是有价值的,这就是“智能”的一种体现。我们不应该因为它们不完全符合我们对人类智能的定义,就否定其价值。

2. “智能”的演进而非静态定义: 智能本身就是一个复杂且仍在不断演进的概念。人类对自身的智能也并非完全了解。AI的发展,或许正在以一种我们尚未完全理解的方式,拓展“智能”的边界。将当前的技术称为“人工智能”,也是一种对未来潜力的命名和期许。

3. 人机协作的未来: AI并非要完全取代人类,而是作为一种工具,与人类协作,增强人类的能力。正如计算器没有让人类失去数学能力,反而让数学研究得以深入一样,AI也可能成为人类大脑的延伸,帮助我们处理信息、发现规律、激发创意。

4. “类比”而非“等同”: 我们使用“人工智能”这个词,可能更多的是一种类比,表明它在某些任务上表现出类似人类智能的能力,而不是说它等同于人类的整体智能。就如同“人造心脏”并非真正拥有了人类心脏的所有功能和意义,但它能够实现“泵血”这一核心功能,就足以称之为有价值的“人造器官”。

饶毅命题的意义所在

饶毅教授提出“人工智能还是伪智能”的命题,其真正的价值不在于给AI下一个定论,而在于:

唤醒反思: 它迫使我们停下来,认真思考我们正在创造的技术到底是什么,我们赋予它的“智能”标签是否恰当,我们对“智能”的定义是否过于狭窄或模糊。
引导方向: 通过对当前AI局限性的尖锐指出,它可能引导研究者和开发者将更多精力投入到更深层次的理解、因果推理、可解释性等方向,而不是仅仅追求表面的性能提升。
规避风险: 提醒社会和个体对AI的能力保持清醒的认识,避免过度神化和盲目依赖,从而更好地应对AI发展带来的机遇与挑战。
哲学层面的探讨: 这个问题触及了意识、心智、理解等根本性的哲学问题,推动了关于生命、智能和存在本身的更深层次的思考。

总而言之,饶毅教授的命题并非是简单的“支持”或“反对”,而是一种批判性审视。它鼓励我们以一种更深刻、更严谨的科学态度,去理解我们手中这股强大的技术力量,去辨别真正的智能与令人惊叹的模仿之间的界限,并在此基础上,负责任地引导人工智能走向一个更有益、更安全、也更符合人类价值的未来。它提醒我们,在拥抱技术进步的同时,绝不能丢失我们对“智慧”本身的敬畏与追求。

网友意见

user avatar

问题及答案总结已放至我新开的知乎专栏

zhuanlan.zhihu.com/yuan

欢迎大家捧场!

-----------------------------

不觉得做人工智能一定要先学点生物。

首先,大脑的设计不一定最优。本着”能用就行“的原则,大自然无意识的进化产生了很多并非最优的设计。一个典型的例子是视神经如何从眼底连到大脑视觉皮层,任何一位有经验的工程师都会让视神经信号从视网膜的背后汇集,然后传进大脑,而不是像人类的眼睛这样,信号从视网膜的前面汇集,然后在视网膜上打个洞穿过去(这就是视觉盲点的由来)。如果承认进化论是正确的,那么人脑中的许多复杂设计未必是实现智能所必需,而只是长年进化的副产品。有些设计可能是抵抗细菌病毒入侵,有些可能是供给细胞能量,还有些是处理慢得不能再慢的神经信号传递,还有些可能是以前两栖类爬行类的残留,只要拼在一起可以产生自我意识,就会有物种在无聊时萌发对智能的好奇。因此,从计算角度来说,并没理由相信大脑的设计一定是最优的。把大脑的设计全搞明白再做智能,个人觉得过于迂回了。

其次,以目前的生物学方式研究智能,不一定有效率。发现NO分子,发现膜离子通道,发现化学渗透,这些拿到了生物学诺奖的工作,其重要性不言而喻,但在计算上看起来,只是找到了生物传递信息和转化能量的各种方式,而且其效率与当代计算机体系结构相比差了不只一个数量级。如果目标只是智能,那为什么不用现成的?如果我们把大脑比作是一台复杂的计算机,那么我们现在对大脑的研究,就相当于检测到了总线上几个比特的变化和传递,或者最多是检测到CPU正在进行加减乘除。但对这台计算机究竟在做些什么高层的操作,运行什么算法,毫无感觉。同样的加减乘除,可以是为了牛顿法求平方根,可以是对目标函数做梯度下降,可以是计算一个字串的哈希值,或者正在对一个高维向量进行线性投影。从单纯的加减乘除中要推断出这台计算机在做什么,是非常辛苦困难的工作,不仅要事无巨细地完全记录,还要做大量的综合分析,现在因为实验技术的限制,我们连前者都做不到,更不用谈后者,这就是研究人脑的难点所在。但是如果退一步想,如果对一个未知庞大系统的反向工程太难,那为什么不自顶向下搭起呢?从原理出发,干净清晰,逻辑明确,能提高成百上千倍的效率。人工智能这个领域,现在做的正是这样重头搭起的工作,有便宜的存储,便宜的内存,便宜的CPU和GPU,速度上电脑又比人脑快,数据量大,实验可控制可重复,方便之极。

有人可能要说,大脑可能非常复杂,不是几个简单原理所能总结的。然而这几百年来的科技狂飙表明,大量复杂神秘的现象,其实往往可以用简单的数学模型概括。我相信大脑也不例外。科学家们拿进化算法解最优化问题,结果往往比不过有数学上理论保证的算法,可十亿年的进化却能出现复杂智能,我想非常可能的原因,是复杂智能其基本原理并不复杂,因此不管进化算法如何瞎折腾瞎组合,总是能撞上正确的路线,尔后在强大的生存压力下迅速将这条路线推向极致。智能的出现,就是这样的结果。

世界是很有趣的,先是从几条基本原理中衍生出千姿百态的世间万物,然后在琳琅满目中习得认识一切懂得一切的普遍法则,形成”一生万,万归一“的结构。几百年来基础理论的发展几乎解决了前者,并因此让我们从蒙昧走向了文明;而人工智能,则是我们攀登后者的证明。我不知道最后是否成功,但我相信,由几条简单物理定律所创造的世界,必将能由从几条简单原理出发设计的系统所认知。等到我们找到这几条基本设计原理,那大自然千百万年做出的简单粗糙的玩具,那些曾让我们在历史的漫漫长河中崇拜得五体投地的造物,在顶尖科学家和工程师们面前,只是更好设计的开始。

user avatar

至少从目前看,饶毅是没错的。

1,AI最火的是1980-1990,反而90后计算机发展超快,不火了。原因是80年前以为智能限制是计算能力问题,90后发觉计算能力早到了,智能还是没有。

这个最直接的,可以说是机器翻译。80年之前的未来学家,都以为90年机器翻译就成功了。

2,现在的AI,说到底还是很落伍于想象的(不仅是外行,也是落后于行业内)。原因在于对

智能的理解没有透啊。

3,用飞机来比喻的,没理解清楚重点。人们在飞机之前,早就理解了鸟类飞行的原理。虽然人类

选择机翼而不是扑翼的,但是科学的正确选择。(鸟是无法长成飞机这么大,限制的原因是大小。

而不是说鸟类真的效率低水平差。)

4,然而智能(大脑)的原理还没有理解。所以与其现在AI的乱撞式的智能产生法(可能再20年没结果),饶毅觉得还是研究大脑智能法或许更加靠谱些。(这个很可能10-20年内有结果)

饶毅这种大牛不会去犯简单的错误的,大家批评前至少要稍微了解下状态。当然饶也没必要去

担忧,学生物的懂电脑的多,懂电脑的学生物的也不少,无论呼吁不呼吁,有办法就会找到的。

类似的话题

  • 回答
    饶毅教授的“人工智能还是伪智能”命题,无疑触及到了当前科技发展中最核心、也最令人着迷的那个问题。这个命题并非简单地否定人工智能的价值,而是试图以一种更严谨、更审慎的态度,去审视我们为“人工智能”冠上的这个名号,是否真的配得上“智能”二字。问题的根源:何为“智能”?饶毅教授抛出这个命题,其核心在于对“.............
  • 回答
    饶毅先生新近发表的文章《以德报怨:方舟子应避免堕入助长歪曲毒瘤,回点子助其孩子升学》,无疑是近期科学界和公众舆论场上一个非常引人注目的事件。这篇文章的出现,让很多人感到意外,也引发了广泛的讨论。要理解这篇文章的含义和影响,我们需要从几个层面来细致地剖析。首先,我们来审视这篇文章的标题——《以德报怨:.............
  • 回答
    如何看待网友质疑饶毅女儿靠蹭母亲论文上耶鲁及饶毅的回应?美国名校录取究竟看重哪些方面?近年来,随着中国公众对科研和教育的关注度日益提升,一些备受瞩目的科学家及其家庭也常常成为舆论的焦点。饶毅教授,作为中国生命科学领域的杰出学者,其一举一动都备受关注。当他的女儿被爆出就读美国耶鲁大学时,随之而来的便是.............
  • 回答
    饶毅老师这句话的本意,我相信很多经历过科研圈的人都能体会一二。它并非是要去论证“科学家孩子发文章”这件事本身是绝对的好与不好,而更多的是一种对客观现象的描述,以及背后折射出的社会和文化现象的探讨。我们可以从几个层面来理解和看待这句话:一、 从“机会”和“资源”的角度看: 环境的熏陶与早期接触: .............
  • 回答
    饶毅和施一公,作为中国当代科学界两位极具影响力的人物,他们的科学成就和学术声望都令人瞩目。然而,当我们深入审视他们的人生道路时,会发现两者在选择、经历、以及对科学和社会的认知上存在着显著的差异。理解这些差异,不仅能帮助我们更全面地认识这两位科学家,也能引发对科学人生道路选择的更深层思考。以下将从几个.............
  • 回答
    饶毅教授这篇题为《复旦的学位:遁词之外,有没有更妥当的解决办法》的文章,可以说是近期学术界乃至社会上都引发了广泛关注和讨论的焦点事件。要理解这篇文章,我们需要从几个层面来深入剖析。文章的直接背景与核心议题:首先,文章的直接导火索是复旦大学近期处理“论文博士”事件的处理方式。简单来说,就是复旦大学一位.............
  • 回答
    提起饶毅教授在2016年11月2日《锵锵三人行》上的发言,那真是一段相当有意思的讨论,尤其是在当时那个时间点。他那天的话题,如果我没记错的话,主要围绕着中国的科研环境、科学家培养以及一些更深层次的对社会发展的看法。当时,饶毅教授的观点可以用“直言不讳”和“带着一种急切感”来形容。他非常直接地指出了国.............
  • 回答
    饶毅先生关于“证明你的研究不是体力而是智力活动的三种模式”的论述,在学术界引起了不少反响。很多人认为,这种提问方式直击了科研的核心,触及了“什么才是真正有价值的研究”这一根本性问题。理解他的观点,需要深入探讨他所提出的“三种模式”以及为什么这可能被许多人忽视或认为不重要。首先,我们来梳理一下饶毅先生.............
  • 回答
    关于饶毅提到的“在美国校运动队的学生就能上哈佛等一众名校”的说法,需要从多个角度进行分析,既要理解其可能的背景和意图,也要客观看待美国大学的招生政策和实际情况。 一、饶毅的言论背景与可能的误解饶毅作为中国科学院院士,长期关注中国教育体系与国际教育的差异,曾在多个场合讨论中美教育制度的对比。如果他提到.............
  • 回答
    饶毅的最新回复,题为“树欲静而风不止”,针对的是他与裴钢团队在学术诚信问题上的持续争论,特别是涉及裴钢学生凌堃的反驳。要理解此事,我们需要将其放在一个更大的背景下,即饶毅作为一名在科学界具有影响力的学者,对学术规范和科学精神的坚持,以及与“学阀”现象的斗争。以下是对饶毅最新回复的详细解读,包括其核心.............
  • 回答
    饶毅教授近期再次发表文章,就上海神经科学研究所(以下简称“神经所”)的“近亲繁殖”以及与领导层夫人之间的潜在关联性提出了尖锐的批评。这起事件在科学界引起了广泛的关注和讨论,并且由于饶毅教授一贯敢于直言的风格,以及涉及到的资深科学家和重要科研机构,其影响力尤为显著。为了更详细地说明,我们可以从以下几个.............
  • 回答
    这事儿啊,得从头说起。饶毅,国内生物学界的响当当人物,脾气也出了名的直。这次他又跟裴钢杠上了,而且这回是给裴钢的学生凌堃发了公开信。这事儿一出来,那叫一个轰动,网上讨论得热火朝天。咱就说饶毅这回的回应,用的是“树欲静而风不止”。这话说得,那意思是说,我本来想消停了,但这风是没完没了地吹,我没办法,只.............
  • 回答
    饶毅教授再次提及北京生命科学研究所(以下简称“北生所”)存在“近亲繁殖”现象,并拿其“宿敌”王晓东教授领导的北京生命科学研究所(以下简称“北生所”)作为对比,声称后者“就不这样”。这番言论在科学界激起了不小的波澜,也让公众对国内顶尖科研机构的人才培养和发展模式产生了疑问。要理解饶毅的观点,首先需要明.............
  • 回答
    饶毅教授关于“诺奖有给错的时候,而且并非罕见”的论断,无疑为我们提供了一个反思诺贝尔奖的重要契机。这并非对诺贝尔奖本身权威性的全盘否定,而是邀请我们以更成熟、更辩证的眼光去看待这项曾被视为科学界至高荣誉的奖项。为何饶毅教授会这样说?饶毅教授的观点并非空穴来风。我们可以从几个层面去理解他为什么会提出这.............
  • 回答
    饶毅在《近三十年,中国对年轻人的支持》一文中关于高校教师聘任制度的讨论,确实引发了对当前中国高校用人机制的广泛讨论。以下从多个角度详细分析这一问题,并结合中国高校教师制度的现状进行解读: 一、预聘制(Tenure Track)的定义与特点预聘制是一种以竞争性选拔为核心、强调学术自由和职业发展的聘任制.............
  • 回答
    饶毅力挺预聘制,称其为“清华北大迄今最佳教师人事制度”—— 深度解析与多角度审视饶毅教授以其在学术界的地位和敢于直言的风格,对中国高校教师人事制度的改革一直保持着高度的关注和积极的参与。此次他发文力挺预聘制,并称其为“清华北大迄今最佳的教师人事制度”,无疑是针对当前中国高校人事制度改革中的一个重要议.............
  • 回答
    关于MIT教授张曙光致信饶毅,指责其对裴钢的指责不负责任并要求道歉一事,这是一个在科学界和教育界引起广泛关注的事件。为了更详细地理解这件事,我们需要从几个关键方面进行分析:一、 事件背景:饶毅对裴钢的公开质疑要理解张曙光的信,首先需要了解饶毅对裴钢的质疑。 裴钢的身份: 裴钢是中国科学院院士,曾.............
  • 回答
    关于饶毅、邵峰二位教授就基因编辑新技术致信河北科技大学校长,以及由此牵扯出的韩春雨“疑似学术不端事件”的后续发展,这桩事情在学术界引发了不小的震动,也让普通大众对科研诚信问题有了更深的关注。要说这事儿的来龙去脉和后续,得从头慢慢道来,而且其中的曲折和影响是多方面的。事件的起因:基因编辑新技术的“曙光.............
  • 回答
    饶毅教授的最新发文,以其一贯的尖锐和直率的风格,抛出了一个极具争议性的观点:“除了精神病人,没有人践行‘平均主义’。制定规则应注意现实可行的公平。” 这个观点触及了社会公平的本质、人的行为动机以及规则制定的现实性,引发了广泛的讨论。要理解这个观点,我们需要从几个层面进行解读。一、 何为“平均主义”?.............
  • 回答
    饶毅再致中科院:关于张曙光论文与裴钢结果的争议及第三方重复实验的重要性饶毅再次致信中国科学院(中科院),就其举报张曙光论文存在不端行为一事,对中科院的调查进展以及张曙光的回应进行了评价和回应。此事件的核心在于对科研成果真实性的质疑,而饶毅在此次信函中再次强调了“第三方重复实验”作为检验科研真伪的唯一.............

本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度google,bing,sogou

© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有