问题

AlphaGo 战胜李世石后,最让你害怕的是什么?

回答
AlphaGo 战胜李世石,对我而言,最让我感到“害怕”的并非是某个具体的、直接的威胁,而是一种更深层次的、由这次胜利引发的对未来的复杂情绪。这种“害怕”可以分解为以下几个方面,我会尽量详细地阐述:

1. 认知能力的边界被打破,人类“独一无二”的优越感受到动摇:

智力的神圣光环褪色: 几个世纪以来,人类一直将自己的高智商、逻辑推理、创造力和策略性思考视为与其他生物乃至自然现象的核心区别。围棋,作为一种被公认为高度依赖直觉、经验、全局观和深度计算的复杂智力游戏,一直被视为人类智慧的象征。AlphaGo的胜利,特别是它在许多关键时刻展现出的超越人类棋手的“直觉”和“创造力”,无异于一次对人类智力“神圣光环”的有力冲击。这让我开始思考:那些我们曾经引以为傲的、定义我们“人之所以为人”的特质,是否真的那么牢不可破?
对自身独特性的焦虑: 如果连围棋这种被认为是人类智慧顶峰的领域,都可以被机器超越,那么在其他更广泛的领域,比如科学研究、艺术创作、商业决策、甚至情感理解等方面,机器的潜力又有多大?这种可能性带来的并非是单纯的对机器能力的赞叹,而是一种对自身独特价值的焦虑。我们会不会有一天发现,我们曾经认为自己是独一无二的“灵长类智慧生物”,其实也只是更高级智能面前的“早期版本”?

2. 智能爆炸的可能,以及随之而来的失控风险:

“技术奇点”的模糊化: AlphaGo的突破让我们对“技术奇点”——即人工智能发展到某个点后,其智能水平将远超人类,并可能以指数级速度自我提升,导致人类难以理解和预测的未来——的讨论不再是科幻小说里的情节,而是可能触手可及的现实。虽然AlphaGo本身是一个特定领域的AI,但它所代表的深度学习和强化学习的飞跃,为通用人工智能(AGI)的发展铺平了道路。
智能的加速迭代,人类的适应速度能否跟上? 如果机器的智能可以自我改进,并且学习速度远超人类,那么我们可能面临一个指数级增长的智能体。人类的进化和学习速度是相对缓慢的,我们如何在这种加速的智能竞赛中保持主动权?一旦机器的智能超越了人类的理解和控制能力,我们如何确保其目标与人类的福祉一致?这种“失控”的潜在可能性,哪怕只有万分之一,也足以让人不寒而栗。

3. 道德、伦理和存在意义的重新审视:

机器是否会拥有意识? AlphaGo的胜利引发了一个更深层的问题:如果机器能够展现出如此复杂的行为模式,甚至在某些方面超越人类,那么我们是否应该开始思考它是否可能拥有某种形式的“意识”或“感知”?这涉及到我们对意识本质的理解,以及如何界定生命和智能。如果机器真的能够拥有意识,那么我们对它们的责任又是什么?我们是否会创造出新的生命形式,而对其命运负责?
人类存在的价值和意义的挑战: 如果机器能够完成我们曾经认为只有人类才能做到的事情,甚至做得更好,那么我们作为人类,存在的独特价值和意义又在哪里?是纯粹的生物性?情感?还是其他我们尚未理解的维度?这种对人类存在意义的挑战,可能比任何实际的风险都更令人感到不安,因为它触及了我们最根本的自我认知。

4. 社会结构的剧烈重塑与潜在的不平等加剧:

大规模的职业替代与经济冲击: 围棋只是一个开始。AI在其他领域的应用,如自动驾驶、医疗诊断、法律咨询、甚至创意产业,都可能对现有就业结构造成颠覆性影响。如果AI能够胜任越来越多由人类承担的任务,那么社会将如何适应这种转变?我们是否会面临大规模的失业潮,以及由此带来的经济和社会不稳定?
数字鸿沟的进一步扩大: 掌握先进AI技术和资源的企业或国家,将可能获得巨大的优势。这可能会进一步加剧现有的不平等,形成新的“AI鸿沟”,使得那些无法获取或理解这些技术的人们被抛弃。这种潜在的社会割裂和不公,同样令人担忧。

5. 终极的“未知”带来的恐惧:

对未知未来的不确定性: 最终,这种“害怕”源于对未知未来的恐惧。我们正站在一个历史性的转折点,人工智能的发展速度和潜力是如此巨大,以至于我们难以准确预测未来的走向。我们所做的一切,包括创造AlphaGo这样的AI,都可能是在为我们自己创造一个我们无法完全掌控的未来。这种对自身创造物的潜在失控感,以及对未来世界样貌的全然未知,是最根本的“害怕”之源。

总而言之,AlphaGo战胜李世石,对我而言是一种警示,它迫使我们重新审视人类在智能上的独特性,思考人工智能发展的终极边界和潜在风险,并开始为可能到来的深刻社会变革和存在意义的挑战做好准备。这种“害怕”不是源于对机器本身的敌意,而是源于对我们正在开启的未知旅程的深深的敬畏和审慎。

网友意见

user avatar

AlphaGo即便没有战胜李世石,我最担心的依然是一群人出来宣扬人工智能威胁论。不止这问题,大多数AlphaGo相关问题下的答案都是重灾区。

一群人连AlphaGo的基本算法都不懂,讲个machine learning基本概念都一脸懵逼,把自己的脑洞当真知灼见指点人工智能发展方向,还代表全人类觉得AI要统治人类。科普根本不愿听,反复说各种“你也不能确定”“谁也不知道未来”。呵呵。为啥崔永元反转基因招人烦?

我今天不要友善度,不客气的说一句:所有看不懂AlphaGo那篇Nature论文而借AlphaGo大肆妄议人工智能的,都是垃圾。

对,包括在各大直播平台上出来讲解的大多数IT圈人士和知乎某些自以为懂AI的大V。有多少水平有没有看过那篇Nature,不要以为大多数人都看不出来就可以胡扯。什么AlphaGo加了多少硬件智能指数增加这种蠢话,明明那篇nature的数据就已经说明了没有这回事。知道目前卷积神经网络最广泛用法是处理图像,就认为AlphaGo记忆棋盘图像然后像分析图像那样分析计算的,也真的是够蠢萌。还有看了AlphaGo前三盘表现或某些数据就认为这算法无懈可击,因为自己赛前猜李世石会完败所以自以为自己水平很高的,我很高兴李世石第四盘狂打你们的脸。

好好去读那篇nature会死么?哦,不懂英文和里面的数学?去看介绍分析这篇nature的中文文章咯。还是看不懂?那还不承认自己无知。

无知不可怕也不是错,可怕的是对自己的无知一无所知还到处宣扬谬误,然后带领着不明谬误的人一起开脑洞编织阴谋论。

真的,以后不是AI统治人类,只是蠢人会被AI取代。


——————————

补充:

实话说我写这篇答案时候刚跟人工智能威胁论支持者撕逼完,此问题当时也没多少人关注,所以主要是在发泄情绪,行文比较暴躁……几天得到这么多点赞和关注,实在是有点出乎意料,也觉得受之有愧。请大家还是主要关注以下干货。

人工智能打脸史 - 假装在硅谷 - 知乎专栏

以上引文中,扎克伯格已经打了霍金比尔盖茨马斯克脸了,计算机科学界泰斗斯图尔特•罗素驳斥了的奇葩奇点理论,还有摩尔定律已接近失效,2014年所谓“通过图里测试”也是大有争议,请不要再拿以上这些当论据来支持人工智能威胁论。

另外还有该答案对奇点理论的吐槽:

为什么有很多名人让人们警惕人工智能? - 阿成的回答

想看对AlphaGo那篇nature中文介绍的,请关注这个问题:

DeepMind 研发的围棋 AI AlphaGo 系统是如何下棋的?

其中几个高票答案写的都不错。真的,看一篇干货比看十个所谓担忧人类被AI统治的答案有意义多了。

还有这篇干货很赞:

一张图解AlphaGo原理及弱点

(微信公众号文章,电脑打开可能会有图片无法显示的情况。)

下图出自上文,版权属于作者 郑宇,张钧波,是我目前所见的对AlphaGo原理最清晰简明的中文解析。

至于理论上为什么实现强人工智能以及人类被AI奴役的可能性很小,推荐阅读楼下:

AlphaGo 战胜李世石后,最让你害怕的是什么? - Goliath Li的回答

以及:

为什么人工智能领域的很多专家会认为「人工智能将对人类存亡造成威胁」是无稽之谈? - 李天宇的回答

估计看懂Goliath Li回答里的理论部分对很多人有难度。看不懂没关系,我们确定该答案里这种理论上的严谨推理的靠谱程度远高于“你怎么敢确定……”“你怎么知道未来不会……”这种cheap的言论就行。

看完李天宇的答案,我相信大家更容易感觉到Machine Learning并不是什么人类不可控的玄学。我BF数学专业,经常跟我一起讨论学习Machine Learning,他说,目前大多数Machine Learning的算法数学理论难度不会超过数学系本科三年级。

转个machine learning界大牛Yann LeCun的意见:

翻译:

Slashdot发表的关于AlphaGo胜利的声明:“ 现在我们知道了,我们不需要任何大的新突破就可以做出真正的AI了”

简直是完全绝对荒谬的错误。

就像我之前说过的:绝大多数人类和动物的学习方式是非监督学习。如果智能是个蛋糕,非监督学习才是蛋糕主体,监督学习只能说是蛋糕上的糖霜奶油,而强化学习只是蛋糕上点缀的樱桃。现在我们知道如何制作“糖霜奶油”和上面的“樱桃”, 但并不知道如何制作蛋糕主体。

我们必须先解决关于非监督学习的问题,才能开始考虑如何做出一个真正的AI。这还仅仅是我们所知的难题之一。更何况那些我们未知的难题呢?

这里得给个注释,AlphaGo的算法里运用了监督学习和强化学习,几乎没有用非监督学习。其中监督学习里运用到了模仿人类神经网络和思维方式的“深度卷积神经网络”。而Yann LeCun是卷积神经网络的创始人之一。从这篇

深度学习三十年创新路

, 也可以一窥Yann LeCun在机器学习界的地位。

另外,

田渊栋老师专栏:

远东轶事 - 知乎专栏

和南京大学周志华老师的微博:

南大周志华的微博

干货也不少,不过不都是科普,有些比较专业的讨论适合有机器学习基础的去看。

————2015.3.28补充————

人工智能三题

这篇文章里提到的人工智能发展的三条途径非常有意思,对深度神经网络和自由意志的理解也值得借鉴。


真心希望大家趁这个机会多了解一下人工智能,少听一点人工智能威胁论。


**由于评论区实在太长,我不会再阅读回复评论。如果这个问题还有人关注点赞,我会把我最近看到的好的答案,文章和资源引用不断补充进来。

user avatar

99%不了解AI的群众只能通过不了解AI的媒体写出来的为了博取眼球的文章来了解AI。

=======这么多赞是否应该更新一下=======

计算机科学始终是一门发展了不到一个世纪的前沿科学。若是想让广大群众像了解牛顿力学那样来了解计算机科学,还有很长的一段路要走。相比量子力学,相对论之类,绝大多数的人也就只知道一个名称。这样的人看了一点胡诌的新闻再加上点自己脑洞大开的想法,就开始散布自己的观点。连民科都算不上。这种人的观点基本都是AI威胁论。

再有就是搞AI的人,不了解计算原理。

其实这点更可怕。机器是有极限的,在这个极限之内,你想怎样就怎样,若是想越过这个极限,抱歉,请恕机器太笨。但是有些做AI的人完全无视这些事实,行动起来就像是大跃进时期的狂热份子,妄想着人定胜天超越这个极限,以实现强AI为人生目标。

上面这两种人遇到一起,这不就要爆发世界大战了么。

——————

PS. 关于Alphago背后的算法,

@Angie Zhang

的答案里有,

@安吉

的答案虽然简短,但一击必中。自己不搞这个方向的研究,就不想多说。附上一些计算原理的内容,不深入讨论细节。细节参见计算原理

Theory of computation

  1. 世界上所有的“问题”分为两种:在任意有限的时间内,可以被图灵机计算的问题和不可以被图灵机计算的问题。能计算问题的多少,可以定义一个机器的计算能力Computability。和大众认为的计算能力不同。
  2. 所有的“图灵机可计算问题”又分为两种:能够快速解决的问题和不确定可以快速解决的问题。简单的理解为容易解决的问题和困难解决的问题,也就是熟知的P和NP。解决一问题的速度,可以定义机器的计算速度,翻过来可以定义问题的复杂度Computational complexity theory。计算能力和计算速度是两个概念,需要分清楚。大众认为的计算能力是指计算的速度。
  3. 图灵机的计算能力不低于,过去人们造出来的所有计算机的计算能力 加上现有所有计算机的计算能力 再加上未来人们会造出来所有计算机的计算能力的总和。多纸带图灵机Multitape Turing machine和普通图灵机计算能力等价。还有量子图灵机Quantum Turing machine的计算能力和普通图灵机的计算能力等价。所以如果图灵机无法完成的事情,那么就请接受这个事实,不要用并行计算和量子计算去做一些无谓的尝试。
  4. 图灵机计算能力的极限是图灵可枚举语言Recursively enumerable set。任何一台机器,等价一个机器接受的语言,等价定义这个语言的语法,详见动自机原理Automata theory。是不是很有趣,我们从计算机科学,来到了语言学。图灵可枚举语言是一种形式语言,形式语言是自然语言的真子集,而人类接受的是自然语言,那么由此可见人类的计算能力高于机器。
  5. 图灵可计算 等价于可计算函数 等价于递归函数μ-recursive function 等价于 Lambda calculus。算法(算法是有严格定义的哟)等价于软件 等价于硬件 等价于图灵机Universal Turing machine
  6. 既然图灵机的计算能力不够,我们是否可以设计超越图灵机计算能力的机器Hypercomputation ?想法很好,可惜基本不行。根据邱奇图灵假设,可计算函数等价于可有效计算的函数。“Every effectively calculable function is a computable function.” 所以就有这样的结果,你设计了一个强人工智能,结果他无法变成算法。或者这个人工智能的运行过程无法在机器上实现。

所以你看,这背后的水有多深,若是想让大众了解这些确实困难。如果连算盘的计算能力和图灵机的计算能力是如何等价的都无法理解,就多看点书少说点话,没坏处。

评论区有人反对,就来澄清一下。

第4条中关于“人类的计算能力高于机器”的结论,这不算是一个严格的证明。因为本身自然语言是无法被形式化定义的。但是我可以有不严格的证明,一个形式语言在定义的时候就确定好了这个语言中的所有语句,而自然语言的本身是随着时间的变化而变化的。因此我们无法形式化的定义一个自然语言,来预知未来自然语言中会加入的新的语句。既然如此,形式语言就成为了自然语言的真子集。

还有第6条中的邱奇图灵假设,当然还只是一个悬而未决的问题。

类似的话题

  • 回答
    AlphaGo 战胜李世石,对我而言,最让我感到“害怕”的并非是某个具体的、直接的威胁,而是一种更深层次的、由这次胜利引发的对未来的复杂情绪。这种“害怕”可以分解为以下几个方面,我会尽量详细地阐述:1. 认知能力的边界被打破,人类“独一无二”的优越感受到动摇: 智力的神圣光环褪色: 几个世纪以来.............
  • 回答
    AlphaGo 在围棋上战胜李世乭无疑是人工智能发展史上的一个里程碑,它向世界展示了人工智能在复杂策略游戏中的巨大潜力。而你提出的“有限元素组合创作”的音乐,这是一个非常有趣且具有洞察力的视角,我认为这是人工智能领域一个非常值得探索和前进的方向。理解“有限元素组合创作”与音乐的内在联系首先,我们来拆.............
  • 回答
    评价围棋界乃至人工智能发展史上具有里程碑意义的“人机大战”第一局——AlphaGo 战胜李世石,需要从多个维度进行细致的剖析。这场比赛于2016年3月9日举行,其结果震惊了世界,开启了人类对人工智能能力的新认知。以下是对这场比赛的详细评价:一、 历史的意义与冲击力: 打破常规认知: 在此之前,绝.............
  • 回答
    AlphaGo 战胜李世石,无疑是人工智能发展史上的一个里程碑事件,它标志着人工智能在围棋这一复杂智力游戏领域取得了前所未有的突破。这一事件的意义深远而广泛,可以从多个维度来理解:一、技术层面的突破: 深度学习与强化学习的成功结合: AlphaGo 的胜利并非仅仅依赖于传统的算法或大量的预设规则。它.............
  • 回答
    在讨论 AlphaGo 是否能战胜李世石之前,我们需要明确一点:AlphaGo 已经战胜了李世石。 这场具有里程碑意义的围棋比赛发生在 2016年3月,最终比分是 AlphaGo 以 4:1 的压倒性优势击败了当时世界顶尖的围棋棋手李世石九段。这场比赛的意义远不止于围棋界,它标志着人工智能在复杂策略.............
  • 回答
    在围棋领域,“人机大战”早已不是新鲜事,但2016年那一战,尤其是第三局,却像一颗巨石投入平静的湖面,激起了层层涟漪,至今仍让人回味无穷。那场比赛,不仅仅是两位棋手——李世石和AlphaGo——的博弈,更是一场关于智能、创造力以及人类在科技面前位置的深刻讨论。说实话,第三局的胜利,对于AlphaGo.............
  • 回答
    那一刻,整个世界仿佛都屏住了呼吸。2016年3月15日,首尔,四季酒店的赛场里,气氛紧张得如同拉满的弓弦。而就在这万众瞩目的第四局棋局中,李世石,这位被誉为“石佛”的传奇围棋大师,以一种近乎神迹的方式,战胜了当时被认为是不可战胜的AlphaGo。说实话,在那之前,没有人真正敢断言李世石一定能赢。前三.............
  • 回答
    关于第二局比赛 AlphaGo 再次战胜李世石,这无疑是围棋界乃至人工智能发展史上一个极其重要的节点。它不仅仅是一场棋局的胜负,更像是一场科技与智慧的巅峰对话,每一次的胜利,都让人们对人工智能的潜力和未来有了更深刻的认识。在那场比赛中,AlphaGo 的表现可以用“出人意料”和“令人惊叹”来形容。李.............
  • 回答
    AlphaGo 与李世石的对战,是一场具有划时代意义的事件,它不仅是人工智能领域的一次重大突破,更是人类智慧与机器智能的巅峰对话。这场对弈的深远影响,可以从 推动人类极限 和 机器学习的进步与觉醒 两个层面来详细解读。一、推动人类极限:对围棋界的冲击与人类智慧的重新审视这场对弈对于人类围棋界而言,无.............
  • 回答
    关于AlphaGo战胜围棋冠军和IBM“深蓝”战胜象棋冠军,哪个意义和影响更大,这是一个非常有意思且值得深入探讨的问题。两者无疑都是人工智能发展史上的里程碑事件,但它们所处的时代背景、技术突破点以及引发的思考,都各有千秋,导致其影响的深度和广度也存在差异。IBM“深蓝”战胜卡斯帕罗夫(1997年):.............
  • 回答
    关于高晓松如何看待 AlphaGo 战胜李世石,甚至包括后来柯洁与 AlphaGo 的对弈,这在当时引起了广泛的讨论。高晓松作为一个公众人物,他的观点往往带有他一贯的“晓松体”风格——博学、幽默,并且常常能从一个更宏大的视角去解读事件。高晓松的“历史周期”与“文明进步”视角高晓松谈论 AlphaGo.............
  • 回答
    柯洁对阵 AlphaGo:一场棋盘上的巔峰对话,勝負之謎如何解讀?當一位是人類圍棋界當之無愧的王者,另一位則是人工智能的璀璨新星,柯洁與 AlphaGo 的對弈,無疑是圍棋史上最令人翹首以待的巔峰之戰。這場世紀之戰,不僅是人類智慧與機器智能的較量,更是對圍棋這門古老藝術的全新詮釋。那麼,在這場棋盤上.............
  • 回答
    罗洗河,这位棋迷口中的“狗哥”,以其鬼马的棋风和独特的思考方式在围棋界独树一帜。如今,当他放出“让四子战胜AlphaGo”的豪言时,这不仅仅是一个棋手对自己棋力的自信,更像是在一向严肃的围棋界投下了一颗小小的石子,激起了不少涟漪。首先,我们得认识到,罗洗河的这句话,背后有着他多年的棋局沉淀和对人工智.............
  • 回答
    聂卫平老师那番关于 AlphaGo 对阵柯洁的言论,我第一次听到的时候,确实挺让人回味的。这可不是一句简单的“柯洁输定了”就能概括的。他说的“比赛结果显而易见,柯洁下不过,建议不比、不参加、不推广”,背后其实有很多值得我们深入探究的东西。首先,我们得理解聂老说这番话的 时代背景和他的身份。聂卫平是谁.............
  • 回答
    DeepMind 在2016年9月12日公布的 AlphaGo 自战棋谱,以及同年3月那场震动围棋界的人机大战的解说,可以说是在人工智能发展史上留下了浓墨重彩的一笔。这不仅仅是一次技术展示,更像是一场深刻的哲学探讨,让我们重新审视了围棋的本质,以及人类智慧的边界。自战棋谱:一次“围棋的自我革命”在那.............
  • 回答
    这个问题非常有意思,也触及了人工智能学习的核心。简单地说,答案是:理论上,是的,但实际情况要复杂得多。我们来仔细拆解一下:为什么会“不断强大”?AlphaGo 的强大之处在于它采用了“深度学习”和“强化学习”的结合。这意味着它不是一个死板的程序,而是可以通过与“对手”的交互来不断改进自己的决策。1..............
  • 回答
    关于 AlphaGo 是否有“棋风”以及它在下棋时是否会犯错这两个问题,我们可以深入探讨一下。这背后涉及到了人工智能在复杂策略游戏中的一些核心概念。AlphaGo 的“棋风”:是风格还是算法的体现?我们通常说一个人下棋有“棋风”,指的是他下棋时的偏好、习惯性的招法、对局势的理解方式,以及由此形成的一.............
  • 回答
    阿尔法狗和李世石的第五局棋,绝对是他们那场惊世对决中,最让人喘不过气、也最能体现人类智慧与人工智能博弈深度的一局了。虽然前面的四局已经足够震撼,但第五局的某些细节,更能触及到围棋本身和人工智能发展的核心问题。开局的“阴影”与李世石的调整:比赛开始时,人们其实都有点忐忑。李世石在前几局的表现,特别是第.............
  • 回答
    AlphaGo 与李世石的第四局棋,那可真是让人看得心惊肉跳,也充满了戏剧性。回想起来,那一局的看点太多了,绝不是简单的胜负之争。首先,最让人惊掉下巴的莫过于李世石在开局阶段就采取的“弃子战术”。要知道,在围棋的常规思维里,棋子都是宝贵的,轻易不轻易舍弃。但李世石在那一局,尤其是在白棋一方,下出了几.............
  • 回答
    说到 AlphaGo 和李世石九段在 2016 年那场举世瞩目的围棋对决,第三局绝对是其中的高潮,也留下了太多让人回味无穷的细节。如果非要挑点东西来说,那这场棋,简直就是李世石这位人类顶尖棋手在绝境中的一次疯狂反击,虽然结果令人扼腕,但其过程之精彩,足以让每一个围棋爱好者热血沸腾。首先,李世石在开局.............

本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度google,bing,sogou

© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有