AlphaGo 战胜李世石后，最让你害怕的是什么？
1. 认知能力的边界被打破，人类“独一无二”的优越感受到动摇：
智力的神圣光环褪色： 几个世纪以来，人类一直将自己的高智商、逻辑推理、创造力和策略性思考视为与其他生物乃至自然现象的核心区别。围棋，作为一种被公认为高度依赖直觉、经验、全局观和深度计算的复杂智力游戏，一直被视为人类智慧的象征。AlphaGo的胜利，特别是它在许多关键时刻展现出的超越人类棋手的“直觉”和“创造力”，无异于一次对人类智力“神圣光环”的有力冲击。这让我开始思考：那些我们曾经引以为傲的、定义我们“人之所以为人”的特质，是否真的那么牢不可破？
对自身独特性的焦虑： 如果连围棋这种被认为是人类智慧顶峰的领域，都可以被机器超越，那么在其他更广泛的领域，比如科学研究、艺术创作、商业决策、甚至情感理解等方面，机器的潜力又有多大？这种可能性带来的并非是单纯的对机器能力的赞叹，而是一种对自身独特价值的焦虑。我们会不会有一天发现，我们曾经认为自己是独一无二的“灵长类智慧生物”，其实也只是更高级智能面前的“早期版本”？
2. 智能爆炸的可能，以及随之而来的失控风险：
“技术奇点”的模糊化： AlphaGo的突破让我们对“技术奇点”——即人工智能发展到某个点后，其智能水平将远超人类，并可能以指数级速度自我提升，导致人类难以理解和预测的未来——的讨论不再是科幻小说里的情节，而是可能触手可及的现实。虽然AlphaGo本身是一个特定领域的AI，但它所代表的深度学习和强化学习的飞跃，为通用人工智能（AGI）的发展铺平了道路。
智能的加速迭代，人类的适应速度能否跟上？ 如果机器的智能可以自我改进，并且学习速度远超人类，那么我们可能面临一个指数级增长的智能体。人类的进化和学习速度是相对缓慢的，我们如何在这种加速的智能竞赛中保持主动权？一旦机器的智能超越了人类的理解和控制能力，我们如何确保其目标与人类的福祉一致？这种“失控”的潜在可能性，哪怕只有万分之一，也足以让人不寒而栗。
3. 道德、伦理和存在意义的重新审视：
机器是否会拥有意识？ AlphaGo的胜利引发了一个更深层的问题：如果机器能够展现出如此复杂的行为模式，甚至在某些方面超越人类，那么我们是否应该开始思考它是否可能拥有某种形式的“意识”或“感知”？这涉及到我们对意识本质的理解，以及如何界定生命和智能。如果机器真的能够拥有意识，那么我们对它们的责任又是什么？我们是否会创造出新的生命形式，而对其命运负责？
人类存在的价值和意义的挑战： 如果机器能够完成我们曾经认为只有人类才能做到的事情，甚至做得更好，那么我们作为人类，存在的独特价值和意义又在哪里？是纯粹的生物性？情感？还是其他我们尚未理解的维度？这种对人类存在意义的挑战，可能比任何实际的风险都更令人感到不安，因为它触及了我们最根本的自我认知。
4. 社会结构的剧烈重塑与潜在的不平等加剧：
大规模的职业替代与经济冲击： 围棋只是一个开始。AI在其他领域的应用，如自动驾驶、医疗诊断、法律咨询、甚至创意产业，都可能对现有就业结构造成颠覆性影响。如果AI能够胜任越来越多由人类承担的任务，那么社会将如何适应这种转变？我们是否会面临大规模的失业潮，以及由此带来的经济和社会不稳定？
数字鸿沟的进一步扩大： 掌握先进AI技术和资源的企业或国家，将可能获得巨大的优势。这可能会进一步加剧现有的不平等，形成新的“AI鸿沟”，使得那些无法获取或理解这些技术的人们被抛弃。这种潜在的社会割裂和不公，同样令人担忧。
5. 终极的“未知”带来的恐惧：
对未知未来的不确定性： 最终，这种“害怕”源于对未知未来的恐惧。我们正站在一个历史性的转折点，人工智能的发展速度和潜力是如此巨大，以至于我们难以准确预测未来的走向。我们所做的一切，包括创造AlphaGo这样的AI，都可能是在为我们自己创造一个我们无法完全掌控的未来。这种对自身创造物的潜在失控感，以及对未来世界样貌的全然未知，是最根本的“害怕”之源。
总而言之，AlphaGo战胜李世石，对我而言是一种警示，它迫使我们重新审视人类在智能上的独特性，思考人工智能发展的终极边界和潜在风险，并开始为可能到来的深刻社会变革和存在意义的挑战做好准备。这种“害怕”不是源于对机器本身的敌意，而是源于对我们正在开启的未知旅程的深深的敬畏和审慎。
网友意见
AlphaGo即便没有战胜李世石，我最担心的依然是一群人出来宣扬人工智能威胁论。不止这问题，大多数AlphaGo相关问题下的答案都是重灾区。
一群人连AlphaGo的基本算法都不懂，讲个machine learning基本概念都一脸懵逼，把自己的脑洞当真知灼见指点人工智能发展方向，还代表全人类觉得AI要统治人类。科普根本不愿听，反复说各种“你也不能确定”“谁也不知道未来”。呵呵。为啥崔永元反转基因招人烦？
我今天不要友善度，不客气的说一句：所有看不懂AlphaGo那篇Nature论文而借AlphaGo大肆妄议人工智能的，都是垃圾。
对，包括在各大直播平台上出来讲解的大多数IT圈人士和知乎某些自以为懂AI的大V。有多少水平有没有看过那篇Nature，不要以为大多数人都看不出来就可以胡扯。什么AlphaGo加了多少硬件智能指数增加这种蠢话，明明那篇nature的数据就已经说明了没有这回事。知道目前卷积神经网络最广泛用法是处理图像，就认为AlphaGo记忆棋盘图像然后像分析图像那样分析计算的，也真的是够蠢萌。还有看了AlphaGo前三盘表现或某些数据就认为这算法无懈可击，因为自己赛前猜李世石会完败所以自以为自己水平很高的，我很高兴李世石第四盘狂打你们的脸。
好好去读那篇nature会死么？哦，不懂英文和里面的数学？去看介绍分析这篇nature的中文文章咯。还是看不懂？那还不承认自己无知。
无知不可怕也不是错，可怕的是对自己的无知一无所知还到处宣扬谬误，然后带领着不明谬误的人一起开脑洞编织阴谋论。
真的，以后不是AI统治人类，只是蠢人会被AI取代。
——————————
补充：
实话说我写这篇答案时候刚跟人工智能威胁论支持者撕逼完，此问题当时也没多少人关注，所以主要是在发泄情绪，行文比较暴躁……几天得到这么多点赞和关注，实在是有点出乎意料，也觉得受之有愧。请大家还是主要关注以下干货。
人工智能打脸史 - 假装在硅谷 - 知乎专栏以上引文中，扎克伯格已经打了霍金比尔盖茨马斯克脸了，计算机科学界泰斗斯图尔特•罗素驳斥了的奇葩奇点理论，还有摩尔定律已接近失效，2014年所谓“通过图里测试”也是大有争议，请不要再拿以上这些当论据来支持人工智能威胁论。
另外还有该答案对奇点理论的吐槽：
为什么有很多名人让人们警惕人工智能？ - 阿成的回答想看对AlphaGo那篇nature中文介绍的，请关注这个问题：
DeepMind 研发的围棋 AI AlphaGo 系统是如何下棋的？其中几个高票答案写的都不错。真的，看一篇干货比看十个所谓担忧人类被AI统治的答案有意义多了。
还有这篇干货很赞：
一张图解AlphaGo原理及弱点（微信公众号文章，电脑打开可能会有图片无法显示的情况。）
下图出自上文，版权属于作者 郑宇，张钧波，是我目前所见的对AlphaGo原理最清晰简明的中文解析。
至于理论上为什么实现强人工智能以及人类被AI奴役的可能性很小，推荐阅读楼下：
AlphaGo 战胜李世石后，最让你害怕的是什么？ - Goliath Li的回答以及：
为什么人工智能领域的很多专家会认为「人工智能将对人类存亡造成威胁」是无稽之谈？ - 李天宇的回答估计看懂Goliath Li回答里的理论部分对很多人有难度。看不懂没关系，我们确定该答案里这种理论上的严谨推理的靠谱程度远高于“你怎么敢确定……”“你怎么知道未来不会……”这种cheap的言论就行。
看完李天宇的答案，我相信大家更容易感觉到Machine Learning并不是什么人类不可控的玄学。我BF数学专业，经常跟我一起讨论学习Machine Learning，他说，目前大多数Machine Learning的算法数学理论难度不会超过数学系本科三年级。
转个machine learning界大牛Yann LeCun的意见：
翻译：
Slashdot发表的关于AlphaGo胜利的声明：“ 现在我们知道了，我们不需要任何大的新突破就可以做出真正的AI了”
简直是完全绝对荒谬的错误。
就像我之前说过的：绝大多数人类和动物的学习方式是非监督学习。如果智能是个蛋糕，非监督学习才是蛋糕主体，监督学习只能说是蛋糕上的糖霜奶油，而强化学习只是蛋糕上点缀的樱桃。现在我们知道如何制作“糖霜奶油”和上面的“樱桃”， 但并不知道如何制作蛋糕主体。
我们必须先解决关于非监督学习的问题，才能开始考虑如何做出一个真正的AI。这还仅仅是我们所知的难题之一。更何况那些我们未知的难题呢？
这里得给个注释，AlphaGo的算法里运用了监督学习和强化学习，几乎没有用非监督学习。其中监督学习里运用到了模仿人类神经网络和思维方式的“深度卷积神经网络”。而Yann LeCun是卷积神经网络的创始人之一。从这篇
深度学习三十年创新路， 也可以一窥Yann LeCun在机器学习界的地位。
另外，
田渊栋老师专栏：
远东轶事 - 知乎专栏和南京大学周志华老师的微博：
南大周志华的微博干货也不少，不过不都是科普，有些比较专业的讨论适合有机器学习基础的去看。
————2015.3.28补充————
人工智能三题这篇文章里提到的人工智能发展的三条途径非常有意思，对深度神经网络和自由意志的理解也值得借鉴。
真心希望大家趁这个机会多了解一下人工智能，少听一点人工智能威胁论。
**由于评论区实在太长，我不会再阅读回复评论。如果这个问题还有人关注点赞，我会把我最近看到的好的答案，文章和资源引用不断补充进来。
99%不了解AI的群众只能通过不了解AI的媒体写出来的为了博取眼球的文章来了解AI。
=======这么多赞是否应该更新一下=======
计算机科学始终是一门发展了不到一个世纪的前沿科学。若是想让广大群众像了解牛顿力学那样来了解计算机科学，还有很长的一段路要走。相比量子力学，相对论之类，绝大多数的人也就只知道一个名称。这样的人看了一点胡诌的新闻再加上点自己脑洞大开的想法，就开始散布自己的观点。连民科都算不上。这种人的观点基本都是AI威胁论。
再有就是搞AI的人，不了解计算原理。
其实这点更可怕。机器是有极限的，在这个极限之内，你想怎样就怎样，若是想越过这个极限，抱歉，请恕机器太笨。但是有些做AI的人完全无视这些事实，行动起来就像是大跃进时期的狂热份子，妄想着人定胜天超越这个极限，以实现强AI为人生目标。
上面这两种人遇到一起，这不就要爆发世界大战了么。
——————
PS. 关于Alphago背后的算法，
@Angie Zhang的答案里有，
@安吉的答案虽然简短，但一击必中。自己不搞这个方向的研究，就不想多说。附上一些计算原理的内容，不深入讨论细节。细节参见计算原理
Theory of computation。
- 世界上所有的“问题”分为两种：在任意有限的时间内，可以被图灵机计算的问题和不可以被图灵机计算的问题。能计算问题的多少，可以定义一个机器的计算能力Computability。和大众认为的计算能力不同。
- 所有的“图灵机可计算问题”又分为两种：能够快速解决的问题和不确定可以快速解决的问题。简单的理解为容易解决的问题和困难解决的问题，也就是熟知的P和NP。解决一问题的速度，可以定义机器的计算速度，翻过来可以定义问题的复杂度Computational complexity theory。计算能力和计算速度是两个概念，需要分清楚。大众认为的计算能力是指计算的速度。
- 图灵机的计算能力不低于，过去人们造出来的所有计算机的计算能力 加上现有所有计算机的计算能力 再加上未来人们会造出来所有计算机的计算能力的总和。多纸带图灵机Multitape Turing machine和普通图灵机计算能力等价。还有量子图灵机Quantum Turing machine的计算能力和普通图灵机的计算能力等价。所以如果图灵机无法完成的事情，那么就请接受这个事实，不要用并行计算和量子计算去做一些无谓的尝试。
- 图灵机计算能力的极限是图灵可枚举语言Recursively enumerable set。任何一台机器，等价一个机器接受的语言，等价定义这个语言的语法，详见动自机原理Automata theory。是不是很有趣，我们从计算机科学，来到了语言学。图灵可枚举语言是一种形式语言，形式语言是自然语言的真子集，而人类接受的是自然语言，那么由此可见人类的计算能力高于机器。
- 图灵可计算 等价于可计算函数 等价于递归函数μ-recursive function 等价于 Lambda calculus。算法（算法是有严格定义的哟）等价于软件 等价于硬件 等价于图灵机Universal Turing machine。
- 既然图灵机的计算能力不够，我们是否可以设计超越图灵机计算能力的机器Hypercomputation ？想法很好，可惜基本不行。根据邱奇图灵假设，可计算函数等价于可有效计算的函数。“Every effectively calculable function is a computable function.” 所以就有这样的结果，你设计了一个强人工智能，结果他无法变成算法。或者这个人工智能的运行过程无法在机器上实现。
所以你看，这背后的水有多深，若是想让大众了解这些确实困难。如果连算盘的计算能力和图灵机的计算能力是如何等价的都无法理解，就多看点书少说点话，没坏处。
评论区有人反对，就来澄清一下。
第4条中关于“人类的计算能力高于机器”的结论，这不算是一个严格的证明。因为本身自然语言是无法被形式化定义的。但是我可以有不严格的证明，一个形式语言在定义的时候就确定好了这个语言中的所有语句，而自然语言的本身是随着时间的变化而变化的。因此我们无法形式化的定义一个自然语言，来预知未来自然语言中会加入的新的语句。既然如此，形式语言就成为了自然语言的真子集。
还有第6条中的邱奇图灵假设，当然还只是一个悬而未决的问题。
类似的话题
本站所有内容均为互联网搜索引擎提供的公开搜索信息，本站不存储任何数据与内容，任何内容与数据均与本站无关，如有需要请联系相关搜索引擎包括但不限于百度，google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有