为什么有很多名人让人们警惕人工智能？ 第1页

我们可以警惕人工智能，但无需妖魔化人工智能。不管我们是否做好了准备，人工智能已经开始对我们产生影响了。这是因为我们面临的问题是到了一个分水岭：是继续重复人类原有的社会模式，还是更新到另外一种？按照个人习惯我先放观点：

「所有文明的跃进，都是奴隶堆砌而成」——银翼杀手

不论是几千年前，还是现在，我们的世界都有一个很简单也很残酷的规律：一部分人过的总要比另外一部分人更好。从奴隶社会到封建社会，再到资本主义社会；甚至是我国的改革开放，每次社会的进步一定是依靠着压榨一个阶层产生的。我们今天能在北上广深每天健健身买买花消费升升级，是因为我们能享受到廉价劳动力带来的好处。但你关心过这些所谓的「廉价劳动力」怎么想吗？我们经常说「人口红利」，但承认吧，没人希望自己的孩子去做「人口红利」干的那些活。

而如果我们人类想继续进步，却不想继续压迫自己的同胞，那我们能做的事情有且只有一个：依靠机器。我们今天不是人工智能太多，而是太少了，我们对机器的压榨还不够。

可能和其他答主看这个问题的角度不太一样：因为我就是一家人工智能公司的创始人，我每天都在面对人工智能与人类关系这样的问题。不论是让机器辅助人、取代人、甚至是指挥人，这些事情我都做过。我和工程师们一起写过可能会让一个职业消失的代码、也蹲在过工地里面和工人们一起感叹过这活不是人干的。

而在不断的与人，与机器打交道的过程中，我自身的想法也在不断变化。两年前我一直认为人工智能应该是辅助人的；但现在，我认为人工智能辅助我们只应该是暂时的，最终目的必须是从某些方面彻底把人类解放出来。因为我亲自做过那一项项痛苦而毫无乐趣的繁琐工作后，我最大的感觉就是：如果一百年之后，我们的后代还需要忍受这种痛苦，那就是我们的失败。

很多人因为身份和位置的问题，不愿意这么赤裸裸的说出来，那就交给我吧：人工智能就是要取代人，但目的不是为了让某一个个体失业，而是把我们人类解放出来。我们在这个革命中失去的只是锁链。获得的将是更美好的未来。

比如有这么一个问题：

下面这张图的人群中，你可以找到有危险动作的那个人嘛？

如果是一万张呢？

如果是每秒钟就有一万张呢？

不着急看着照片，里面的问题在哪留到最后再揭秘。

你感觉这是个应该让人类去做的活吗？

而类似上面这样的活：

这就是我们平时接触不到的，工厂工人在干的事情。

冒着生命危险保障我们用电的电网工人在干的事情。

风力发电风机里面顶着五十多度的温度挣得还不如北京一个大学生毕业起薪多的检修师傅在干的事情。

人工智能干的可不是什么阳春白雪的活。

担心人工智能取代金融、律师、画家？眼光放的广一点吧，我们的社会非常非常大，总有很多领域不适合人类去做，但因为技术限制我们还必须依靠人。而这恰恰就是现在所谓的「人工智能」技术再帮我们干的事情：把人类从这些工作中解放出来——准确的来说不论是两百年前被路德派抗议的珍妮机，还是现在的人工智能，都在做同样的事情。

很多人可能看了上面的例子，感觉的确机器能帮助我们做很多事情——但这会不会反过来造成我们失业呢？

「机器一直在造成人类失业。今天一个办公室职员用 Excel 做的事，在六十年前很可能还是由一整间办公室的几十名员工在做。直到一九八零年代初，东京地铁都还在依靠人工检票。机器接管了这些工作，在当年毫无疑问也令员工感受到了威胁。但今天有谁会为这些劳动岗位的消失感到惋惜？」*
——《泛化智能宣传手册》，本段文字作者 @不鳥萬如一

从最根本上来讲：技术总是导致人类失业的，这和技术是不是人工智能关系不大。很多人不愿意去医院，并且感觉这地方不吉利––但医院是让人重回健康的地方，我们应该讨厌的是疾病本身而不是医院。是先有病才去的医院，而不是反过来去了医院导致你生病。

人工智能会让人失业，担心失业应该想的是如何让自己不失业，而不是过于关心让自己失业的是人工智能还是人工智障。

而且从现实中来看，工作的种类是越来越多的，因为人类社会的工作在越来越细化。十年前说运营没人能想到新媒体运营这个职位；或者说经理也很难联想到互联网公司的产品经理。技术在爆发，而人类的欲望也在爆发，工作机会同样爆发。

说句题外话，包括人工智能在内的技术本身是希望让人类的生活更好负担更少，而不是希望具体某个人失业。我们为什么不能问问自己:人类必须要永远停留在工作/生活这个循环里吗？为什么人类一定要「工作」？人的自由而全面发展要永远停留在一句口号上吗？

虽然都说屁股决定脑袋，我是做人工智能的，那肯定我不会说人工智能的坏话；但我还有一个更本质的身份：我是一个人，人类的一员。

昨天看到知乎一个回答，答主说早上看到一个老太太犹豫了半天买了两个茶叶蛋，想给老伴吃；但老太太回到医院的时候老伴已经过世了。这就是我们人类，我们无助，无力，生活里充满了无聊无趣的故事。我们有喜怒哀乐，有生老病死。所以有的人认为「人生实苦」。

正是因为这样，我们才创造文化，发展技术。一个赤身裸体的人，做不了什么；但拿到合适工具的人，就像神一样，甚至能做的更好。技术是解放人类的武器，她给予我们开拓新未来的能力。

「在个体意义上，只要能找到合适的工具，他就像神一样，拥有按自己意愿主导生活的权力。」——《数字乌托邦》

不要把人工智能当成洪水猛兽，她只不过是一群对人类充满信心与希望，渴望一个更美好未来的人类，为我们创造出来的工具而已。

//对了，最开始这张照片没啥问题，我随手从 adobe stock 上面下载的（逃

现实中很多检修维护的工人每天看一万两万张图，其实有问题的只占非常小的一部分，但却要每张都仔细看。这就是他们每天在做的工作，眼睛里冒着血丝在干的工作。

打个广告，15 号开始我们会在知乎做一系列 live，主要讲的就是人工智能。由科大讯飞的总裁 @胡郁 、我们（ @泛化智能 ）和 @不鳥萬如一 、《计算广告》的作者 @北冥乘海生 、 @景略集智 的 @Kaiser 、造数的 @云天外 、探探的 @路人甲 和甲子光年的 @张一甲 等人一起举办。一共五场视频直播（对！就是类似快手的视频直播）。每场单买是 19.9，五场打包目前折扣后才 29.9 还挺合适的～

对话人工智能

点上面这个链接进去就可以购买。

其中我和 @不鳥萬如一 这场主要会讲一讲人工智能和失业的关系，欢迎大家来听！

因为AI有可能在将来杀死意义。

看吴军老师写的一篇文章提到，AlphaGo最开始学围棋的时候，参考了人类高手的棋谱，但后来发现，人类的围棋经验反而会将AI教坏，升级版的AlphaGo Zero不再使用人类对弈数据，反而变得更厉害了。

我不知道AlphaGo Zero是否真的一点人类下棋经验都没继承，如果是真的，那就太让人沮丧了，人类几千年来摸索出的对弈经验被证明是拖后腿的东西，一个算法高明且算力充沛的AI靠自我反馈就能摸索出围棋这门技艺的极限，围棋过去所承载的那种追求最优取舍之道的深邃哲思，似乎在意义的层面上消失了，如今被AI打成了一个“只要开心就好”的普通游戏。

我就怕将来有一天，AI发现所谓的文学其实也不过是个数学问题，人类之前的写作经验也一样是拖后腿的麻烦东西，那些被视为不可替代且弥足珍贵的细腻情感，能够被AI轻易复现，然后流水线一样地呈现出震撼人心的伟大文章，那时候文学就会陷入虚无，写作说不定会变成一种犹如宗教仪式般的行为。

文学沦陷之后就是音乐，音乐沦陷之后就是美术，总之人类那些不可名状又充满朦胧的表达，全都被总结为数学问题，然后一一破解，文化在整体上变成了一种拖后腿且没意义的东西，人类最终又回到了单纯地进食、交配、繁殖的状态里去，忘记并拒绝再思考意义为何物，就好像人类这个物种刚出现时的样子。

最后，我们会发现，人类这个物种在生存方式上走了一小段弯路，但很快就又走了回去，一开始是啥样，最后还是啥样，如果置身于这一小段弯路中，我们会觉得波澜壮阔跌宕起伏，但在更大的时间尺度来看，这就真的只是一小段弯路而已。

从我最近的经验看，对人工智能的“恐惧”是客观存在的，人类也的确有摆脱AI“控制”的本能，但原因不在于这东西太强，而是因为它还不够强。

首先声明，AI利益相关，最近有朋友赠了我一段时间的尼桑新车测试权，号称有源于NASA的智能安全系统。我拿到手之后，朋友告诉我汽车配备了新技术，随车AI能自动避免追尾和撞人。然后问我打算怎么玩，我回答说：

“我必须知道如何用半秒钟关掉AI”

依据他的介绍，这车能辨认障碍物的距离，能发现行车轨迹上的汽车和人，判断两者之间的相对运动速度，在我快速接近的时候发出提醒，提醒无效的话就紧急制动，拉紧安全带，在障碍物面前停车，至少能避免我以危险速度撞上去。

介绍听起来很美好，我能想象设计者大脑中的画面——半睡半醒的驾驶员，忽然穿越马路的儿童，前车紧急制动的同时响起警报声，在撞击前0.3秒死死刹住了车轮，从而挽救了1个儿童和两辆汽车，赢得一片赞叹。

然而，作为一个交通土建专业的毕业生，作为见过千奇百怪车祸的老司机，我却想到了另外的画面——公路上失控的大卡车横扫而来，我必须迅速转入和公路相交的小路避祸。但小路上已经停放着一辆轿车，我只有撞上去才能幸免，这时“智能”防撞系统发挥了作用，先是尖啸后是刹车，完美地把我拦在大卡车的毁灭路线上……

其实，在很多小概率事件中，汽车并不是被简单地当做交通工具使用的。平时被视为事故的“撞击”，在特定条件下，也可能被当成汽车的主要功能。如果AI每次都在撞击前接管刹车系统，需要破墙而出的司机将会无奈地被困，劫匪只需站在路中间就能拦下每一辆车。我承认动作片夸大了这些小概率事件的概率，但不可否认现实中完全可能会有类似的场景。在这些情况下，我希望还能靠自己的大脑自救一下，而不是在AI安排下“安全”地等死。

所以，刚拿到测试车，我就确定了测试目标——如何在警报响起之后克服AI干扰，坚决地撞上去！当然我不会因此就去高速公路上找人追尾，而是搭建几个能愚弄AI的假目标：

为此我搜罗了全部能找到的纸箱：

纸箱是用来支撑横幅的：

我猜汽车设计师中也有人考虑到了类似情况，所以在方向盘下面设置了一键关闭防撞AI的开关：

因此，我的测试思路非常简单，就是用纸箱配合条幅，搭建一个有立体感的“汽车”，借此触发AI的警告。但在警报声响起之后的瞬间，我将试图关闭AI，或是通过加油门来抵消刹车，坚决地撞上障碍物。如果我能按照我自己的意志撞上条幅，就算测试通过。

事实证明，在练习几次之后，我按关闭键的速度已经被压缩到半秒之内，能够在自动刹车起效之前就重新夺回汽车的控制权。如果我全然不顾警报，只靠加油来抵消制动，虽然撞击效果有所减弱，但也基本能完成“撞上去”的任务。

下一层次的测试更现实一点。即在不得不撞过去的情况下，到最后一刻才选择撞哪一边（比如说便宜的一边）：

事实证明，虽然AI不一定每次都能做到警告并刹车，但至少在警告响起来之后，我还有选择撞哪一辆的权力。这AI看来还算“安全”。

事后我仔细想了一下，我坚持要获得自己操控汽车的权利，不是因为AI太聪明吓到了我，而是因为AI太“笨”，只能通过观察前方路况，临时接管制动系统。对于侧面和后方的威胁，尽管也有雷达监测并警告，却无法纳入统一的风险控制逻辑，不会因为后面有失控卡车就允许我撞车保命。至于拦在车道上的行人是不是手持利刃，眼前的墙是不是阻挡我获得自由，那更是计算机从来不考虑的因素。所以，虽然AI在大多数情况下可能会挽救我的命，甚至会挽救我的钱包，我还是希望它能随时关闭，放着汽车让我自己来。

看一下历史，我的想法并不算特别。每一次有新鲜事物进入人类社会，都会有类似的质疑声浪。火车、电灯等著名的段子就不说了，汽车行业内就有一个非常有可比性的案例——安全带。

安全带现在是所有汽车的标准配置，大多数工业国的警察会强制要求驾驶员使用，多数老司机也并不觉得有什么麻烦。但回溯到几十年前，这个简单的小装置也曾经引起过巨大的反对声浪。而且出发点和我担心智能防撞系统差不多——剥夺了人类选择的自由。

下列截图见福特和克莱斯勒公司总裁艾柯卡自传：

这段争论是不是很眼熟？我其实非常理解反对者的立场。因为安全带从不说话，只会在急减速的时候牢牢绑住乘客，并未给驾驶员以“固定——松开”的选择权。这固然减少了大多数碰撞导致的伤害，但在小概率情况下，也的确阻碍了驾驶员的行动自由（必须解开卡扣才能再行动）。万一出现必须尽快离开汽车的状况，的确不能绝对保证安全带会发挥100%的正面作用。

诚然，艾柯卡的观点很理性，但是，我也在理性上很相信智能防撞系统救命的概率远远大于阻碍我逃命的概率，但作为一个凭借自由意志生存了上百万年的物种，我还是希望能时刻拥有最终决策的权力。所以，在这个问题上讲概率论并不能绝对"服人"，安全设施的推行除了要靠法律强制，更要在心理上给人“选择权”，即随时关闭自动设备的权力。当年美国能够立法强制使用安全带，也是因为在模拟火灾、爆炸环境下做反复实验，证明了安全带可以迅速解开，让乘客摆脱捆绑状态，这才最终说服公众接受安全带。（未必）

实际上，火灾逃生实验本来并无必要，因为即便在火灾条件下，安全带也更有利于乘客逃生。2012年8月26日，包茂高速公路安塞段发生客车与运送甲醇货车追尾碰撞事故，引发甲醇泄漏并导致两车起火，造成36人遇难，3人受伤。事后经验尸发现，由于未使用安全带，大多数乘客因为碰撞而昏迷，在起火之前已经丧失了逃生能力。而在仅有的几名逃生乘客中，恰恰有一位女士因系安全带而保持了行动能力，从而抓住了紧迫的十几秒逃生时间。可见安全带挽救生命，和解开安全带需要的时间关系不大。

然而，公众就是需要这样的实验，我也必须确信能随时切断AI的电源，在踏板上控制刹车，才能从心理上接受自动防撞系统。这就是我们人类毫无理由的自信。不过，即便是感性认识，也是可以用理性去分析的。看到这个问题之后，我开始审视自己的感性判断——我到底恐惧的是什么？是AI太“强大”么？

仔细思考之后我发现，恐惧的来源并非是AI太聪明，并非AI可以和我的大脑相连，而是正好相反——问题的源头在于AI不够聪明，不能和大脑相连。

比如说，本来汽车已经配备了侧向和后方的测距雷达，但只用来点亮告警灯，不能成为AI判断的参数。如果AI能够“考虑”到这些外界条件，在其他方向有明显威胁的时候允许我撞向前方，我就可以允许AI获得更多的汽车控制权。如果AI能直接把警告输入我的大脑，让我在打瞌睡的时候忽然“看到”撞击的可能性，并通过大脑决策来实现刹车，自然也不必为了节约反应时间而直接控制刹车系统，不给人类做选择的机会。总而言之，至少在现阶段，一个更“强”的AI会让人类更放心。阿西莫夫也在短篇科幻小说《理性》（又译为《推理》）中描写过类似的情节：（全文请点击下面的链接）

在这篇小说中，“出生”在空间站的机器人开始思考自己的存在理由，并创立了一套宗教解释自己的工作。人类工作者对此先是表示恐惧，但发现机器人并不会因此影响工作后反而欣然接受：

科幻时代（其实设定时间是90年代末）的宇航员最终接受了一个信教的机器人；现实中的司机最终接受了安全带，这听起来跨度有点大。但完全可以说两者都是广义的“AI”，因为它们都能独立于人类大脑做出逻辑判断。安全带能在人类不干预的情况下发现加速度异常，这本质上也是一种处理信息的方式，也是“思考”。我们人类能制造替代自己大脑的工具，可能是我们智人打败其他人种（尼安德特人、丹尼索瓦人等）的关键因素——注意我提到的是替代大脑的工具，而不是“工具”。

（以上三图均为北京周口店遗址博物馆的科普挂图）

根据现在的考古发现和生物学观察，无论是尼安德特人、大猩猩还是海獭，都能在一定程度上使用工具乃至制造工具。智人比他们强，不是强在制作长矛、石器这些随身携带的工具上，而是因为智人具有抽象思维能力，能够设计制造出人类不在场的时候也能发挥作用的高级工具：

（以上2图引自《事物的起源》）

通过这些图我们可以发现，在智人成为独立种族的开始，我们就已经在制造“AI”，来延伸我们的大脑，获得木矛石刀无法捕获的猎物，进而称霸地球。实际上，工业革命也是一个类似的过程。瓦特蒸汽机节约的不仅仅是人的肌肉力量，更节约了人类的大脑：

自动控制系统是从1776年的瓦特开始的。换句话说，回到工业革命之前的水平，非人力机械只留下马车、牛犁、水车、风车才算完全靠人类工作。那个时代你怀念不？

瓦特蒸汽机，是不是比想象的复杂许多？
蒸汽机离心自动控制器，这才是瓦特做出的最大贡献，他节约了人类的智力而不是体力

每一个自动控制系统都起码节约了一个人

当然，上面提到的汽车自动制动装置、安全带、捕兽夹、瓦特调速器，加上马上要挑战李世石的围棋软件都属于“弱AI”，即没有自我意识，只能按照人类设定程序处理信息的AI。他们的强项并不在于真的去“理解”事实，而是用更高的速度处理事务。所以我们才期盼它们越来越强——再强他们也只是工具，可以被一键关机。人类真正担心的是强AI，即同时具备自我意识和高速处理能力的人工智能。前面转载的阿西莫夫小说情节中也透出了类似的看法——自创宗教的机器人可以因为教义而为人类忠实服务，但也存在因为“教义”而损害人类利益的可能。总之，独立的意识既意味着无限的潜力，也意味着无限的风险。

对于类似的观点，我……没啥明确的看法。因为“强”AI的原理和功能都完全超出了我当下的想象。作为一个普通人类，我连自己为什么有“意识”，为什么有智慧都不知道，更不可能想象一台机器如何具备类似的能力。让我评价强AI是福是祸，就像让不会骑马的原始人评价汽车的利弊一样无稽——我不能评价那些我不知道我不知道什么的东西。

然而，我倒是有个笨办法来趋利避害——用弱AI加强人类自身，让我们来变成“强AI！”

我们回顾一下，为什么围棋电脑可以挑战李世石？不是因为电脑真的理解围棋是什么东西，而是因为电脑拥有远超人类的记忆能力和推算速度。如果我们通过植入芯片增强记忆和计算力，通过添加传感器增强自己的信息搜集能力，世界上第一个“强AI”可能就是我们自己！

实际上，类似的事情我们已经在做了。

一个副部级官员在台上高举自己的智能手机：你们觉得这是什么？

底下众人有答手机的，有答电话的，有答娱乐工具的，都被一一否定。最后这位50后的领导给出了自己的看法：这是有史以来和人类结合最紧密的机器！是人体的新增器官！

虽然手机+互联网+搜索引擎这个“器官”和大脑的结合还非常粗糙，但就我近年招聘经验来看，在媒体工作方面，善于用搜索引擎的人和不会用搜索引擎的人完全就是两个物种，效率差距远大于智人和尼安德特人的差距。如果谷歌眼镜和新一代虚拟现实技术能做到即时从现实中抓取模型进行演算，装备新技术的人类可能会完全甩掉那些前网络时代的同类，创造出他们永远无法理解的技术。更不要说未来通过植入芯片分担大脑职能的人类了。到那时候，我们有意识，有智慧，还有电（光）子计算机的运算速度，还怕什么“强”AI？

至于为人类植入新的传感器，其实我们已经在做了：

我们既然能把摄像头的光信号直接传给大脑（不需要眼睛这个中介），就能在不久的将来为人类装备更多的感官，让整个世界在我们的“眼中”透明化，甚至可以在虚拟空间中“看到”更高的维度。普通人只能通过数学模型来研究的高维空间，对于新一代人来说可能是“不言自明”的事实。“生而平等”的生物学概念到此将彻底结束。

当然，这样的世界和今天的伦理学标准是有一定冲突的。在各国神话中，有第三只眼的人类不是神灵就是怪物，总之不是人类。如果有人能通过手指观察东西，能通过颅内硬盘调阅百科全书，当代人看他的眼神一定不会太“亲切”。然而，原始人看我们穿各种衣服恐怕也是类似的感受，古代人也无法理解为什么拍照是必不可少的饭前仪式，进步本来就不一定会被古人所理解。人类之所以是人类，就是因为我们的祖先过DNA变异获得了制造工具的能力和抽象思维能力，我们今天修改自己的“外设”来变成超级 AI，变异程度未必就比祖先物种变异的幅度更大。

无论我们如何看待AI的风险，有两个事实是确定无疑的——1 维持现有的生活水平离不开AI；2 用弱AI装备自己的人类会获得竞争上的极大优势。这意味着AI和人类的结合必然会越来越更紧密。我们与其被动地接受这个新时代，不如主动地变成超级智能生物，变得更聪明、更善于交流，更长寿、更强大。

这里我再引用一下之前的发言：

除了信息的存储读取，人类还需要提高信息的处理效率。拿算术当例子，原始人和小孩子在作加法的时候都有一个本能的反应——掰手指头，也就是累加计算。3+4，就是先伸出3根手指，再挨个掰出4个，最后回过头把所有手指头点一便数，得出7的结果。手指头不够的话，还可以用木棍、石子来辅助，原理上是一样的。

为了避免每次计算都掰手指头，你我都必须在小学低年级作大量的算术速算练习，直到我们把两位数的加减法变成条件反射而不是累加的结果。从而把更大数字之间的运算分解成一系列条件反射的累加，提高整体运算效率。又比如苏美尔人最早的乘法是连续做加法，一位数的乘法也必须挨个加起来，这和我们小学时学乘法原理的程序是一样的。这个方式足够简单但嫌太慢。后来，学算术的学生就要背乘法表，背会了之后在脑子里建立固定的数字处理程序，只要记住八八六十四这种口诀，就不必再每次计算都作七次加法。这也是信息化，通过建立固定的反射来提高信息的处理效率。

你要说服自己的大脑，“数学工具”这个词绝不是一个比喻，而是客观、准确的描述。铲子、汽车、充气娃娃等有形物体是工具，思考方式也同样是工具，都是人类改造世界能力、理解世界能力的“放大器”。这一点在理智上接受很容易，在直觉上相信比较难。就像大多数人可以在理智上承认电场、磁场也是物质，但真的思考复杂问题的时候，直觉就只承认椅子、汽车这样的东西是物质了。

什么是工具呢？严格来说，人类制造的任何东西都只是附加了“信息”的某种结构。砍木头做梯子，木头是自然界的物质；炼钢造汽车，铁矿石和煤都是地球本来就有的。我们没法凭空“创造”物质，只能把既有的物质赋予人类设计的结构，才能变成实体工具。至于思考工具，只是把这个“结构”直接用思想表现而已。从这个角度讲，思考工具和日常的实体劳动工具完全是一回事。

所以说，人类现在能一枪撂倒大象，不是因为力量增加；人类能迅速理解几十年、上百年前的物理前沿思想，不是因为智商提高，两个事件都完全是工具水平提高的结果。相对几百万年的人类进化史，最近一万年我们的基因没啥明显改变，进步的是工具。

我想说的是，信息时代并不是最近十几年才到来的。整个人类文明史，从捕兽夹到乘法表再到蒸汽机、计算机，这都是“信息化”和“AI化”的发展过程。我们这些年的发展速度很快，但也不过是保持了过去200年、20000年、200000年的AI进步趋势。如果你恐惧AI，就应该记住被历代古人（包括毛泽东）反复强调的一个概念：

寇能往 我亦能往。

最后提醒一下，无论是你想和AI当敌人还是做朋友，眼下它都只是一个辅助工具，不能保证行车的绝对安全。一旦时速开到80以上，神也阻止不了事故发生。奉送一张100公里时速下的障碍墙残骸图，这次我可是和AI精诚合作的……