如何评价 Netflix 纪录片《监视资本主义：智能陷阱》（The Social Dilemma）？

性价比高的，都是垃圾

这句话我说了很多年了，基本都是被骂。。。而最近再说，明显感觉反对的声音越来越少了。

而性价比的极致，就是免费。比如“免费”的互联网服务。

片子里面说的，其实同样的事情：

技术 vs 道德，企业 vs 监管

片子后面谈的这两个问题（应该对科技公司提出道德要求，并且加强政府监管），看似是答案，其实是迷思。

因为最本质的问题在于，因为性价比，或者说免费服务的诱惑，消费者和服务提供商之间，建立了商业上有效的正向反馈。

道德约束或者政府监管不是没有用，但是在这种全球消费者和少数服务提供商所构筑的巨大，高效，飞速进化的力量面前，太弱了。

媒体和商业公司的责任

但是有两种力量，曾经成功的对抗过这些有危害的，但是商业上成立的正向反馈。

• 一个是媒体，他可以改变大众认知。
• 一个是商业公司自己，他可以运用技术，服务那些认知觉醒了的用户。

这样，虽然垃圾食品的快餐连锁以及超市仍然很多，但是至少出现了更多关注饮食健康的类似有机食品快餐店，出现了类似 Whole food market 这样对抗垃圾食品的高速增长的，同样建立正向反馈的商业模式。

没有讨论这种可能性，是片子美中不足的地方。但是这个片子本身，也在承担媒体的责任，首先唤醒大众认知。

而对于这种免费的信息服务提供者， duckduckgo 这种关注隐私的搜索引擎，或者苹果这种把 200 美金 bom 的手机，卖到 1000 美金但是更加重视用户隐私数据的公司，都为用户的信息安全和反大数据的控制，提供了更多可能性。

最后的话

免费的，往往最后都是最贵的。

你的隐私，数据，注意力，总会慢慢的变得更加重要和更加值钱。而开始关注片子提出的问题，并且习惯为了保护自己的数据拒绝性价比或者免费的诱惑，对个人来说更加有意义。

也许最终，市场的八成消费者，仍然会使用免费的服务，上报自己的数据，并且被 AI 一定程度上左右行为。

但是，只要有一成，或者两成消费者的认知觉醒，开始寻求替代方法并且支付，那么就一定有类似 Whole food market 的商业模式出现，给大家摆脱控制的选择。

而一切的一切，从关注这个问题，并且开始思考这个暴论开始：

性价比高的，都是垃圾。

这部《监视资本主义：智能陷阱》是一部很唬人的电影，它就像是影片自身讲述的一种“宣传”那样，通过一些数据，案例，还有那个刻意渲染其恐怖性的“人间操控”，来不断巩固这个“通过我们信息构建的模型，通过其推送信息不断分裂这个社会”的印象。

然后全片矛头指向的是什么呢？

不是什么数据隐私，个人信息泄露之类老生常谈的内容，本片将一切的根源，或者说造成社会分裂，少年性格孤僻，自杀率提升，游行动乱，谎言漫天飞等等等等，都指向了“能够提高用户粘度的推荐算法”之上。

到最后，甚至开始渲染一些人工智能的恐惧云云，这就完全超出了本片主题应该讨论的范畴了。

为什么我要说“推荐算法”风评被害了呢？

电影里面通过那个少年的事情，主要讲述了两个观点。

其一是，因为男孩信息被不断用来完善其个人模型的建立，所以手机中推送的信息越来越符合他的口味，他因为沉迷网络世界而忽视了现实。

其二是，因为推荐内容只推荐他喜欢的东西，所以他对社会认知出现了偏差，开始了某种极端主义的政治行为。

这两个观点，都完全忽视了一个非常重要的角色，那就是：内容提供者。

举一个例子，我喜欢看科幻电影，于是我看了一部《银翼杀手》，就会再去看《银翼杀手2049》，顺着导演会再去看《沙丘》，顺着赛博朋克会去看《阿丽塔》，《攻壳机动队》等等，那么其实这就是我自主的一个推荐过程。

推荐算法其实就是通过大数据收集，将所有人的喜好进行交叉比较，还有一些矩阵，函数的处理等等，复现了这一个“找相同类型电影”的过程。

但是沉迷于此，并不是（或者严格一点，并不只是）推荐算法的锅。

毕竟你沉迷的可并不是推荐算法，而是那些推荐而来的内容，这些内容，无论有没有推荐算法都会存在，而这些内容的提供商，电影的话就是电影公司，他们会根据观众的喜好去拍摄相应题材的电影，票房收益好的就出续集，不好的就腰斩。

所以推荐算法，只不过是提供了一个让我们能更快，更有效地接触这些内容的途径，当然我用电影来举例可能颇为失当，毕竟随着当代人的时间碎片化和信息传输速度的提升，一则笑话，搞笑视频，搞笑gif或许是更贴切的“让人沉迷的内容”，而这些内容的制作者，也都是奔着“受众更多，收益更大”去的，推荐算法只是一个更有效的内容传递工具，它加速了这些内容的精准投递，或许对于某些人的“沉迷”有推波助澜的功效，但是也绝不是主因。

第二点听起来更加靠谱一点，你看，他们举出了“世界是平的”的案例，又举出了“美国两档之间两极化的倾向”，内容的分发还真的可以对人产生误导而影响人们的判断啊。

那是肯定的啊！！！

但是你试着站在中国和美国的立场上，看看在推荐算法，甚至是互联网出现之前那么多年的时间里，思想的对立，人民之间的误解，有哪怕一瞬间的停歇吗？

没有。

被两种舆论氛围裹挟的各方人民，因两个派别之间对立思想而产生认知的分歧与偏见，本来就是必然的，美国两个党派都希望能争取到更多的选民，又要搞牢自己的基本盘，那么那些“越发坚固的基本盘”，其实就是越发两极化的政治倾向了。

所以这些“被巩固”的人，看到的宣传来自于哪里呢？是来自于推荐算法，还是其背后的政治力量，就不言而喻了吧。

美国的“黑人运动”，究竟是因为他们看了太多种族歧视的视频而感到义愤填膺，还是因为这种歧视真实存在亟待改变所以他们才上街抗议（暂且不谈其打砸抢行为）？

美国抗疫的不利，究竟是因为他们tiktok看多了所谓中国传递的“谣言”而放松警惕，还是因为政府的无能和隐瞒真相让他们现在每天新增几万例感染？

而那些相信“地平说”的人，在看到不断推送的视频之前为何没有一个基本的通识概念？

问题的症结，永远不是信息分发的平台或是分发的手段，这些充其量是一种提升效率的工具。

问题最重要的症结，是那些制造这些信息的人。

这个信息，可能是引人入胜的短视频，可能是让人废寝忘食的修仙小说，可能是让人忍不住再来一盘，重复操作的美少女作战手游，可能是电影中说的“谣言”，可能是某种错误的政治观念...

但绝对不是“推荐算法”本身。

最后说一下，本片还是提供了一些值得思考的点，比如“推荐算法”造成的信息孤岛效应，让人们无法对世界有更完整的认知。

这一点，用俗套的话“读万卷书，行万里路”就可以解决，打破自己的舒适圈去见识更多的世界，接触更多的信息，这不仅是一个渠道问题，更是一个态度问题。就像电影中提到的那样，不存在推荐算法的维基百科，能让所有用户都看到同样的，高质量完整的信息，而如果你只愿意呆在自己的facebook看一些“地平说”的阴谋论，那谁也救不回你。

谢邀，昨天刚看完。

同时想起去年我看了一部纪录片片叫《隐私大盗》，打算放在一起说。两者虽然主题并不完全相同，但都传达了一个共同点：科技不可作恶。作为Data Scientist，每天都需要接触海量数据，这两部片对我在自己职业观上面有一定的塑造作用，都提醒着我：如果你掌握了数据，就是掌握权力，切不可拿权力作恶。

首先从《监视资本主义：智能陷阱》这部纪录片说起。

《监视资本主义》确实是一部很好的纪录片，表现手法也很好，把每个用户背后的无形的推荐系统都具象化成一个个有形的人，让人看起来就很有代入感。

然后整个推荐系统具象化为一个一个格子间，这些格子间密密麻麻的分布在服务器上。

当然，有的人会觉得这种表现形式会有点唬人，但我认为，这种表现形式对于那些对推荐算法不了解的人来说，确实是一个很好理解的比喻。总体来说，虽然讲得内容我们可能早已有所听闻，但还是能给人更深一层的思考。整个纪录片非常值得一看。

这部纪录片的主题是科技的进步，社交媒体的兴起，算法的精准推送，对于社会进步和生活便利确实有推动作用，但由于监管跟不上，其副作用也是逐渐暴露。片里主要概括了其两个副作用。

第一个是对个人方面。尤其是年轻人。

社交媒体造成个人专注力透支与空虚感。这些年信息科技进步是万亿级别的，是爆炸级的，而我们人类大脑这些年的进步几乎为0，我们人类大脑并不能完全适应这个时代。很多人每几分钟就要拿起手机看看，刷一刷。这里还不完全是推荐算法的锅，更多的是讲运营策略就是为了吸引人注意而给用户频繁推送。

所以在信息洪流冲击下，人的多巴胺分泌得前所未有的快，人可以从手上一个小机器就获得持续的快感，更容易获得及时满足，但也同时情绪化，更脆弱。例如下图里显示的美国少女自残与自杀率率大大提升，尤其z-generation，他们生在数码时代，任由着算法操控他们成长。

这个数据很出乎我意料。作为科技行业从业者，我很自然的觉得，科技应该是造福人类才是啊，为啥对于有的人来说，并没有被造福到，反而受到了祸害呢？但数据摆在面前，我不得不承认，社交媒体副作用超乎我想象。

即使是在这些算法背后的工程师，自己很清醒，很了解这些算法怎么工作的，也是无法摆脱被算法操控的命运。他们创造了这些算法，还得额外写个程序来帮自己戒网瘾。

这让我想起小说《美丽新世界》。这本书出版于1932年，那里的人生活无忧无虑，如果遇到什么烦恼，就靠一种”唆麻“的药物解决。而现在很多人离开手机十分钟就空虚，也和小说里无异，都是用唾手可得的方式来刺激多巴胺。

第二个是对社会方面。尤其是造成意识形态分化且对立。

由于西方那种"自由主义”，对科技与媒体公司的监管会被大家认为是“操纵”，所以目前其实是每个公司在“自我管理”的。我在推特、Facebook可以看到，大家割裂很严重。推荐算法社会割裂，两级分化。

可以看到，20年前的美国政治环境并没有今日这么恶劣。今日我们能看到的美国种种笑话，很多是社会分化结果。之所以特朗普不靠谱，很大一部分是环境选择使然。这个迹象不仅仅在美国出现，在欧洲也是一样。

当然，虽然这个影片可能给人一种“科技公司与算法都是邪恶”的感觉，但是指出问题的这些人也并不认为全是坏的。“科技可以同时是乌托邦与毁灭"。

我们确实享受着科技带来的便利，例如打车更方便等等。这个影片虽然给人触目惊心的感觉，但并没有否认科技，更多的是在呼吁监督，不能让其监守自盗。

对于监管，这些科技从业者提出了几点，我也同意，例如收取数据收集税等等。除此之外，对于如何监管，我个人补充几点看法。前面提到副作用包括个人和社会两方面。

• 对于个人来说，我认为需要对不同年龄段的用户负责，推荐算法不能对方喜欢什么就推什么，对于青少年，也需要一定的防沉迷机制。
• 对于社会来说，限制不实信息和煽动性的信息，减少社会分化。例如新加坡专门立法来打击假新闻这个做法就挺好的。同时，社交平台需要营造一个良性的键政环境，这个在我国还好，在西方国家恐怕执行起来有点难度，对于美国，最坏的结果可能是：

事实上越来越多人意识到自己被科技操控，但很难摆脱。包括我自己，我也感受过那种刷一会手机一晚就过去了的罪恶感。对于我来说，我这两年一直在执行以下这些方法。

• 电脑端不登录任何社交平台，除了微信，但微信也是处于关闭消息通知状态。手机端，关闭了所有社交app的推送。
• 设定app使用时间。例如微博，知乎，设定为15分钟。对于微信，倒没有直接限制时间，但所有群聊都静音了，以免给自己造成未读信息的焦虑。
• 不安装成瘾性特别强的App，例如抖音。倒也不是完全没用过，但不会把这个App保留在手机里，用完就删。所以虽然我是个科技从业者，但对于抖音的玩法我可能还没我爸懂。
• 对于隐私保护，尽量不用自己号码和邮箱。有时候某些网站非要我注册才让我看内容，那么我就会去搜“临时邮箱”和“临时号码”。

说到利用隐私，算法与数据，想起了我去年在自己朋友圈推荐过的《隐私大盗》，这里截图上来，就懒得再打一次字了。《隐私大盗》讲的是Cambridge Analytica如何利用fb的数据操纵美国大选。两个一起看，震撼力更佳。

恰好，这两部片子都提到了一个公司：Facebook。

最近Facebook确实不再像以前一样。之前不仅多次泄露了用户的数据，今年也各种栽赃tiktok，也确实让我们看到，某些科技公司把利益放在道德之上。

最后总结一下。

科技发展是一个浪潮，即使你不去拥抱它，这个浪潮也会拍向你。我认为要让全民都保持理性中立和识别谣言的能力是一个奢望，可能要几千年的发展，但更可能永远都能不达到。但就我们这一代来说，也能做一些力所能及的事情来抵抗科技的反噬。个人要做的，一方面是保护个人隐私，同时通过一些手段帮助自己减少分心。监管方面，保护隐私、防范假新闻相关的法规必须跟上；社会各方，如公司，个人，政府也要多合作，多沟通减少隔阂，这样才能减少分化，让大家更多的享受科技带来的便利，更少的被科技操纵。

非常好的一部片子，基本上和现代心理学研究结果基本完全一致，全新的matrix已经诞生。我一直叫mark suckerberg，就是因为这原因。国内00后的心理类疾病也在飙升。

脑神经学的各种最新应用都被用在了深度学习领域。人类大脑和身体进化过慢是几乎现代所有疾病的根源。而算法则最大限度地在利用我们大脑的各种缺陷。商业算法本质就是卖成瘾的毒品，人类一直最赚钱的商业模式。

就连知乎都有被算法牺牲的案例

https://www. zhihu.com/answer/139504 3919

色彩刺激，社会比较，幸福边际效益递减等，这些心理学研究结果都被大量应用于机器学习。如果没有相关监管和道德规范，人类健康大面积出问题是迟早的。

人类最宝贵的就是生命，而很多人都在不知不觉中出卖了生命中每一个宝贵的时刻，给算法做养料，自己变成了商品的同时也成为了人肉螺丝。教育水平越低、心智越不成熟的人越容易成为算法的完美猎物，字节、快手、微博这系列产品我是坚决不装。

有问题，多看google scholar ，中文网络基本已经沦陷，大多是观点没有事实。wikipedia错误也很多，只能作为概念入门了解，需要进一步找资料。自己的照片还是买个nas存起来的好。能够断网的人才是健康的人，自我数据安全也很重要。

我一个从小一起长大的好基友，在2014年给我说他断网一年的时候，我还很诧异。他做文创，当时他就发现自己被各种网络噪音打乱了，他当时微信备注就是一年后再联系，要找他请打座机线下見。后来是越来越佩服他，断网一年，我都做不到。

人类还没有准备好面对传播学+心理学+人工智能的降维打击。
任何一项足够先进的技术初看都与魔法无异。—— “克拉克三定律”

人类在使用新技术时，先发现其促进生产力的作用，而往往很久以后才能发现它带来的伤害。

百草枯

1919年，国外发明百草枯 —— 1984年，百草枯引入中国。
1996年，李德军(山东农药科学研究院) 开始研究百草枯 —— 2004年，掌握百草枯合成技术^[1]
2015年7月10日，百草枯被定义为剧毒。
2020年9月25日，对百草枯母药生产企业的生产资质和条件进行核查，无生产许可证的不再保留其百草枯母药和制剂的仅供境外使用农药登记证。百草枯母药生产企业生产的百草枯产品只能用于出口，不得在境内销售。^[2]

百草枯——技术本身虽然没有错，但是不同的使用的目的会改变技术的性质。

基因编辑技术

1996年，第一代基因编辑技术ZFN出现，用于动物基因的研究是从2002年ZFN成功用于果蝇基因组编辑时开始的，并在2003年开始了对人类细胞的基因编辑。该技术靶向结合效率高，但是蛋白设计复杂，费时费力，并且无法实现对任意靶基因的结合，也无法实现高通量的基因编辑。
2010年，第二代基因编辑技术TALEN出现，理论上可以使TALEN被用于几乎任何的序列。
2012年，CRISPR/Cas9的体外重构 —— 2013年实现对人类细胞的基因编辑。
第三代基因编辑技术CRISPR/Cas9开启了基因编辑技术领域的新篇章

基因编辑技术 ^[3] ——我们并非对滥用的技术了若指掌，甚至未知其后果就大行其道，未来藏在迷雾中。

人工智能

1956 年“人工智能”首次在达特茅斯会议中被提出。
1973 年，以《莱特希尔报告》的推出为代表，象征着人工智能正式进入寒冬。这篇报告宣称”AI 领域的任何一部分都没有能产出人们当初承诺的有主要影响力进步“。
1980s，由于专家系统的崛起人工智能再次迎来一次久旱之后的甘霖期，也是一次新的高潮。
1987 年基于通用计算的 Lisp 机器在商业上的失败，人工智能再次滑入了低迷期。
1990s，由于计算机计算能力的不断提高，人工智能再次卷土重来。以数据挖掘和商业诊断为主要代表的应用非常成功，使人工智能重回人们的视野。
2006年，以 Geoffrey Hinton 为代表的研究人员发现了训练高层神经网络的有效算法。
至此，基于人工智能理念的技术开始逐渐席卷全行业，波动到每个人能感知的范围。

人工智能(Artificial Intelligence, AI) 现如今带给我们极大地便利：移动支付、社交娱乐、自动驾驶、无人汽车、人脸识别、外卖配送系统、推荐系统等技术。

我们能够感知的是受益的一面，正如今日头条的 Slogan 一样：信息创造价值。

在辩证的唯物观中，凡事都充满了两面性，在对立统一中发展上升，只看事物的一面而忽视另一面都是偏颇的。

“那代价是什么呢？”

信息创造价值的同时也会暴露隐私，而个人的隐私数据正好能反应个人偏好，个人经历以及社交中未曾暴露的秘密。

目前，大多数企业只享受信息收集带来的增益，而忽视数据保护的责任，信息数据监管势在必行。

除开隐私数据保护的问题，另一个问题是企业对数据的滥用。

“如果你没有花钱买产品，那么你就是被卖的产品”——《监视资本主义：智能陷阱》

环境能够影响个体，是因为环境潜移默化地“喂”给你信息，例如在电脑前熬夜打游戏的室友、在给女友煲电话粥的朋友，某种程度上会让你也想着熬夜，想着找一个女朋友。

同理，APP 更强硬地“喂”给你信息，甚至你没有选择的余地，你获得信息的途径上，都是经过筛选的痕迹，如果你讨厌特朗普，它就会每天给你推送特朗普的黑料，如果你是偏向极端的潜在犯罪者，它甚至会推荐给你极端分子的视频......

它不在乎你会做什么，它的目的只有三个：

1. 让你沉迷，让你参与。
2. 让更多的人沉迷和参与。
3. 让广告商（企业真正的客户）赚钱。

一个数据被“滥”用的典型例子是“推荐系统”。推荐系统考虑的并不是自己推送的内容对用户是否有利，而是注重能否从中获益，而我们每个人就像小白鼠一样被淹没在推送内容构筑的世界里，被“信息茧房”困住。

另一个被滥用的例子是“搜索引擎”。相较于被动地推荐，主动的信息搜索本应该是更加无偏的行为，如果我们的搜索词相同，那我们本应该指向同样的内容，可现实中差异化的搜索算法让每个人站在同一个网络世界里，只能看到世界的部分样貌。

每个人看到的可能都是事实，但不一定是真相。我们接受了当前世界就是真实的事实。基于不同的推荐内容，看到的完全不一样的世界，会觉得对方不可理解。

弊端：

个人的极端化：当技术超过人类弱点的阈值后，它将会击溃我们的防线，能在某种程度上改变人的想法，改变社交行为。软件潜移默化地成瘾性吸引你沉迷其中，与你的现实生活竞争着创造价值的时间。

以我为例，我在吃饭的时候会逛知乎，仅仅是因为知乎的信息量远超微博，将我自己淹没在海量信息中打发吃饭的无聊时间。

集体的情绪化：情绪基于社交网络进行传播和放大，危险的模仿变得容易复制，在美国的 tiktok 能很轻易地聚集起一群同样目的、同样行为的人。让我们很容易地假设一下某极端组织掌握类似 twitter 或 tiktok 的庞大社交产品......

情绪的输出远比理智的输出更容易，这导致着社会逐渐极端化、极左极右党派逐渐在政治舞台上登场。过去的粉丝追星远非如今这么疯狂，粉丝的聚集效应打破了个人的理智，造成群体性愚昧。（推荐这本书，在微信读书上也能直接看）

以上，希望大家能够在网络世界保持一丝理智。

参考

1. ^中国百草枯之父:也自豪, 也很惭愧 - 今日农药 https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637375931042187500&DBCODE=CJFD&TABLEName=CJFDLAST2017&FileName=NHXS201612009&RESULT=1&SIGN=H1tpcA6PwFyRVlDErTQmN7lo8H4%3d
2. ^农业农村部办公厅关于切实加强百草枯专项整治工作的通知 http://www.moa.gov.cn/govpublic/ZZYGLS/202009/P020200925336387449808.pdf
3. ^基因编辑技术的发展与挑战 https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637375943797343750&DBCODE=CJFD&TABLEName=CJFDLAST2019&FileName=SHWU201908006&RESULT=1&SIGN=YWwKuAF96HHY2e3bTI7MxEJbs7c%3d