如何评价《人民日报》于 10 月 5 日发表的《不能让算法决定内容》？ 第1页

我前几天写了一篇《暴君是怎么练成的》，讲述了小崔的堕落过程，也提到了这方面的问题，精妙的算法真的很容易让人的心性变极端（尤其是大V）。而今日头条是这个领域的集大成者，被当成出头鸟批评也很正常。

在这个信息爆炸的时代，你不可能接收所有能收到的信息，面对接踵而来的讯息，你必然会有所取舍。而随着技术的进步，你面对的网站和app更加智能，会根据你的历史操作痕迹，精密地计算出你的偏好，然后推送你感兴趣的内容。

你喜欢的内容或观点，平台则会很"人性化"地加强推送，你不喜欢的内容或观点，平台也会很"人性化"地帮你屏蔽，最简单的，你去某新闻APP，点开足球的新闻，多点几次，APP就会多推送足球新闻，你不喜欢篮球，屏蔽以后再也不会出现篮球新闻的推送，最后这个新闻点开充斥着足球的新闻。你接受的都是你喜欢的东西、赞同的观点，看到的同一种声音，你体会到这个APP的快感和乐趣。但长此以往，智能推送会偏激你的思想，让你沉浸在你自以为的世界里，你就像一个被大臣蒙蔽的皇帝一样，活在自己的世界里，等你离开这些内容推送就会发现，现实和你想象的很不一样。

尤其很多本来很小众的群体，网络天然的把同一种思想或者爱好的人聚拢到一起，然后他们在一起讨论的时候会发现自己的声音发出去得到的都是支持叫好，几乎没有反对的声音。越封闭的圈子越是如此，聚在一起会有觉得自己是大多数的错觉，越是沉溺其中越容易让人变得偏激，其实回到现实中才发现自己的渺小，自己看到的都是幻觉。

你喜欢养狗，加入爱狗群，你在这个群里接受的信息都是我家的狗好萌啊，路上看到流浪狗好可怜，我们要献爱心救助他们，虐狗的怎么这么多？我们要批判这种人！到最后，有一批运狗的，我们去阻止他们的行为。看群里每个人都支持这么做，我们是大多数人的意见，为什么我们真上路拦车了，才发现网上怎么会有那么多人骂我们？他们真没爱心，把这段话再发到爱狗群里，又是一群人附和你，说你说的对，我们大家都是这么想的。可是现实中没有那么多爱狗人士啊，他们不一定这么想啊。

你是薛之谦的粉丝，微博上关注的都是谦友，加了薛之谦的粉丝群。网上有了关于薛之谦不利的消息，你们在群里讨论，你们觉得那些消息都是假的，各路谦友整理出一堆所谓的证据，然后组团去微博下面去辩驳，去评论，去点赞，去战斗。你会觉得自己在做一件很正义的事情，因为群里所有的人都在互相支持互相打气，他们给的所有证据都表明那个小婊子在诬陷我们家谦谦。但你离开这个群体，接触到和自己想法相反观点的人，你会非常不理解，为什么他们要诋毁我家薛之谦？为什么他们都骂我脑残粉？然后回到粉丝群诉苦，群里的人都很理解你，最后你觉得外面的人都太坏，还是这个群让你感到温暖。

你只要在某个圈子里呆久了，就很难避免自己的思想不受这个圈子影响，你会自然而然的变得极端，而且这种变化你还不会轻易察觉，等到你充满戾气的时候，你会觉得这个世界为什么对你充满恶意。很多人都说网民的素质低，其实网民在现实中素质并没有网上表现的那么低，而是网络的氛围拉低了网民的素质。

微博上的思想放大效应最明显，你关注一群“爱国人士”，就会发现国家每天都有美好的事情发生，各种成就各种美好各种强大，马上赶英超美了，自豪感爆棚。你要关注一群“民主斗士”，就会发现每天都是暴力强拆官僚黑暗权利斗争，老百姓再不造反就活不下去了。

其实现实中没有“爱国人士”说的那么好，也没有“民主斗士”说的那么遭，但他们都很容易活在自己的世界里，因为他们关注的都是志同道合的人，粉丝也是喜欢自己观点的人，他们周围大部分的声音都是支持自己的，他们喜欢这种感觉，并且沉溺其中，活在自己的世界里。

有的大V已经活在自己想象的世界里，享受着一呼百应，评论区全是点赞支持，转发全是义愤填膺的生活。觉得大部分人观点都和自己一样，这叫被自己洗脑了。

真的，如果关注时政的话，一定要不要只关注一种观点，不然稍不留神就被带偏了，沉溺在全世界都支持自己的世界里，虽然看上很爽，但就像听信谗言的皇帝一样，脑子会不灵光的。

希望大家平时多加几个群，微博上也关注各种观点的人，每天画风都不同，关注的点都不同，接受多元的观点，不要走极端，让自己活在真实的世界里。这才是坠吼的！

愿知乎少些戾气，谩骂和争端，多一些干货和知识分享。

可是知乎连友善度系统都取消了。

下面是私货内容，不感兴趣可以忽略。

大V享受山呼万岁的声音，容不得反对意见，变成听信谗言的皇帝之后，就容易成为暴君，标志性事件就是挂人。大V一旦开始挂人，就几乎就失去了关注的价值，基本上他就已经活在自己的世界里出不去了。历史上很多明君最后变成昏庸的暴君，因为偏听偏信很舒适，很容易沉溺其中无法自拔。现代社会当不了皇上，却有机会当大V，小崔这个例子真的太典型了。

我在看到这张图，就觉得他已经疯了。没上网之前的小崔不会说出这般刻薄的话，但上了网之后的小崔就像换了个人一样，变得非常极端。他的身边全是支持反转的声音，谁敢反对他的观点，只要动动手指截图挂人，马上就会有成千上万粉丝扑上去围攻。他已经沉迷于这种论战中无法自拔了。

我们最早认识的小崔，不是这样的，如今怎么变得这么刻薄了？就像《蜀山传》里的丹辰子，真是一着不慎堕入魔界，再也回不去了，令人惋惜。

要是从来没有上过网，我相信小崔还是以前那个人见人爱的小崔。

最后，推荐一篇 @呵呵 的回答：如何看待知乎用户 @恶膜的奶爸 退出知乎的行为？

虽然我也不喜欢恶膜的奶爸，他的有些行为很让我讨厌，但他从一个干货输出者变成一个戾气输出者，到最后人人喊打乃至离开知乎，确实是一件悲剧。

为什么会走到今天这一步？希望知乎别忘了自己的初心。

与世界分享你的知识、经验、见解。

一下这么多赞真的受宠若惊了，还是感谢轮子哥了。

我不是你们想的那样啊，我每天开渣浪就是看看卖衣服的和朋友们发的微博，一开新闻就是这玩意啊，我也很懵逼啊，吓的我赶紧卸载了

————————————萌新分割线——————

我举双手双脚赞成，曾经因算法问题卸载了渣浪，最开始每天看渣浪的新闻还是很好的，直到有一天开始

我就笑嘻嘻的卸载了，每天开新闻都是这些个封面，这居然是算法推荐出来的，我不是不想看美女，你天天整什么出轨性侵漏点这些没营养的新闻，我是真的看不下去

不吹不黑。只从技术角度来看，《人民日报》这篇文章也提到了一个很有意义的问题，那就是信息化时代我们很容易在不知不觉中被推荐内容“洗脑”。在现有技术手段下，适当引入人工筛选可以遏制一些有害行为，如软文推广、诈骗信息、虚假新闻等。

简单的科普一下媒体流常用的推荐算法：

• 在新用户注册时，你会被要求填写一些感兴趣的话题，作为初始“种子”进行文章推送。比如你表明你对篮球感兴趣，那么你的首页有很大比例都是篮球相关。
• 随着你的浏览量上升，比如关注了不同媒体或者大量浏览某个话题的文章以后，平台就会提高这类内容的占比。比较传统的协同算法，就是找到和你兴趣相似的人并把他们的浏览内容推荐给你，或者和当前文章相类似主题的文章。
• 当你看的文章越来越多，风格越来越鲜明以后，你的账户会被打上一些“标签”，对你的浏览爱好进行分类。有时候有社交属性的网站还会把使用者进行网络化/图谱化分析，加强推荐的准确性。

1. 推荐算法有什么问题？

你只能看到特定的话题，很难跳出这个信息圈。而这种效应会不断加强，时间久了容易一叶障目不见泰山。普通用户感兴趣的话题还是以生活、娱乐为主，导致其他有意义内容的生存空间比较小。不难发现，信息分发平台的每日推送头条常常是以明星八卦为主。慢慢的，你发现你对每个明星的行程了如指掌，但并不知道原来自动驾驶汽车已经上路实验好几年了。

很多网站试图加入一些“创新元素”，比如也会推荐“你可能对XXX感兴趣”。但往往这类帮助用户跳出“舒适圈”的信息流都很难引起大家的兴趣，还往往被用户批判一番。于是，最终能存活在大量用户时间线上的信息就主要是吸引眼球的爆款文了。这不仅促进了“标题党”和“博眼球”，也使得用户的精力花在了没有营养的内容上。

2. 如何利用推荐算法“作恶”？

对于推荐系统的依赖也给了别有用心的人发挥空间。大部分平台的推荐内容中都有一些难以分辨的广告推广、高级软文、甚至诈骗等。比如，一篇介绍中老年疾病的科普文章最后变成了销售保健品，可谓防不胜防。这可能是因为平台技术能力不足，也有可能是装作看不见甚至推波助澜，毕竟最后可以把锅推给算法。推荐系统不仅可以计算出推荐什么内容，也可以推测你适合的广告有哪些。即使不用算法推荐，人工推荐其实早就出现在了分发平台上，只不过更多的用在了商业推广上。

因此，标榜推荐算法的平台也有“作恶”的权力，比如慢性洗脑。请相信潜移默化的力量，慢慢的你会以为这些软文这是自己想看的内容，可能还在现实生活中购买了相关的产品。

3. 如何平衡推荐算法和人工筛选？

在法律法规和技术能力的双重限制下，不妨这么想：

• 站在官方角度考虑，建议将现在百分之二十的推荐文章替换为“我们需要阅读的文章”，比如“两学一做”等主旋律文章。很多平台，比如澎湃早就走了这个路线。这部分文章由编辑/运营手动选择，推荐给所有用户并关闭评论。在将来，或许当地政府选择“适合当地人民的内容”...这是时代的选择，我们都无可选择。
• 站在个人用户的角度，建议将系统推荐中百分之二十替换成“开阔眼界”的文章，比如前沿科技、艺术赏析、文化历史等。在比例不高不引起用户反感的前提下，尝试给用户提供一些不同的内容。
• 人工筛选也应该被用在识别“有害的内容上”，处理那些算法无法识别的恶意信息。很多高级的推广写的极具迷惑性，现在的语义分析能力并不能很好的区分出来。虚假新闻也很难依靠算法识别，这也是编辑/运营可以手动检索的内容之一。
• 科技企业也需要提高自己的业务道德。不是每一种钱都可以赚，人血馒头不能吃。如果明知是恶意信息但因为有利益原因还是将其推荐给用户，我宁可我们没有先进的技术。那些因为科技公司作恶而倾家荡产甚至失去生命的人的名字并没有远去，只是很容易被遗忘。内容推荐、新闻推送只不过是不同平台上的另一个应用，而类似的悲剧已经够多了。

4. 如果我不喜欢推送或者不愿意被“洗脑”怎么办？

技术宅建议还是选择自己订阅感兴趣的主题如RSS，或者写爬虫从特定站点收集自己感兴趣的话题。依赖于主流媒体的内容推送，不管是人工还是系统推荐，或多或少对会被洗脑。“定制化”和“效率”很难兼得。你如果要节省时间从平台处吸收资讯，就得接受他们“强奸”你的思想。

5. 这篇文章对于我们有什么启发？

换个角度看，这篇文章无心插柳地给普通大众提了个醒，要对于科技发展和技术公司保持警惕。大部分用户已经把安全和隐私完全交给了科技公司，现在连自己能看到什么也交了出去，这是无奈但正在发生的事情。过去短短几年，我们已经见识了多少科技公司做过的“恶”。

“民主”和“自由”本身就是对立的。问题的核心还在于提高分发平台的商业道德和技术能力，以及用户的阅读分辨能力。在短时间内，这两件事都不会发生，所以增加人工推荐的比例也不完全是个坏点子。我不反对利用人工筛选来增加些“主旋律内容”，但也希望增加一些“拓展眼界”的文章，并利用人工来减少一些迷惑性强的有害内容。

退一步说，大时代下没有人能独善其身，这也只是个开始而已 ʕ•ᴥ•ʔ

如果不考虑任何隐含意味，那这篇文章的观点是不无道理的。

人的观点和偏好的确会受读到的内容的影响，而旨在阅读量最大化的算法，很可能会设法去迎合消费者的偏好，投其所好地推荐相应内容，从而进一步地强化此前已有的观点。在将消费者困在其舒适区的同时，也加剧了社会中不同人群间在观点上的极化。而后者可能带来一些更严重的后果。 @阿萨姆 的答案已经提到了这一点。

今年美国经济评论(American Economic Review)上一篇由Martin和Yurukoglu发表的文章Bias in Cable News: Persuasion and Polarization, 讨论的就是这个话题。

这篇文章针对的是传统的有线新闻台，还不是目前流行的网络新媒体，但其背后的逻辑是一样的。

有些人大概不想看接下来的详细介绍，我把这篇文章的估计结果先列在这里：每周多看一个小时的Fox New Channel 节目，会使观众投票给共和党的可能性提高7.2%，而美国社会在近年来在意识形态上的两极分化，有相当部分可由新闻台对观众的迎合和影响来解释。

背景介绍

美国有三家主要的有线新闻台：CNN、FOX News Channel (FNC) 和 MSNBC。三者在观念上存在明显区别：FNC 偏右，MSNBC 偏左而 CNN 中间偏左。在美国，民主党通常持左翼立场，而共和党通常偏右，因而新闻台的立场，也就很容易转化为对相应党派的支持或反对。因而作者所用的基础方法，就是估计收看特定电视台的新闻，是否提高了观众投票给相应党派的可能性。更具体地，作者主要在讨论收看FNC新闻，是否会提高观众投票给共和党的可能。

作者用新闻台的用词来区分其左右立场，譬如是用”War in Iraq”，还是用”Global War on Terror”，用”Personal Accounts”还是”Private Accounts”。

当然，不同用词所代表的立场并非是作者自己指定，相反，他们从持不同立场的国会议员对不同词语的使用，来判断这些词语背后蕴含的政治色彩，再进一步根据新闻台对这些词语的使用，来估计出新闻台自身的立场。

作者用以区分立场的一些词语如下表所示，D和R分别表示民主党和共和党立场：

估计出的各个电视台立场如下图所示：

显然，近年来，不同电视台至少在用词上，分歧愈发严重。这其实本身也在反映美国社会当前越发严重的分裂现象。

方法

要讨论观看新闻是否会影响观众的投票结果，表面上看，只要将新闻的收视数据和选举的投票结果相匹配，看FNC收视率更高的地区，是不是投共和党也更多就可以了。

不过显然的，这样简单粗暴的观察会存在严重的内生性：那些共和党的铁杆支持者们也会喜欢更多收看立场与他们相近的新闻台。

为了解决这个问题，作者别出心裁地找了一个工具变量：相应新闻台在电视频道排序中所处的位置。排序越靠后，观众看相应新闻台的可能就越小——不仅如此，如下图所示，作者还发现排序越靠后的电视台，观众给它的评分也越低。

以收视为被解释变量的回归如下表所示：

这结果表明，FNC排序靠后，显著减少了观众收看其新闻节目的时间。

如果排序本身不通过其他渠道影响观众投票，而我们又能观察到FNC排名靠后的地区给共和党投票少，那就能比较有把握地说，这结果反映了观看FNC新闻节目对观众投票行为的影响。

电视频道排序一般由本地服务商决定，显然，更改排序会给观众带来困扰，因而服务商们很少会改变频道排序。每当增加新频道时，就将新频道排到最后。

因而各个新闻台在频道排序中的位置，基本取决于相应新闻台进入本地的相对时间。因而逻辑上说，FNC可能会优先进入那些更有可能收看他们节目的观众所密集的地区，这会导致FNC排序靠前的地区，观众本来就会更多投票给共和党。

作者检验了这一可能性。

如上表所示，作者的估计结果表明，那些预期FNC收视更高或预期更多投票给共和党的地区，其频道排名并不更靠前。

此外，美国还有不少不用卫星电视用户，显然，有线电视的频道排序无法影响这些用户的收视。但如果 FNC 或其他新闻台真的是根据预测的地区收视或其他情况决定何时进入这一地区，进而决定自身在频道列表中的排名，那么我们在数据上就会观察到频道排名与卫星电视用户的收视情况也存在相关性。

但上表中的结果表明，频道排序仅影响有线电视用户收视，而不影响卫星用户的收视。这结果进一步说明了频道排序可作为一个合格的工具变量使用。

结果

以FNC在频道排序中的位置为工作变量的二阶段回归结果如下表所示：

根据这一结果，每周多看一小时FNC频道，那么在总统选举中投票给共和党的概率就会增加大约7.2%。

在此基础上，作者进一步估计了一个结构方程，将观众对新闻台的选择行为也内生化，来估计新闻台的整体影响。他们指出，观众的这一选择行为，将使不同新闻台目标观众群体的立场出现越来越大的差异，而电视台势必会为迎合自身观众群体的偏好来选择越来越带偏向的立场，但这反过来，又进一步影响了观众的观点和行为，强化了观众的选择，甚至导致整个社会的两极分化。即使一开始相当微小的初始立场差异，在这一机制下，都会被不断强化。

显然，这一结果与我们在开头看到的电视台立场的变化图是相吻合的。按照作者的估计，美国社会在意识形态上的两极分化，有相当部分可由这一逻辑解释。

总而言之，我们的观点是会被读到的东西所影响的，如果我们每个人都只读自己认可、喜欢的内容，而内容的提供者又不断地迎合我们的这种喜好，那这在将我们自身困在由这些内容所构筑的舒适陷阱中的同时，也可能会加剧全社会的分歧，乃至冲突。

参考文献：

Martion, G. J., and Ali Yurukoglu, 2017, Bias in Cable News: Persuasion and Polarization, American Economic Review, 107(9): 2565-2599.