《互联网信息服务算法推荐管理规定》提出用户可以关闭算法推荐，此举的出发点是什么？造成的影响有？ 第1页

其实没有什么影响。

现在互联网流量已经高度垄断了，都没有算法也等于都有算法。

我们先思考为什么国家要出台这么一个政策，再思考可能造成的影响：

—2022.2.6日更新Part3用户关闭算法推荐的比例；

1.为什么

网信办推出此举措真的是觉得算法推荐本身有问题吗？推荐算法可以追溯到上个世纪了，为什么国家现在出来管理推荐算法？是因为大数据时代用户数据太多，基于这些用户数据训练出的推荐模型实在太NB，不得不管管？肯定不是：

• 一方面是暴露了个人隐私：我想更深层次的还是觉得使用过多个人数据进行个性化推荐，可能导致用户的隐私会被暴露。用户历史看过&点击过&购买过这些行为都作为推荐算法参考的历史数据的话，最终展现的推荐结果其实就是暴露了用户的隐私。系统给你推荐这个商品，是因为你历史看过，尤其是一些敏感商品，这些推荐都会暴露用户的个人偏好等等；
• 一方面是推荐的内容存在一定问题：推荐模型都会参考相似用户的行为或者考虑大多数用户共同的偏好等，而大部分用户对于一些敏感涉黄的内容，点击率都很高。所以导致很多时候算法冷启动时都会给用户推荐一些敏感内容。在推荐模型侧是很难避免推荐敏感内容的，因为推荐模型本身就是给用户推荐更高概率点击的内容。要从根源上解决就是关闭算法推荐。关于算法如何控制错误内容的传播，可以参考我上一个回答。

所以综合以上内容国家希望给用户多一种选择，这个出发点本身是好的。能够保护用户的隐私也可以一定程度上远离一些敏感信息。

2. 影响

2.1 整体的信息分发模式

当前无论是电商APP还是短视频APP，都是通过推荐模型进行信息分发。比如下图的淘宝首页，一整套的推荐瀑布流。首页最上方原本的banner位都被移走，就是为了要上移整个推荐瀑布流的位置。

不知道大家记不记得以前淘宝首页啥样，以前并不是这样的推荐信息流，都是各种频道&活动&分类入口。这种内容以往都是每天运营手动配置的，需要很多人力。现在变成推荐模型进行信息分发，分发的效率更高，而且用户对内容更感兴趣，整体的转化效率也高。

如果现在用户关闭了个性化推荐算法？这部分的内容怎么进行分发？难道变回到以前不靠推荐算法运营手动配置的模式嘛？或许只能去改变首页的样式了。

2.2 APP的样式

• 推荐信息瀑布流

上面也介绍过使用推荐信息瀑布流，就是因为比以往人工配制各种内容的效率更高，效果也更好。如果用户关闭了算法推荐服务，是不是前端就不再展现这种样式了，改为以往的各种活动楼层。我想各大APP应该不希望回到从前那种模式，但是如何去解？尤其是对于抖音&快手这类APP，肯定不希望改变用户的使用习惯，那么当用户在关闭了个性化推荐服务后，用户不停地上滑刷视频，给用户推荐什么内容？都推荐热门或者观看次数多的视频嘛？这类视频算不算个性化推荐？

• 各种推荐模块是否还需要存在

规定里面明确说明了“用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务”。比如购物车加购的时候，电商APP都会有“为你推荐”，那么用户如果关闭了个性化算法推荐，这些模块的推荐都将只能采用一些热门兜底模式，目前各大互联网公司也是这么做的。

2.3 计算广告领域

此政策的调整，对于计算广告影响也很大。一方面当用户关闭个性化推荐服务后，很多推荐位置应该也就会被屏蔽了，导致整体的推荐流量减少。另一方面，推荐系统的兴起使得广告都转向以用户兴趣驱动的RTB实时竞价广告，传统的按照某一资源位或者固定时间段售卖的GD、CPD&CPT等广告都越来越少了。此类广告主要是大的品牌商购买，起到品牌推广效应，但是整体转化效果一般。大部分广告主都转向以用户兴趣驱动的RTB实时竞价广告。但如果不允许算法进行千人千面分发，那只能千人一面固定展示某些信息，这种形式就没办法根据用户兴趣预估去售卖RTB实时竞价广告。大家都只能包段包资源位去售卖广告，这种形式的广告面向的广告主比较有限，而且效果一般，可能会对互联网公司的推荐广告收入产生非常大的影响。

3. 个人猜想

• 会有多少人关闭

如果该功能真的在各大APP上线后，会有多少人去关闭个性化推荐服务？

我想可能在抖音&快手这类APP上关闭的用户比例会远远小于电商&资讯类APP。因为刷抖音&快手这类APP的用户，如果关闭了推荐服务就失去了使用这类APP最初的乐趣，当然关闭以后可以控制自己的使用时长。但对于电商&资讯类APP则完全不一样，可能会有很多用户关闭推荐服务，此类app中推荐本身并不能给用户带来多少增益价值&乐趣，可有可无。

——2022.26日更新，据我了解目前在电商APP里面关闭个性化推荐服务的用户不足1%，比例很低，所以目前该功能对于整体电商的信息分发没有造成多大影响。

• 各大APP如何实现

其实现在已经有部分APP存在关闭个性化推荐&广告的功能了，我想大部分用户可能都不知道。比如淘宝其实已经有这个功能了：

我关闭以后发现各大推荐模块仍然存在，但是推荐的商品全是一些千奇百怪的商品，按理说不进行个性化推荐，正常推热销&随机推也不会推出这种莫名其妙的商品。淘宝首页推荐信息流第三个位置给我推荐了一个捣药罐，整个信息流里面都是一些冷门商品，完全没有想逛的欲望。以淘宝的技术能力，不至于推荐的商品如此令人反感，感觉在反向推荐，淘宝是不是希望通过这种做法来促使我重新开启个性化推荐。

所以我想各大厂商肯定都会响应国家政策支持该功能，但是都会通过各种方法来让用户重新开启个性化推荐，反向推荐恶心你也是一种做法。

点赞和喜欢是对原创最大的支持！关注我，了解策略产品经理和AI产品经理最新动向～

推荐算法的初心是让人看见更大的世界；而目前推荐算法的表现则是让人踏入更小的信息孤岛。

互联网本来是想让把孤立的世界通过网线连接在一起， 谁成想却造就了一间又一间的信息茧房。

人类是人工智能的设计和创造者，其本意是想通过机器学习和深度学习模型来帮助人类做出更好的决策，例如围棋和象棋的最佳落点，汽车驾驶的最佳路径决策等，其一直被用来寻找最优化或者相对优化解决方案的任务。

但随着AI的发展，冷酷无情的模型和功力强大的算法在某些时候成了主宰，本应得以享受的人类却成了算法的奴隶和阶下囚。

如果说智子锁死了地球人的物理发展，那算法在很多时候就成为阻碍人类个体发展的智子。

例如我的朋友 @咸球，他就经常向我抱怨，说自己现在觉得刷b站太无聊了，首页全是下图这些学习穿搭的内容，感觉太单调了，很无趣。

我告诉他，没关系，无论你怎么挣扎，纯靠推荐算法学习的平台，最终都会走向和小姐姐一起学穿搭这条路上去。

其次，现在的很多平台其实压根不需要推荐算法，只需要纯推穿搭就可以了，因为即使靠算法，最终还是要走到这一步的。另外，如果用户有需要的话，自然会主动去搜索其它内容的。

他听了之后恍然大悟，决定安心学习穿搭，并且还要扩大推荐系统的范围，听说最近开始学习瑜伽和宅舞去了，咱也不知道，咱也不敢问~

从上述我朋友的例子可以看出，现在各大社交媒体，无论是像知乎一样的图文平台、像bilibili一样的视频平台、还是抖音等短视频平台，决定用户推荐列表的是什么？答案是：模型，或者说是算法。

算法推荐一步步鞭笞着你，鞭笞着我，鞭笞着我们走向了学习穿搭，学习贝斯、二胡和钢琴的软色情不归路。

继续发展下去，这种事情也只会越来越内卷，乃至于看到下面这种，内心也没有丝毫的波动了为了迎合算法嘛，露更多的身体、搞更多的擦边球来赚钱，不寒碜（师爷语气.jpg

如果不是为了靠算法来赚钱，谁又愿意给宅男跳宅舞呢？

人不再是模型的受益者，反倒被其所压榨，所剥削。

以点击率，阅读率，完整播放率等为目标，把每个人都陷入一座座的孤岛危机，造成极其强烈的社交媒体灾难。互联网不再是看到更大世界的平台，而是成为了一座座的信息孤岛制造机。

与此同理的是外卖算法，社交媒体靠的是点击率，阅读率、完播率，而外卖算法靠的则是不计其数的外卖小哥的配送数据，不断优化配送路径，缩减配送时间，提高配送效率。社交媒体把人逼到了精神的信息孤岛，而外卖算法把人逼到了物理的生存困境。

要求治理算法推荐，不给错误内容提供传播渠道，算法倒是其次，因为就算通过“算法取中”，“放宽阈值”或者直接加入“人工推荐”等方法，其从本质上来看，算法，或者说模型，一定还是会有一个自己“最严苛推荐算法”的存在，只是平台采取与否的问题。

真正重要的是，如何从根本上拒绝这类推荐算法的诞生？

我觉得，前两天公布，并将于明年1月1日起实施《深圳经济特区数据条例》是个很好的例子

条例规定，将未满十四岁未成年人的个人数据视作敏感个人数据，应当向其明示用户画像的具体用途和主要规则，个人数据处理规则以“告知—同意”为前提，且数据处理者应当以易获取的方式向其提供拒绝的有效途径。其次，不得通过数据分析无正当理由对交易条件相同的交易相对人实施差别待遇。

我认为这份《条例》的出台是很好的，为保护我国公民的互联网隐私起了一个很好的头。

是时候该对这些社交媒体平台的数据，包括用户在平台上留下来的点击率、播放率、阅读率等数据，都做到更好更完善的保护了。一定要使得这些大量且核心的数据，无法如此轻易的被平台所获取了，不然以后的推荐算法只会更加过分，步步紧逼之势只会愈发加重。

如果从数据入手，那么，我们便有可能避免现如今如此之恐怖的社交媒体“灾难”了。

现如今，社交媒体的筛选算法，很大程度上决定着用户查阅的内容，对人类无穷无尽数据的重复强化反馈，使得AI把人类引向了女拳、南拳、恐怖主义等等的怪圈里，无法自拔，也无法自救。

算法像是一条流水线一样，每时每刻都捆绑、消耗着我们的经历，得到的不是摄取知识的快乐，只有驴子拉磨的劳累、空虚与寂寞。

管理规定是好的，但具体怎么执行又是一回事了，主要看平台如何操作。

我认为从治理推荐算法为目的入手，最终还是要落实到对用户数据的限制上去，因为现如今，数据才是算法的灵魂与血肉，而模型本身只是个骨架罢了。

希望以后能在我的推荐列表上看到“更大的世界”，而不是“更露骨的穿搭”

好耶ヽ(✿ﾟ▽ﾟ)ノ

如果不能意识到推荐系统的后果，那么许多人将成为推荐系统的 '表达'

推荐系统不仅在塑造着使用者，也在影响着内容提供者。

推荐系统如何塑造使用者:

一、把你想看的推给你；
二、把好看的推给你；
三、把他们认为你想看的推给你；
四、引导你，把内容变成你想看的；

人类的本质就是复读机。

“今晚月色真美”—— 《源氏物语》
传说夏目漱石还是英语老师的时候，曾问学生，I love you该如何翻译。有学生翻译为“爱しています”（比较直白的“我爱你”），夏目漱石说，日本人是不会把“我爱你”挂在嘴边的。日本人会说“月が綺麗ですね”（月色真美）。自此，该句成为了日式暧昧的标志。

想必大多数人了解这句话并非从原文而是从下面那段故事中了解，从而习惯于这样的表达。但不是每个人都曾靠在爱人身边携手仰望过星空月色，那么当这个故事或观点反复出现在你视线中会有两种可能，迅速靠近或推离。

目前比较成熟的 app 的推荐系统（b站）来说，观察者网作为优质复读机站在天平一端，反观察者网的人站在另一端，原本双方可能并没有这么大的分歧，但每一次的内容推送将他们推进或推离其中某一种观点，使得原本能相互容忍的群体产生隔阂。

地缘边界 | 在信息媒介间 | 竖起了一道墙

推荐系统正是其中推手。你很难相信岛外势力为什么敢于叫嚣，明明很弱却过分自信。

其实换个角度就很好理解，他们拿到的消息跟我们完全不同。就像狼人杀一样，闭眼平民和睁眼神牌的视角是完全不同的。在网络空间下竟然不能共享同一片天空。

如何评价 Netflix 纪录片《监视资本主义：智能陷阱》（The Social Dilemma）？

推荐系统如何影响着内容提供者：

一、服从于推荐系统

不仅用户需要接受推荐系统的训练，连创作者也得服从于推荐系统的调度。创作者的本意是将自身所想创作出来给大家欣赏，但是现在许多创作者的目的是如何挣更多的钱，让自己的账号具有更大的影响力。

这并没有对错之分，可是这样就需要经常思考如何吸引更多的读者，但吸引本身是件很难量化的事情，就导致 流量至上。

知乎热榜的熟面孔太多了，账号下面的本人真的有这么强烈的表达欲和需要发泄的情绪吗？想必也不是，只不过这样才能更受欢迎，吸收到更多流量，被推荐到更多用户手里，获取更大利益。不要完全去琢磨推荐系统的权重

二、歧视的推荐

在定义公平的推荐前需要讲讲什么是充满歧视的推荐。之前有个 trick（小技巧） 在网上传播已久，大意是在淘宝搜索 “裙子” 关键词，如果推荐的裙子价位在 1000 以上，那你就是淘宝认定的高端用户。

第二种就是推荐屏蔽，出行计划中最优的选择方案往往不是性价比最高或者最廉价的，正如将药店里最不挣钱的药放在最下层，将最适合的结果隐藏，推荐符合平台利益的内容。

最后，“大数据杀熟”本质是用大数据杀熟，而不是大数据本身就会杀熟。推荐系统也一样，平台确定了怎样的运营规律就决定了它的 “价值观”，而不是它本身的错。我们需要公平的推荐系统，而世上并没有绝对的公平，需要做的还很多。

不要让算法失控

在理解这段内容前，建议大家先看看这个回答，为什么学算法的人也要学社会伦理道德和法律？：请问怎么看待大学开设“法学（人工智能方向）”这个专业的？

技术的进步一直会带来各种伦理问题，例如基因编辑、试管婴儿的社会问题，例如大数据杀熟、算法歧视，甚至连最近大火的元宇宙也有数不清的伦理问题，要推进这些技术的发展就必然要探究其中对社会伦理的冲击影响。

快播CEO入狱前说过一句话：技术无罪。但是技术背后已知或未知的缺陷会遭至不可知的后果。

任何一项新技术的发展和应用都存在着相互促进又相互制约的两个方面：

一方面，技术的发展能带来社会的进步与变革；另一方面，技术的应用要以安全为前提，要受到安全保障机制的制约。然而安全是伴生技术，往往会在新技术的发展之后才被关注到，因为人们首先会去享用新技术带来的红利，之后才会注意到新技术伴随的种种安全问题。

算法承载着编程者的意志，为企业攫取利益。为了代表最广泛人民的利益，需要有条例监管其服务和价值导向，无论如何，社会上的一切落脚点都是人本身。

我一个月前给网信办的主任信箱写了一封信，提出的核心思想就是用户应该有权关闭推荐和广告。

信中的核心思想大致如下：

对于黄赌毒推荐和广告，我有一些更具哲学意义的思考。

1. 就因为大多数人喜欢黄赌毒，我就没有了不喜欢黄赌毒的权利，因为算法总是偏向大多数人，少数人要被喂屎。这是否是多数人对少数人的暴政。

2. 普通人是否有拒绝黄赌毒推荐和广告的权利？凭什么我用了app，就一定要看黄赌毒。我充分理解app运营需要成本，我愿意充值付费成为会员以避免看黄赌毒，可app是否给过用户这样的选项？

3. 知乎、b站我都充了大会员，但我发现我还是被迫看黄赌毒，真是被一鱼两吃，这算不算欺负用户？

我思来想去，都不觉得互联网公司占理，大家觉得呢？