问题

《互联网信息服务算法推荐管理规定》提出用户可以关闭算法推荐,此举的出发点是什么?造成的影响有?

回答
《互联网信息服务算法推荐管理规定》允许用户关闭算法推荐,这一举措背后,是监管部门对互联网信息服务发展中出现的新问题、新挑战的深刻洞察和积极回应。其出发点是多方面的,核心在于保护用户权益,促进互联网行业的健康可持续发展。

出发点剖析:

1. 用户自主权与知情权的确立: 算法推荐在带来便捷的同时,也可能隐藏着信息茧房、操纵用户行为、甚至侵犯隐私的风险。用户被算法“投喂”自己可能并不需要或不感兴趣的内容,长期以往会形成固化的认知模式,限制了视野。允许用户关闭算法推荐,最直接的出发点就是还用户对自己信息获取的控制权。用户有权选择接收什么样的信息,而不是被动地接受算法的“安排”。这是一种对用户作为信息接收者自主性的尊重,也是对知情权的保障——用户应该知道自己正在被何种机制影响,并有权选择退出。

2. 防止信息茧房与促进多元化信息获取: 算法的核心逻辑是“精准推送”,即基于用户的过往行为、兴趣偏好来预测其可能喜欢的内容,并优先展示。这很容易导致用户长期沉浸在与自己观点相似或兴趣高度集中的信息环境中,形成“信息茧房”。当用户被封闭在自己熟悉的领域时,接触新观点、不同视角的可能性就会大大降低,不利于个体的认知发展和社会整体的多元化。允许用户关闭算法推荐,为用户提供了一个跳出算法循环、主动探索和接触多元信息的途径。

3. 保障公平竞争与行业健康发展: 过去,部分平台过度依赖算法的流量导向,可能导致优质但非热门内容被埋没,创新性的产品或服务难以获得曝光机会。而掌握算法优势的平台更容易形成马太效应,加剧市场垄断。允许用户关闭算法推荐,可以在一定程度上削弱平台仅凭算法进行流量操控的能力,鼓励平台更加注重内容本身的质量、服务的创新以及用户体验的整体提升,从而促进更加公平的竞争环境,引导行业向更健康、更可持续的方向发展。

4. 应对潜在的算法滥用风险: 算法的复杂性和黑箱性质,使得其存在被滥用的风险,例如:通过算法操纵用户情绪、诱导消费、甚至传播不实信息。虽然规定本身不能完全杜绝这些问题,但提供用户关闭的选项,至少是提供了一种对抗潜在算法操纵的手段。当用户意识到自己可能被算法“套路”时,可以选择一个更“原始”、更少干扰的模式,这是对技术滥用风险的一种制衡。

5. 回应社会关切与民意诉求: 近年来,社会各界对算法推荐带来的负面影响,如沉迷、焦虑、隐私泄露等问题的关注度不断提高,用户的抱怨和担忧也日益增多。这一规定的出台,也是对社会关切的积极回应,体现了监管部门倾听民意、解决用户痛点的决心。

造成的影响:

1. 用户体验的个体化与多样化:
正面影响: 对于那些希望“摆脱算法控制”、自由探索信息的用户,关闭算法推荐将带来极大的解放感。他们可以根据自己的节奏和兴趣来主动搜索、浏览,而不是被动接受推送。这对于寻求深度阅读、专业研究或只是想随机发现一些“惊喜”的用户来说,是一项积极的改变。
负面影响(潜在): 对于习惯了算法“投喂”的用户,或者对信息获取方式不那么主动的用户,关闭算法推荐后可能会感到无所适从,需要花费更多时间和精力去主动寻找信息,反而降低了信息获取的效率和便利性。他们可能需要重新适应一种更传统、更费力的信息消费模式。

2. 平台内容分发机制的挑战:
挑战: 平台将不得不重新思考其内容分发策略。如果大量用户选择关闭算法推荐,平台的流量分配逻辑将发生变化。那些依赖算法精准推荐来驱动用户停留和转化的模式将受到冲击。平台需要考虑如何平衡算法推荐与非算法推荐模式下的内容展示,以满足不同用户的需求。
转型压力: 平台可能会面临更大的压力去优化搜索功能、分类导航、以及提供更清晰的内容标签和编辑推荐,以弥补算法减弱后的信息组织能力。对于高度依赖算法来维持用户粘性和商业变现的平台来说,这可能是一次重大的战略调整。

3. 用户信息获取习惯的改变:
重拾主动性: 用户可能会被鼓励重新培养主动搜索和筛选信息的能力。这种改变长期来看,可能有助于提升用户的媒介素养,让他们对信息的来源和传播过程有更清醒的认识。
分化: 用户群体可能会出现分化。一部分用户会拥抱关闭算法推荐,回归更自主的信息获取;另一部分则可能继续依赖算法,享受其便利性。这使得平台需要提供更加精细化的用户服务选项。

4. 对平台商业模式的影响:
广告精准度: 算法推荐是许多互联网平台进行精准广告投放的基础。如果用户关闭算法推荐,平台可能需要寻找新的方式来维系广告收入,例如通过用户主动提供的兴趣标签、或者更加笼统的流量统计来支撑广告业务,这可能导致广告的精准度和转化率有所下降。
内容生态调整: 平台可能会重新评估哪些类型的内容更能吸引不依赖算法的用户,或者哪些内容可以通过其他方式(如人工编辑、用户主动收藏)获得更好的曝光。这可能促使平台生产或引入更多元化、更具深度或互动性的内容,以满足不同需求的用户群体。

5. 监管与合规成本的增加:
技术实现: 平台需要投入技术资源来设计和实现“关闭算法推荐”的功能,并确保其易于发现和使用。这涉及到产品设计、用户界面以及后台逻辑的调整。
合规性审查: 监管部门可能会对平台是否有效提供此选项,以及算法推荐在用户关闭后的表现进行审查,增加了平台的合规成本。

总而言之,《互联网信息服务算法推荐管理规定》允许用户关闭算法推荐,是技术发展与社会需求博弈下的一个重要举措。它的出发点是为了用户赋权,纠正算法可能带来的负面效应,促进互联网生态的健康。而它带来的影响,将是深远的,既可能重塑用户的信息获取习惯,也可能迫使平台调整其核心分发逻辑和商业模式,最终指向一个更加以用户为中心、信息更加多元和公开的互联网环境。这是一个复杂的社会和技术调整过程,其最终效果仍有待观察和检验。

网友意见

user avatar

此举的出发点是避免只推送你爱看爱听的内容,造成的echo chamber效应,久而久之人与人之间就生活在不同的世界里,不利于社会的融合和稳定。

例子就是反智的部分美国人,一边怀疑疫苗加了芯片控制大脑,森林大火是犹太人的太空激光武器打出来的,一边打砸林肯雕像骂他种族主义,要求废除警察局。

我十分支持这项规定,就是看贯彻实施怎么样了。推荐系统带来的粘性、流量和转化率是很多app舍不得放手的。

user avatar

其实没有什么影响。

现在互联网流量已经高度垄断了,都没有算法也等于都有算法。

user avatar

我们先思考为什么国家要出台这么一个政策,再思考可能造成的影响:

—2022.2.6日更新Part3用户关闭算法推荐的比例;

1.为什么

网信办推出此举措真的是觉得算法推荐本身有问题吗?推荐算法可以追溯到上个世纪了,为什么国家现在出来管理推荐算法?是因为大数据时代用户数据太多,基于这些用户数据训练出的推荐模型实在太NB,不得不管管?肯定不是:

  • 一方面是暴露了个人隐私:我想更深层次的还是觉得使用过多个人数据进行个性化推荐,可能导致用户的隐私会被暴露。用户历史看过&点击过&购买过这些行为都作为推荐算法参考的历史数据的话,最终展现的推荐结果其实就是暴露了用户的隐私。系统给你推荐这个商品,是因为你历史看过,尤其是一些敏感商品,这些推荐都会暴露用户的个人偏好等等;
  • 一方面是推荐的内容存在一定问题:推荐模型都会参考相似用户的行为或者考虑大多数用户共同的偏好等,而大部分用户对于一些敏感涉黄的内容,点击率都很高。所以导致很多时候算法冷启动时都会给用户推荐一些敏感内容。在推荐模型侧是很难避免推荐敏感内容的,因为推荐模型本身就是给用户推荐更高概率点击的内容。要从根源上解决就是关闭算法推荐。关于算法如何控制错误内容的传播,可以参考我上一个回答。

所以综合以上内容国家希望给用户多一种选择,这个出发点本身是好的。能够保护用户的隐私也可以一定程度上远离一些敏感信息。

2. 影响

2.1 整体的信息分发模式

当前无论是电商APP还是短视频APP,都是通过推荐模型进行信息分发。比如下图的淘宝首页,一整套的推荐瀑布流。首页最上方原本的banner位都被移走,就是为了要上移整个推荐瀑布流的位置。

不知道大家记不记得以前淘宝首页啥样,以前并不是这样的推荐信息流,都是各种频道&活动&分类入口。这种内容以往都是每天运营手动配置的,需要很多人力。现在变成推荐模型进行信息分发,分发的效率更高,而且用户对内容更感兴趣,整体的转化效率也高。

如果现在用户关闭了个性化推荐算法?这部分的内容怎么进行分发?难道变回到以前不靠推荐算法运营手动配置的模式嘛?或许只能去改变首页的样式了。

2.2 APP的样式

  • 推荐信息瀑布流

上面也介绍过使用推荐信息瀑布流,就是因为比以往人工配制各种内容的效率更高,效果也更好。如果用户关闭了算法推荐服务,是不是前端就不再展现这种样式了,改为以往的各种活动楼层。我想各大APP应该不希望回到从前那种模式,但是如何去解?尤其是对于抖音&快手这类APP,肯定不希望改变用户的使用习惯,那么当用户在关闭了个性化推荐服务后,用户不停地上滑刷视频,给用户推荐什么内容?都推荐热门或者观看次数多的视频嘛?这类视频算不算个性化推荐?

  • 各种推荐模块是否还需要存在

规定里面明确说明了“用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务”。比如购物车加购的时候,电商APP都会有“为你推荐”,那么用户如果关闭了个性化算法推荐,这些模块的推荐都将只能采用一些热门兜底模式,目前各大互联网公司也是这么做的。

2.3 计算广告领域

此政策的调整,对于计算广告影响也很大。一方面当用户关闭个性化推荐服务后,很多推荐位置应该也就会被屏蔽了,导致整体的推荐流量减少。另一方面,推荐系统的兴起使得广告都转向以用户兴趣驱动的RTB实时竞价广告,传统的按照某一资源位或者固定时间段售卖的GD、CPD&CPT等广告都越来越少了。此类广告主要是大的品牌商购买,起到品牌推广效应,但是整体转化效果一般。大部分广告主都转向以用户兴趣驱动的RTB实时竞价广告。但如果不允许算法进行千人千面分发,那只能千人一面固定展示某些信息,这种形式就没办法根据用户兴趣预估去售卖RTB实时竞价广告。大家都只能包段包资源位去售卖广告,这种形式的广告面向的广告主比较有限,而且效果一般,可能会对互联网公司的推荐广告收入产生非常大的影响。

3. 个人猜想

  • 会有多少人关闭

如果该功能真的在各大APP上线后,会有多少人去关闭个性化推荐服务?

我想可能在抖音&快手这类APP上关闭的用户比例会远远小于电商&资讯类APP。因为刷抖音&快手这类APP的用户,如果关闭了推荐服务就失去了使用这类APP最初的乐趣,当然关闭以后可以控制自己的使用时长。但对于电商&资讯类APP则完全不一样,可能会有很多用户关闭推荐服务,此类app中推荐本身并不能给用户带来多少增益价值&乐趣,可有可无。

——2022.26日更新,据我了解目前在电商APP里面关闭个性化推荐服务的用户不足1%,比例很低,所以目前该功能对于整体电商的信息分发没有造成多大影响。

  • 各大APP如何实现

其实现在已经有部分APP存在关闭个性化推荐&广告的功能了,我想大部分用户可能都不知道。比如淘宝其实已经有这个功能了:

我关闭以后发现各大推荐模块仍然存在,但是推荐的商品全是一些千奇百怪的商品,按理说不进行个性化推荐,正常推热销&随机推也不会推出这种莫名其妙的商品。淘宝首页推荐信息流第三个位置给我推荐了一个捣药罐,整个信息流里面都是一些冷门商品,完全没有想逛的欲望。以淘宝的技术能力,不至于推荐的商品如此令人反感,感觉在反向推荐,淘宝是不是希望通过这种做法来促使我重新开启个性化推荐。

所以我想各大厂商肯定都会响应国家政策支持该功能,但是都会通过各种方法来让用户重新开启个性化推荐,反向推荐恶心你也是一种做法。

点赞和喜欢是对原创最大的支持!关注我,了解策略产品经理和AI产品经理最新动向~

user avatar

推荐算法的初心是让人看见更大的世界;而目前推荐算法的表现则是让人踏入更小的信息孤岛。

互联网本来是想让把孤立的世界通过网线连接在一起, 谁成想却造就了一间又一间的信息茧房。

人类是人工智能的设计和创造者,其本意是想通过机器学习和深度学习模型来帮助人类做出更好的决策,例如围棋和象棋的最佳落点,汽车驾驶的最佳路径决策等,其一直被用来寻找最优化或者相对优化解决方案的任务。

但随着AI的发展,冷酷无情的模型和功力强大的算法在某些时候成了主宰,本应得以享受的人类却成了算法的奴隶和阶下囚。

如果说智子锁死了地球人的物理发展,那算法在很多时候就成为阻碍人类个体发展的智子。

例如我的朋友 @咸球,他就经常向我抱怨,说自己现在觉得刷b站太无聊了,首页全是下图这些学习穿搭的内容,感觉太单调了,很无趣。

我告诉他,没关系,无论你怎么挣扎,纯靠推荐算法学习的平台,最终都会走向和小姐姐一起学穿搭这条路上去。

其次,现在的很多平台其实压根不需要推荐算法,只需要纯推穿搭就可以了,因为即使靠算法,最终还是要走到这一步的。另外,如果用户有需要的话,自然会主动去搜索其它内容的。

他听了之后恍然大悟,决定安心学习穿搭,并且还要扩大推荐系统的范围,听说最近开始学习瑜伽和宅舞去了,咱也不知道,咱也不敢问~

从上述我朋友的例子可以看出,现在各大社交媒体,无论是像知乎一样的图文平台、像bilibili一样的视频平台、还是抖音等短视频平台,决定用户推荐列表的是什么?答案是:模型,或者说是算法。

算法推荐一步步鞭笞着你,鞭笞着我,鞭笞着我们走向了学习穿搭,学习贝斯、二胡和钢琴的软色情不归路。

继续发展下去,这种事情也只会越来越内卷,乃至于看到下面这种,内心也没有丝毫的波动了为了迎合算法嘛,露更多的身体、搞更多的擦边球来赚钱,不寒碜(师爷语气.jpg

如果不是为了靠算法来赚钱,谁又愿意给宅男跳宅舞呢?

人不再是模型的受益者,反倒被其所压榨,所剥削。

以点击率,阅读率,完整播放率等为目标,把每个人都陷入一座座的孤岛危机,造成极其强烈的社交媒体灾难。互联网不再是看到更大世界的平台,而是成为了一座座的信息孤岛制造机。

与此同理的是外卖算法,社交媒体靠的是点击率,阅读率、完播率,而外卖算法靠的则是不计其数的外卖小哥的配送数据,不断优化配送路径,缩减配送时间,提高配送效率。社交媒体把人逼到了精神的信息孤岛,而外卖算法把人逼到了物理的生存困境。

要求治理算法推荐,不给错误内容提供传播渠道,算法倒是其次,因为就算通过“算法取中”,“放宽阈值”或者直接加入“人工推荐”等方法,其从本质上来看,算法,或者说模型,一定还是会有一个自己“最严苛推荐算法”的存在,只是平台采取与否的问题。

真正重要的是,如何从根本上拒绝这类推荐算法的诞生?

我觉得,前两天公布,并将于明年1月1日起实施《深圳经济特区数据条例》是个很好的例子

条例规定,将未满十四岁未成年人的个人数据视作敏感个人数据,应当向其明示用户画像的具体用途和主要规则,个人数据处理规则以“告知—同意”为前提,且数据处理者应当以易获取的方式向其提供拒绝的有效途径。其次,不得通过数据分析无正当理由对交易条件相同的交易相对人实施差别待遇。

我认为这份《条例》的出台是很好的,为保护我国公民的互联网隐私起了一个很好的头。

是时候该对这些社交媒体平台的数据,包括用户在平台上留下来的点击率、播放率、阅读率等数据,都做到更好更完善的保护了。一定要使得这些大量且核心的数据,无法如此轻易的被平台所获取了,不然以后的推荐算法只会更加过分,步步紧逼之势只会愈发加重。

如果从数据入手,那么,我们便有可能避免现如今如此之恐怖的社交媒体“灾难”了。

现如今,社交媒体的筛选算法,很大程度上决定着用户查阅的内容,对人类无穷无尽数据的重复强化反馈,使得AI把人类引向了女拳、南拳、恐怖主义等等的怪圈里,无法自拔,也无法自救。

算法像是一条流水线一样,每时每刻都捆绑、消耗着我们的经历,得到的不是摄取知识的快乐,只有驴子拉磨的劳累、空虚与寂寞。

管理规定是好的,但具体怎么执行又是一回事了,主要看平台如何操作。

我认为从治理推荐算法为目的入手,最终还是要落实到对用户数据的限制上去,因为现如今,数据才是算法的灵魂与血肉,而模型本身只是个骨架罢了。

希望以后能在我的推荐列表上看到“更大的世界”,而不是“更露骨的穿搭”

好耶ヽ(✿゚▽゚)ノ

user avatar

如果不能意识到推荐系统的后果,那么许多人将成为推荐系统的 '表达'

推荐系统不仅在塑造着使用者,也在影响着内容提供者。

推荐系统如何塑造使用者:

一、把你想看的推给你;
二、把好看的推给你;
三、把他们认为你想看的推给你;
四、引导你,把内容变成你想看的;


人类的本质就是复读机。

“今晚月色真美”—— 《源氏物语》
传说夏目漱石还是英语老师的时候,曾问学生,I love you该如何翻译。有学生翻译为“爱しています”(比较直白的“我爱你”),夏目漱石说,日本人是不会把“我爱你”挂在嘴边的。日本人会说“月が綺麗ですね”(月色真美)。自此,该句成为了日式暧昧的标志。

想必大多数人了解这句话并非从原文而是从下面那段故事中了解,从而习惯于这样的表达。但不是每个人都曾靠在爱人身边携手仰望过星空月色,那么当这个故事或观点反复出现在你视线中会有两种可能,迅速靠近或推离

目前比较成熟的 app 的推荐系统(b站)来说,观察者网作为优质复读机站在天平一端,反观察者网的人站在另一端,原本双方可能并没有这么大的分歧,但每一次的内容推送将他们推进或推离其中某一种观点,使得原本能相互容忍的群体产生隔阂。

地缘边界 | 在信息媒介间 | 竖起了一道墙

推荐系统正是其中推手。你很难相信岛外势力为什么敢于叫嚣,明明很弱却过分自信。

其实换个角度就很好理解,他们拿到的消息跟我们完全不同。就像狼人杀一样,闭眼平民和睁眼神牌的视角是完全不同的。在网络空间下竟然不能共享同一片天空。

如何评价 Netflix 纪录片《监视资本主义:智能陷阱》(The Social Dilemma)?

推荐系统如何影响着内容提供者:

一、服从于推荐系统

不仅用户需要接受推荐系统的训练,连创作者也得服从于推荐系统的调度。创作者的本意是将自身所想创作出来给大家欣赏,但是现在许多创作者的目的是如何挣更多的钱,让自己的账号具有更大的影响力。

这并没有对错之分,可是这样就需要经常思考如何吸引更多的读者,但吸引本身是件很难量化的事情,就导致 流量至上

知乎热榜的熟面孔太多了,账号下面的本人真的有这么强烈的表达欲和需要发泄的情绪吗?想必也不是,只不过这样才能更受欢迎,吸收到更多流量,被推荐到更多用户手里,获取更大利益。不要完全去琢磨推荐系统的权重

二、歧视的推荐

在定义公平的推荐前需要讲讲什么是充满歧视的推荐。之前有个 trick(小技巧) 在网上传播已久,大意是在淘宝搜索 “裙子” 关键词,如果推荐的裙子价位在 1000 以上,那你就是淘宝认定的高端用户。

第二种就是推荐屏蔽,出行计划中最优的选择方案往往不是性价比最高或者最廉价的,正如将药店里最不挣钱的药放在最下层,将最适合的结果隐藏,推荐符合平台利益的内容。

最后,“大数据杀熟”本质是用大数据杀熟,而不是大数据本身就会杀熟。推荐系统也一样,平台确定了怎样的运营规律就决定了它的 “价值观”,而不是它本身的错。我们需要公平的推荐系统,而世上并没有绝对的公平,需要做的还很多。

不要让算法失控

在理解这段内容前,建议大家先看看这个回答,为什么学算法的人也要学社会伦理道德和法律?:请问怎么看待大学开设“法学(人工智能方向)”这个专业的?

技术的进步一直会带来各种伦理问题,例如基因编辑、试管婴儿的社会问题,例如大数据杀熟、算法歧视,甚至连最近大火的元宇宙也有数不清的伦理问题,要推进这些技术的发展就必然要探究其中对社会伦理的冲击影响。

快播CEO入狱前说过一句话:技术无罪。但是技术背后已知或未知的缺陷会遭至不可知的后果。

任何一项新技术的发展和应用都存在着相互促进又相互制约的两个方面:

一方面,技术的发展能带来社会的进步与变革;另一方面,技术的应用要以安全为前提,要受到安全保障机制的制约。然而安全是伴生技术,往往会在新技术的发展之后才被关注到,因为人们首先会去享用新技术带来的红利,之后才会注意到新技术伴随的种种安全问题。

算法承载着编程者的意志,为企业攫取利益。为了代表最广泛人民的利益,需要有条例监管其服务和价值导向,无论如何,社会上的一切落脚点都是人本身。

user avatar

我一个月前给网信办的主任信箱写了一封信,提出的核心思想就是用户应该有权关闭推荐和广告。

信中的核心思想大致如下:

对于黄赌毒推荐和广告,我有一些更具哲学意义的思考。

1. 就因为大多数人喜欢黄赌毒,我就没有了不喜欢黄赌毒的权利,因为算法总是偏向大多数人,少数人要被喂屎。这是否是多数人对少数人的暴政。

2. 普通人是否有拒绝黄赌毒推荐和广告的权利?凭什么我用了app,就一定要看黄赌毒。我充分理解app运营需要成本,我愿意充值付费成为会员以避免看黄赌毒,可app是否给过用户这样的选项?

3. 知乎、b站我都充了大会员,但我发现我还是被迫看黄赌毒,真是被一鱼两吃,这算不算欺负用户?

我思来想去,都不觉得互联网公司占理,大家觉得呢?

类似的话题

本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度google,bing,sogou

© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有