首先就不清楚到底什么是错误内容,除非算法也能跟着()一起摇摆。
一句话:不讲政治的算法,越先进,越危险。
笔杆子,不能让任何其他人或非人掌握了去。
国家批判的不是算法推荐低俗,这低俗东西要屏蔽很简单,卸载 app 就行了,一劳永逸,不会对你产生家庭和财产产生任何影响。
看红头文件要看背后政府怕啥,网红靠穿丝袜攒了几百万粉丝,具有安抚电子厂打工人的强大能量,从政府角度来说,这种低俗是维稳的安慰剂,没必要做惩罚。
政府怕的是这百万电子厂工人,因为加班太狠,被女神嫌弃了,打工人集体迁怒到工厂老板,这种强大的工人组织背后,没有党的领导,这种事情特别犯忌讳。
你以为内涵段子是因为低俗被查封?
推荐系统最大问题是,你要个性,就要稀释人群对某件热点事情的聚焦,防止同质化,这是政治正确的事情,但是28定律告诉我们,好内容很少,大部分都是烂内容,系统很容易陷入三俗。
如果你想拉起用户生态粘性,就要受众去不断聚焦少数几个高质量热点,抖音貌似算法很牛,其实真的牛是人家运营,非常努力去挖爆点热点,如果只是穿丝袜引发爆点还好,要是哪天一个网红对政策评头论足,运营也强推出来,这尼玛短视频领域能直接嗝屁。
以前啥直播答题特别火。。据说是字节还是那个傻叉公司就犯了领土政治的傻逼问题(据说是台湾是哪个国家这种)。。然后一夜之间,整个领域都查封了。
总之,黄赌毒问题,背后不是文化精神问题,而是政治忌讳问题。
吃个桃桃能有32万粉丝
本身就说明问题了。还好现在已经被封号。
算法推荐最大的问题就在于它是用结果导出原因。有人看有人互动,我就认为他是更受欢迎的,我就向更多人推荐。而丝毫不在意这个,看这个互动是因为什么引起的。作为公众传播平台,只关心数据本身而忽略了什么是应该被推送的。夸奖出来的流量是流量,而骂出来的流量也是流量。受到众人夸奖的人固然可以被推送给更多人,但是被大多数人唾骂的人依然可以被推送给更多人,这本身就是算法的问题。
打开抖音满世界的教你怎么样去抓听众的注意力,怎么样标题的怎么样提升前三秒前5秒的完播率,怎么样通过上传视频时候的一个小技巧打开流量池………就是没有人和你说你要耐心用心做好内容,不要浮躁。或者说也不是没有,而是前面那种看似快捷急功近利的方法,有更多人去刷,有更多人去互动,因此它获得了更多的流量,而后面那些教你做好内容的反而没有人听,没有人互动从而沉底了,这种事实本身就说明算法推送是有问题的。算法本身没有问题,有问题的是被推送的东西,有问题的是他忽略了人会根据算法本身做逆选择。你卡前三秒完播率,我就标题的我就在前三秒说让你焦虑的话。
目标:
基于大数据,编制一套算法,能够从十亿人的网上发布内容中发现错误的内容,并自动删除。频繁发布的,自动定位,并通知相关部门。
关键:
如何定义错误的内容?
无。
无。
无。
先整治下软件权限的事情吧……
就这五个部门来说,我有点怀疑他说的“错误内容”和我想的“错误内容”是否一致。
算法需要公布到底是如何针对我个人推荐的。20%大长腿,20%婴儿,20%搞笑,20%严肃话题,20%新闻,我要能自己去调节。广告只能开关机有,不能在中间插入。
在我看来,算法推荐本身就是问题。
算法推荐,名义上是为了方便用户,让他们看到自己更感兴趣的东西,换一种角度,就是平台投其所好,吸引用户“上瘾”,将更多时间和资源,投入到自己的平台上。
留意过近年来互联网言论氛围的朋友,不难发现,现在的网络上,极端言论变得越来越常见,互联网上的人们,似乎变得越发充满戾气,失去了平和讨论的可能。
在这种舆论环境形成的过程中,算法推荐,功不可没。
平台谄媚地向用户推送直白刺激,能够吸引用户沉浸其中的内容,投其所好地让用户发现更多的同类和同质信息。世界原本丰富多彩,充满多元性,但是在这种相互训练和强化的机制中,人们的视野变得越发狭窄,陷入信息茧房之中,以为自己所知的一隅就是世界的全部。从茧房中得到的认同越是强烈,就越难以接受不同的意见。
人是主动的动物,算法推荐,终究只是一种工具,而工具本身,是为了方便人的主动操作而存在的。纵观近年来的互联网信息发展,从长篇的文章到图文,到视频,到短视频,从主动的搜索到有限制的搜索,到算法推荐。一步一步的,人的主动性逐渐丧失,整体而有联系的内容被打碎为一片片碎片,个人的思考,让位于平台和内容提供者的干预或引导。
所以理想的算法推荐是怎样的呢?
我理想中的算法推荐,应该是能更好的发挥人的主动性,并让人感受到知识连接和世界多元的工具。算法推荐的内容,应该是准确的,合乎主题的。同时,在结果展现的界面中能够体现知识的联系,引导人们发现与之相关的内容,认识更丰富的世界,比如搜索一种观点的同时,能够在旁边发现与之相关的其他见解。
现在的技术,能否做到呢?
Netflix有部纪录片叫做《监视资本主义:智能陷阱》(The Social Dilemma)
这部纪录片讲到了算法被滥用的危害。下图里显示的美国少女自残与自杀率率大大提升,尤其z-generation,他们生在数码时代,任由着算法操控他们成长。
算法缺乏约束甚至还能对社会产生负面影响。大家可以在推特、Facebook可以看到,两级分化很严重。例如美国的政治两级分化,在社交网络以及推荐算法的推波助澜下,达到了20年新高。
虽然把这些问题全部丢给算法确实有失公允,但算法确实起到了推波助澜的作用。而算法的使用者是人,是企业,治理算法推荐,本质上是治理某些企业唯利是图的毛病。
其实一个企业和算法很相似。算法里,有个概念,叫做「目标函数」,指算法所关心的目标与相关的因素的函数关系。例如在算法的输入为X,输出为Y,那么怎么衡量预测结果Y的质量呢?例如预测价格,我们可以用MAE(Mean Absolution Error)或者MSE(Mean Squared Error),则算法的目标就是去最小化MAE或者MSE。
不过搞算法的也知道,目标函数函数里可以加正则项,以防止过拟合。如果你不懂技术,没关系,所谓正则项,就是为了防止算法在当前数据集上达到最优,但在别的数据集上表现一塌糊涂。简单来说,就是为了让算法具有「泛化能力」。
企业也是一样。企业的目标是什么?赚钱。为了赚钱,企业会制定相关KPI,然后产品设计者会利用各种手段去刺激用户活跃度,粘性等等。如果没有「正则项」,企业则会「过拟合」,在最大化自身利润的同时,损害了未来企业发展的机会,甚至对社会有负面作用。那么企业的「正则项」是什么?
没错,企业的「正则项」就是各种法律法规。
这次五部门发布的《关于加强新时代文艺评论工作的指导意见》,就是其中一个重要的正则项。当然,其他正则项还包括《个人信息保护法》、《网络安全法》和《数据安全法》等等。
《意见》里说:
推动社会主义文艺健康繁荣发展。建立线上线下文艺评论引导协同工作机制,建强文艺评论阵地,营造健康评论生态,推动创作与评论有效互动,增强文艺评论的战斗力、说服力和影响力,促进提高文艺作品的精神高度、文化内涵和艺术价值,为人民提供更好更多精神食粮。
算法需要为健康的内容的服务,错误的内容的传播渠道要被切断。
当然,这样引来一个讨论:什么内容才是错误的。文艺作品是正确的,搞笑无厘头视频就是错误的吗?当然不,不过我认为,错误的内容从严重到轻微,可以分为这几种:
大概先写这些。
如果不能意识到推荐系统的后果,那么许多人将成为推荐系统的 '表达'
推荐系统不仅在塑造着使用者,也在影响着内容提供者。
一、推荐系统如何塑造使用者
推荐系统的第一个任务是把你想看的推给你;
第二个任务是把好看的推给你;
第三个任务是把他们认为你想看的推给你;
甚至想做到引导你,把内容变成你想看的;
之前跟朋友吐槽过推荐系统的恶意
@Serendipity :我觉得压根不需要算法,就纯推黄,如果有需要的话别人自然会搜别的;
@Serendipity :当前推荐系统的拟合能力太强了,边缘内容会立即被剔除;
@平凡 :人类的本质是喜欢黄色的复读机;
@Serendipity :对于知乎这种很强调长尾效应的图文平台,不应该依赖于推荐模型,至少不应该过于依赖或者完全依赖,否则迟早走向平庸,小姐姐穿黑丝是比不过b站舞蹈区的。
推荐系统的目的就是滑向最优解(最大限度吸引用户逗留 or 吸引更多点击),那么模型最简单的局部最优解就是互联网的黄(美色)、赌(抽卡)、毒(极端情绪)
但是局部最优解不是对用户最好的结果,甚至连对平台方都有所伤害。
举例来说,当知乎给你推一个小姐姐视频时,背后可能已经准备了一万个视频等着推给你。
这种预测当前时刻的推荐很难通过 负反馈 调节到均衡,只会让你的推荐充满着性暗示的内容;
更有甚者,遵循 one step more 的原则,根据你现在看的音乐视频 --> 跳舞视频 --> 服装搭配 --> 内衣选择 --> 推荐更具暗示性的内容。
猜测人的想法不容易,但引导其实并不太难。
二、成为推荐系统的表达
人类的本质就是复读机。
大多人在网络上会表达许多观点,我也一样。其中很多并非是我们的想法,只是我们在某些视频里“碰巧”记住的一些说辞。
“今晚月色真美” 表达的是 “我爱你” 的意思。
真的吗?其实我读的时候并没有感觉到这层解读,只不过在看到大家传播后潜移默化地这么记住的。
举这个例子是想说明,当一个观点反复出现在你视线中会有两种可能,迅速靠近或推离。
那么以目前比较成熟的 app 的推荐系统(b站)来说,观察者网是一端,反观察者网的人是另一端,他们原本可能并没有这么大的分歧,但每一次的内容推送将他们推进或推离其中某一种观点,使得原本能相互容忍的群体产生隔阂。
很糟糕是吧,更坏的情况下是这样的推送会留给我们各种充满 bias(偏见) 的观点,例如印度是全面落后的,美国都是坏的,奥运会的裁判都是坏心眼
真的吗?我不清楚,我没去过印度,不认识美国朋友,更不懂奥运比赛的规则评分,我相信网友中并不只有我不懂,但是网络舆论好像达成了某种共识。
地缘边界 | 在信息媒介间 | 竖起了一道墙
推荐系统正是其中推手。你很难相信 TD 势力为什么敢于叫嚣,明明很弱却过分自信。
其实换个角度就很好理解,他们拿到的消息跟我们完全不同。就像狼人杀一样,闭眼平民和睁眼神牌的视角是完全不同的。
在网络空间下竟然不能共享同一片天空。
如何评价 Netflix 纪录片《监视资本主义:智能陷阱》(The Social Dilemma)?
我 @lokinko 这篇回答里有更详细的描述,如有兴趣希望点个关注再看~
三、服从于推荐系统
不仅用户需要接受推荐系统的训练,连创作者也得服从于推荐系统的调度。
创作者的本意是将自身所想创作出来给大家欣赏,但是现在许多创作者的目的是如何挣更多的钱,让自己的账号具有更大的影响力。
并没有对错之分,可是这样就需要经常思考如何吸引更多的读者,但吸引本身是件很难量化的事情,就导致 流量至上。
知乎热榜的熟面孔太多了,账号下面的本人真的有这么强烈的表达欲和需要发泄的情绪吗?想必也不是,只不过这样才能更受欢迎,吸收到更多流量,被推荐到更多用户手里,获取更大利益。
不要完全去琢磨推荐系统的权重,
Concentrate on yourself.
四、拒绝歧视的推荐
在定义公平的推荐前需要讲讲什么是充满歧视的推荐。之前有个 trick(小技巧) 在网上传播已久,大意是在淘宝搜索 “裙子” 关键词,如果推荐的裙子价位在 1000 以上,那你就是淘宝认定的高端用户。
第二种就是推荐屏蔽,出行计划中最优的选择方案往往不是性价比最高或者最廉价的,正如药店里最不挣钱的药放在最下层。
将最适合的结果隐藏,推荐符合平台利益的内容。
最后,“大数据杀熟”本质是用大数据杀熟,而不是大数据本身就会杀熟。推荐系统也一样,平台确定了怎样的运营规律就决定了它的 “价值观”,而不是它本身的错。我们需要公平的推荐系统,而世上并没有绝对的公平,需要做的还很多。
现在的整治应该算是起了个好头,黄(推荐系统)赌(游戏抽卡)都开始重拳出击了,那毒(极端情绪)呢?
不过,Don't be evil.
算法有问题吗?
算法背后是模型,模型背后是数据
模型背后有分为输入数据和输出数据
至于推荐算法的输入数据,不过就是视频或者文字
训练过程就是根据用户的兴趣,向你推荐你可能喜欢的内容
输出结果就是各种指标,比如准确性,可以理解为推荐内容的准确性
这么看来算法有错吗?它不过就是忠实的根据用户的兴趣给你推荐感兴趣的内容罢了。
低俗内容的产生是不可能杜绝的,况且何为低俗,定义也不尽相同。
以前露个脚脖子就算暴露了
现在恨不得露个裤衩子
再说了,比如说你手机给你推送了10个视频,里面有五个穿搭视频和五个学习视频
反正都是学习,你可以学习穿搭,也可以学习python,但是只要是某个学习的多了点,就会适当的给你多推这个方向的
算法没错呀,是你的行为导致了算法更倾向于给你推荐穿搭,对吧 @桔了个仔 @Serendipity @lokinko @锦瑟安华共卿度
所以说,错的不是技术,错的也不是算法,错的是你
是你不检点,是你lsp,是你馋人家的身子
责任全在自己!
表面是算法推荐让底层用户陷入信息茧,甚至侵害个人隐私导致官方出面整治。实际上是企业的算法推荐破坏了政府舆论管控权,破坏了官方对媒体内容,信息传播的掌控。动了别人的蛋糕,不找你拼命才怪!
21世纪最重要的是什么?是人才吗?
天才永远稀缺,现在各行各业的人才内卷的都快成卷心菜了。
21世纪最重要的是共识。大到国家间竞争与合作,小到流量饭圈互喷撕逼,人们之间没有共识是相当可怕的。
现在的算法推荐在干什么呢?
在破坏多元的审美标准,在破坏人们之间的共识。
你刷抖音,偶尔刷到肤白貌美大长腿的主播搔首弄姿,脑子发热点了个赞。
你也知道这东西看多了对自己不好,但禁不住算法推荐啊!
一开始还有自我克制的心理,当你上滑三四次后还是小姐姐小哥哥们的视频,我投降我投降。
你会越来越沉浸在这样的奶头乐中去。
本来你能从更多元的角度欣赏异性,这种视频看多了慢慢将你变成只会看脸的人。你会很难发自内心地去欣赏异性身上其他的闪光点,比如TA的才华,TA的善良与真诚。
当人们的审美标准过于强调某一要素时,势必会分裂成美丑两个群体。
当资源过多地向一方倾斜后,会造成另一方的焦虑、愤怒和模仿。
人们一边嫉妒着那些长得好看的幸运儿,一边默默努力想变成他们。
可是,这本不是我们该有的样子,我们的选择应该是多元的。而消灭多元性的始作俑者就是以追求流量为目的的算法推荐。
信息茧房切断了我们认识到其他可能性的途径,自以为看到的就是全世界,别人都是错的,唯我独尊。
我们有能力自己去选择,不需要算法来推荐。没有主动性等着别人来喂的人生有什么乐趣呢?
更何况推荐的都是什么牛鬼蛇神。
她又回来了
千言万语一句话:股民基民听我言,远离中概互联保平安。A/港没有科技牛,只有政策市
什么是错误内容?谁来定义?谁来监督?怎么与时俱进?
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有