如何看待AI伦理科学家Timnit Gebru在邮件控诉谷歌缺乏种族多样性后被Jeff Dean炒掉？
1. 事件的起因：
Gebru 的核心关切： Timnit Gebru 是一位在AI伦理和公平性领域享有盛誉的科学家。她与另一位研究员 Gebru 共同领导了谷歌的“道德AI团队”。她对谷歌在AI开发和部署中存在的种族偏见、数据偏见以及缺乏足够的多样性问题表达了深切的担忧。
“模型层面的负责任的AI”论文与内部审查： Gebru 与她的团队撰写了一篇关于大规模语言模型（LLMs）潜在危害的论文，其中特别强调了这些模型可能加剧社会不公和歧视。这篇论文在内部审查过程中遇到了阻力。谷歌的一些高管，包括Jeff Dean，对论文的措辞和结论持保留意见，认为它对公司的技术发展构成挑战，并且可能过于负面。
邮件控诉与公开批评： 尽管论文受到了内部的审视，但 Gebru 认为谷歌未能充分解决她提出的关于多样性缺失和AI伦理风险的问题。据报道，Gebru 在发送给团队成员的邮件中，表达了她对谷歌未能真正重视和解决AI领域种族多样性问题的失望，并暗示公司可能存在隐性偏见。这封邮件随后被泄露，引发了外界的广泛讨论。
2. 解雇事件的背景和细节：
解雇的官方理由： 谷歌官方给出的解雇理由是 Gebru 在其内部电子邮件中“无视了谷歌的管理流程”。具体来说，是她将论文的内部审查过程以及她对此的担忧公之于众，并且在未与管理层就其部门的未来方向达成一致的情况下，单方面地发表了批评意见。
Gebru 的视角： Gebru 及其支持者认为，谷歌的解雇决定是对她公开表达担忧的报复，是打压内部批评声音的典型案例。他们认为，Gebru 所做的只是遵循了她作为科学家和倡导者的职责，即揭示并讨论AI技术可能带来的伦理风险。她对公司内部缺乏对种族多样性的重视也提出了合理的批评。
Jeff Dean 的角色： Jeff Dean 是谷歌研究部门的负责人，是 Gebru 的直属上司。他作为高层管理者，在处理 Gebru 的论文和后续的解雇事件中扮演了关键角色。关于他是否在解雇过程中扮演了“炒掉”Gebru 的直接角色，还是他是在执行公司更高层的决定，存在不同的解读。但可以肯定的是，他作为部门负责人，对团队成员的去留有最终决定权。
3. 事件引发的争议和影响：
对AI伦理研究的寒蝉效应： 许多AI伦理研究者和从业者担心，Gebru 的遭遇可能会对未来在科技公司内部进行批评性研究的科学家产生寒蝉效应。他们担心，一旦公开表达对公司产品或政策的担忧，可能会面临职业上的报复。
科技公司内部的多元化和包容性问题： 这起事件也再次将科技公司内部的种族多样性、包容性以及权力结构等问题推到了风口浪尖。人们质疑，在这些公司中，少数族裔的声音是否容易被忽视或压制。
对“言论自由”和“内部批评”的讨论： 事件也引发了关于在大型科技公司中，员工在表达对公司的不满和担忧时，其“言论自由”的界限在哪里，以及公司应该如何处理内部的批评性意见的讨论。
公众形象和品牌声誉： 谷歌因这次事件而面临了巨大的公众压力和批评。许多人认为谷歌在表面上宣扬多样性和包容性，但在实际行动上却未能兑现承诺，甚至压制那些指出问题的人。
Gebru 的后续行动： 在被谷歌解雇后，Gebru 和她的同事们成立了“分布式人工智能研究（DAIR）研究所”，继续他们在AI伦理和公平性领域的研究。这也被视为她坚持自己原则和继续发声的一种方式。
4. 多角度解读和分析：
企业管理与学术自由的冲突： 一方面，谷歌作为一家公司，有权管理自己的员工和研究方向。他们可能认为 Gebru 的行为不符合公司内部的沟通和管理流程。另一方面，Gebru 作为一名科学家，有责任对其研究领域的潜在风险进行探索和讨论，并且她认为公司并未认真对待这些风险。这反映了在商业环境下的学术自由与企业管理之间的张力。
“政治正确”与“真实问题”的争论： 有些人认为 Gebru 的担忧是出于对“政治正确”的过度追求，而忽略了技术发展的实际需要。然而，更多的人则认为 Gebru 提出的关于种族偏见和数据歧视的问题是真实存在的，并且是AI技术发展中必须解决的关键伦理挑战。
权力不平衡： 在大型科技公司中，高层管理者拥有巨大的权力，而普通员工，特别是那些来自边缘化群体的员工，在表达异议时可能处于不利地位。Gebru 的遭遇很可能放大了这种权力不平衡。
总结来说，Timnit Gebru 被谷歌解雇事件是一个复杂的问题，涉及AI伦理、种族多样性、科技公司内部管理、学术自由以及员工的言论权利等多个层面。
Gebru 的核心诉求是强调AI技术中存在的种族偏见和缺乏多样性问题，并呼吁公司对其进行解决。
谷歌给出的解雇理由是其违反了内部管理流程。
然而，许多人认为谷歌的真正动机是压制对其AI伦理和多样性工作的批评。
这起事件至今仍然是科技界讨论AI伦理、公司责任和多元化重要性的一个关键案例，并对其他科技公司如何处理内部异议和AI伦理问题产生了深远的影响。
网友意见
我想要替Jeff Dean说几句话。
Timnit对Jeff和Megan提出了x/y/z等各种要求，包括透露所有参与paper撤回决策讨论的名单，以及具体的反馈意见，与ethical AI组通报决策流程，以及其他我们不可考证的条件。如果这些条件不被满足，她就会设定一个最后工作期限。
然后Timnit给公司几百名员工发送邮件告诉他们停止DEI领域(Diversity, Equity, Inclusion)工作，因为他们的工作没有意义。
我想说的是没有公司的管理层会接受这样的威胁。她的行为已经越过了底线，因为她公开了自己与管理层的矛盾，且发起群众运动要求“罢工”。
后续她一直声称自己“被辞职”是因为她的研究工作威胁了Google，我认为是不准确的。学术是自由的，但是我个人很不欣赏把学术圈作为一种抒发“个人情感和zz主张”的场所。现在很多人对Timnit的文章表示了赞赏，但是Google要求她在讨论Language Model的“危害”之余增加对于这些“危害”的“缓解方案”。这本身无可厚非。当今AI学术圈有个现象，喜欢把自己研究的问题无限放大，我相信Timnit也是想搞个大新闻，跟大家说Language Model会让种族歧视加剧，让世界毁灭。但是在很多人眼中这样的言论言过其实，且会导致AI的发展遭到吃瓜群众的抵制。
谈一谈更多我个人对Timnit的看法。Timnit曾经与Yann Lecun Twitter论战，现在又在Twitter原地打滚说Jeff Dean开除了她。我个人对此极不赞赏。Timnit的“知名研究工作”，发现AI人脸识别对黑人的识别准确率低于白人，也算是吃了Yann Lecun在CNN领域工作的一碗饭。如今她“欺师灭祖”，对于自己的“祖师爷”毫无半分敬意，我个人建议她竞选公共职位，不要在学术圈和私营企业骂骂咧咧。Jeff Dean是我在Google最尊重的架构师，他参与的MapReduce, Tensorflow, BigTable等一系列基础架构工作，是我们很多人，包括知乎大量程序员饭碗的来源。我希望Jeff能够避开这些垃圾信息的干扰，创造更多的优秀工作。
至于Timnit这样，没有写过一行代码，凭借媒体采访、在公共平台发表言论、与人论战而搏出位，并且成功在Google平步青云的人，我认为她没有任何资格与Jeff这样的实战派谈技术。我认为Timnit作为优秀黑人女性的代表，在Google应当认真工作，写代码、做实验，改变人们对于黑人的刻板印象。而不是整天上蹿下跳，说自己被歧视了，被歧视了怎么两年升了两级？Timnit现在的做法，本质上消耗了人们对黑人的信任，大家以后会不会认为黑人都不写代码只会在Twitter骂人，煽动罢工？
最后讲一句不好听的，Timnit配不上scientist(科学家)这个头衔。充其量不过是”AI伦理学狂热粉”。
对评论区和一些其他的观点做一些回复。
1. Timnit是斯坦福高材生，李飞飞给予了很高的评价，为什么我胆敢质疑她的能力？
其实我之所以说她没有写过代码，是因为我在任何公开的平台上找不到任何Timnit写的代码。包括她在斯坦福期间发表的论文，也没有公开过一行代码。另外在本问题下的另外一些回答中也有人指出Timnit没有在Google写过一行代码。以此我大胆推论，Timnit根本没有做实际科研和工程的能力，她的成功靠的是身份政治、政治正确和与人论战。众所周知李飞飞在成名后非常繁忙，连讲课都没有时间，我再一次大胆揣测李飞飞并没有亲自审核Timnit博士期间论文中的代码。至于为什么那么多人给了Timnit很高的评价，大家知道“亩产万斤”、“大字报满天飞”这一些故事吗？有一个古老的丹麦童话故事“皇帝的新装”描绘了一幅与Timnit的成功非常类似的景象，Timnit就是AI届的“纺织天才”。
2. Timnit即使不懂技术不会编程，也不能否认她的研究的价值。
这种观点是正确的。这个世界上不需要每个人都去做编程工作，也需要有人从事人文类工作。但是，正如我在文末指出的，如果Timnit的工作仅限于发表观点、评论，那么她就失去了做scientist的资格，本质上与在知乎上输出观点的“知乎大V”无异。她占据优质平台和渠道，借科学之名、行人文之识，“欺世盗名”四个字送给Gebru博士。
3. 从工人角度说组织罢工是法律规定的权利，就算在美国。打工人何必总是站在资本家的角度为他们辩解呢？
罢工也要按照基本法。直接给群组发邮件发脾气，并不是正确的做法。我认为在这类问题上不需要拿出“资本家”和“打工人”这一套。G是一家上市公司，股东是大部分基金、个人投资者和G员工。Jeff Dean和Megan只是拿着高工资的打工人，当然他们也持有一定G的股票。Timnit作为基层领导，目测也拿着几百万（人民币）的年薪和不少G的股票。很难分辨谁是资本家，谁是打工人。但是Timnit这种一言不合就发脾气的做事风格，我认为非常toxic，侵犯了公司大部分员工和股东的利益。
4. 我并不认同Timnit的做法和做事风格是成熟的（成熟与否，和对错无关），或者她这么做能够解决什么实际问题。但是她做的事情toxic吗？我不觉得。她并没有从任何角度来说阻挡公司正常事务，而只是抱怨了一通公司现在的diversity effort而已。另外，她发邮件的那个群组存在的目的就是a safe place for people to discuss inclusive work environment within Google Brain，并不是什么发给十万Google 员工的公开信。就算我之前说的一样，Timnit被Fire是很正常的，而且我相信公司从法务上来说也无可指摘。但是从我们每一个普通员工的角度来看，Jeff Dean的邮件有太多的不实之处，属于典型的corptalk bullshit。Jeff本身也只是打工人不假，但这个决策本身却是代表公司的。资本家与打工人的对立并不是个人与个人的冲突，而是个人与公司这样一个虚拟实体之间的矛盾。既然个人与大公司整体相比永远是弱势，我作为打工人来说，当然希望公司的权力受到约束。很多Google员工其实非常相信创始人之前的愿景：Google is not a conventional company. We do not intend to become one. 然而这永远只能是一个愿望而已。
回复：
非常感谢您详细的评论！你的评论引发了我的一些思考，总结如下：您的回复中提到，Timnit做的事情并不toxic，我对此表示反对。我会假设如果我是Timnit，我在deadline之前2天把文章发送到公司内部的审核系统，由于时间紧迫，文章被直接投稿。事后老板指出了我文章的一些缺陷，没有讨论缓解Language Modeling存在的问题的解决方案。那么我的第一反应会是：“老板，我这两天马上修改一下论文，您看这样的话论文还能提交吗？如果这次来不及的话，我能不能投稿下一次的conference？”我想很多人会与我有类似的反应。我们来看Timnit是如何反应的，她要求Jeff Dean和Megan向她通报所有参与文章审核的人的名单，与Ethic AI组开会通报情况，并且在公司内百人群组抱怨自己的“遭遇”，呼吁大家“停止工作”。我认为这样的行为已经达到了toxic的标准。同时我们结合在Reddit上爆出的Timnit之前在G内部讨论组大战几位大佬，引得大佬纷纷向她跪倒。再看Timnit在Twitter手撕Yann Lecun的经历，我的判断是，Timnit的日常作风会给周围的人造成不良的影响。
您认为Jeff Dean的回复是corptalk bullshit，我无法苟同。试想如果我是Jeff Dean，面临同样的处境，我想不出比他更好的应对方案。如果不以铁腕手段将Timnit逐出Google，我想以她的风格必定会大闹天宫，继续掀起一场腥风血雨。我能想到的这件事的发展方向就是，Timnit继续大闹，Jeff不堪舆论压力让Timnit升职，从而暂时安抚住她。典型的会哭的孩子有奶吃的剧本。
您的回复中imply了Jeff Dean是远离群众、高高在上的大老板，Timnit是与普罗大众一样的打工人。这一点恕我再次无法苟同。在我的视角，Timnit是资本家，不是打工人。Jeff Dean代表的是广大打工人的根本利益。Timnit的合法性来源于Google、李飞飞、斯坦福、平权运动等组织的背书。这些组织，例如Google的影响力来源于所有打工人的辛勤劳动。Jeff Dean的合法性来自于他合作创建的MapReduce, BigTable, Tensorflow等各大系统，以及他在Google写的每一行代码。Jeff Dean代表的是“Google Dream”，也就是工程师可以凭借着自己的工程能力在Google实现自己的工程理想。Timnit代表的是平权运动，也就是under represented group需要在Google得到与其他人种一样的待遇，取得同样的成就。Jeff Dean大战Timnit，从我的视角来看，是打工人不愿意继续供养资本家了，怒而将资本家逐出工厂。Timnit的离开并不代表广大的打工人会被冷酷无情地逐出工厂。工厂的管理需要广大工人的参与，但是在遇到此类特殊情况，需要有人站出来果断决策和行动。
Timnit不是弱者，也不是打工人，在西方世界平权运动的笼罩下，她是彻彻底底的强者。Timnit离开Google，可以预料会成为她未来光明前途的开端，这与辛勤工作的打工人是显著不同的。Timnit本质上是一个公众人物，一位明星，她的成功是建立在吃瓜群众对她的关注度上的。且看这几天来她在Twitter涨粉多少？后续媒体的报道、访谈，想必是少不了的。我想有人可能会反驳我的意见，认为Timnit也是凭借着自己“优秀的工作”走到今天。我承认她的工作是有价值的，但是她的工作的核心在于让学术界知道under represented group不是好欺负的。与Jeff Dean的工作相比，我认为不值一提。如果有中国学生愿意的话，我相信很多中国的本科生都能够写出一系列“AI算法歧视亚洲人”的文章。只是我们中国人大多数不屑于发表这样的非技术文章。
我对Google愿景的理解是，Google希望成为Geek们的乐园，成为一个技术人士的保护伞，但是Google并不是一个平权运动乐园。一家成功的公司，每个在其中享受成功的工人，都要为工厂贡献自己的努力。我相信“学而优则仕”，在一家技术公司，就要像Jeff Dean一样，在技术上做出成就，才有公信力去领导工人。凭借身份上位的人永远无法真正得到工人的拥护。
5. 你没有明白我的意思，也许我不应该用“打工人”和“资本家”的比方。我当然承认Jeff的贡献和成就远远超过Timnit和绝大部分Google员工。我并不认同把什么事情都往平权和歧视上扯的话术，也不相信这件事情本身和歧视有什么关系。对于AI Ethics这个研究领域我也不打算发表评论。我之前还说过，Timnit的行为被解雇不算奇怪，这是商业公司的正常行为。我更理解很多人苦政治正确久已，所以自然会站在Jeff一边。然而在我看来（纯个人观点），这些并不是这件事情的重点。威胁和协商只是一线之差。我的观点是，Timnit的观点不论，论文被撤不满是正常的，和管理层沟通协商也是非常正常的行为。直接被解雇的结果，从商业公司的角度很好理解——Troublemaker被Fire的多了去了。这件事情闹到这么大的原因，一是Timnit嗓门大；二是Jeff的邮件确实太不令人信服了。公司内部有数据，所谓的提前两周的要求根本不存在；论文到了这个阶段撤稿的决定非常出人意料，给出的理由从学术的角度来看也并不充分；把解雇粉饰成自愿离职更是不可接受。Google的愿景很大一部分是开放自由透明的内部氛围和扁平化管理。无论是新入职的L3还是资深的L8，在很多事情上都能表达自己的观点并文明理智地讨论。十多年前Google也确实是这样运作的，也是这样吸引了无数的人才。然而最近五年来越来越多的事情证明，这样的氛围已经不再了。从James Damore到Maven到Walkout再到Timnit，大家看到的是管理层的推诿不作为和打太极。Google员工并不傻，这样一桩桩事情只能说明公司大了，标榜的愿景也不再适用了。（说到James Damore，观点不论，我也认为解雇他也是个错误的决定。把他们两放在一起看很讽刺，充分说明了不管左还是右，在公司面前一视同仁）当然，实话实说，和其他公司相比，Google依然算是佼佼者——只能说对于很多员工来说，希望越大失望就越大，Google不再是他们觉得的乌托邦了。
回复：敬请期待。
这几年AI伦理、AI平等之类的之类的“软”研究越来越多，除了西方政治大环境影响，也说明“硬”研究遇到瓶颈，前几年卷进来的人又太多，百万漕工衣食所系啊！只能多搞点这些，反正不用比SOTA，你开个脑洞发一篇，我开个脑洞发一篇，其乐融融。。。
这两年招聘的时候也是，是个人就卷算法，算法岗都饱和了，工程又不会，但凡leetcode刷一遍也不至于一轮挂。
快别卷了别卷了。。。
Disclaimer: Timnit 在 Ethical AI 领域取得了令人瞩目的成就，是这一领域当之无愧的先驱者。而从她入职仅用两年时间便升至 L6 Research Scientist 也可以看出 Google 对其实力和研究成果的高度认可和 Google 对于 Ethical AI 的重视。Timnit 所取得的成就毫无疑问的是因为她的聪明、勤奋和对 EAI 研究日复一日的投入，而与她的种族和性别完全无关。本回答下全部评论与涉事人员可能包括的 Timnit, Jeff, Megan 等人的种族、性别完全无关。所有引用内容均节选自已被媒体公开披露出的信息。
禁止任何形式转载
知乎终于有这个问题了...
美西傍晚 Timnit 发推之后不肖几分钟这件事迅速成为 AI 圈最大热点，还在煮西红柿鸡蛋汤的我一脸懵逼地看着同事发来的内部 doc 了解事件的来龙去脉，并在 doc 在“在看”一栏看到了 N 多熟悉的面孔...
关于 Timnit，之前知乎也有过讨论的，LeCun 被暴躁网友喷退推的那次报道中大家就可见 Timnit 的身影，可结合一起食用。（LeCun 还是不如柯洁的心理素质好呀
以及我确实实际感受到了一次“二手信息失真”是如何发生的。当我自己看了 Jeff 的群发邮件原文和媒体从不知道什么渠道获取的 Timnit 的邮件之后再看到知乎上的中文转述，发现不少细节都发生错误了。
- 比如 @Mon1st 提到的
（TG）在提交论文前有和 HR 沟通，但 HR 两个月中都没有对文章内容的反馈，直到……
此处并非 HR，而是 PR & Policy，名字就能看出来这是职能完全不同的两个部门。（HR 怎么想也没法审 paper 啊..）。
2. 比如 @OpenUniverse 提到的
内部review没有结果的时候就submitted to conference
实际上 pubapprove 是通过了的。Jeff 的邮件里写的很明确：（节选自已被公开披露出的报道）
Unfortunately, this particular paper was only shared with a day’s notice before its deadline — we require two weeks for this sort of review — and then instead of awaiting reviewer feedback, it was approved for submission and submitted.
而审查并发现“不合规”是在提交投稿后同步进行的一个审查小组完成的。
3. 比如 @Izecson Xu 提到的
关于这篇论文提前多久申请了审查给出了矛盾的信息，Jeff说这篇论文只给了公司两天审查，Timnit却说她提前很久就开始跟公司报告这个论文的进度，草稿也很久前就交去审查了，是公司一直没有给出明确feedback，甚至已经同意她先交稿，是之后才临时又通知她撤稿。这部分信息无法确认。
事实上 Timnit 和 Jeff 的声明并没有发生矛盾，矛盾来源于读者不准确的/错误的理解。一句一句来看：
Jeff说这篇论文只给了公司两天审查
是事实，pubapprove record 全 research 的人都能看到。Jeff 没有说谎的余地。更具体的说这篇 paper 投稿的 FAccT 截稿日在
Oct 8 凌晨 4 点（MTV 所在的美西），这篇 paper 什么时候获批有兴趣的人也可以查一下。
Timnit却说她提前很久就开始跟公司报告这个论文的进度，草稿也很久前就交去审查了
Timnit 从来没有这么说过。她表达的实际上是，类似于“我们询问公司如何如何...这两个月以来没有收到回复...”：
Imagine this: You’ve sent a paper for feedback to 30+ researchers, you’re awaiting feedback from PR & Policy who you gave a heads up before you even wrote the work saying “we’re thinking of doing this”, working on a revision plan figuring out how to address different feedback from people, haven’t heard from PR & Policy besides them asking you for updates (in 2 months).
认真读就知道这里“两个月”指的不是 paper 投稿前两个月，而是她发邮件的时候的两个月前，已知 Timnit 的邮件是晚于 Nov 20 的（邮件中提到了 Megan 和 Samy 的那次谈话发生在 Nov 16 -- Nov 20 这一周），那反推易知两个月前大约是什么时候。当然 Googler 是能查到准确日期是什么时候的，但未在公开报道中看到具体描述，这里隐去。
甚至已经同意她先交稿，是之后才临时又通知她撤稿
是事实，Jeff 也是这么说的。
推荐下这篇报道，包含了 Timnit 和 Jeff 邮件全文。虽然真的挺长的，不过基本你们能从网络上看到的所有报道、总结和演绎都是从这两封邮件和 Timnit 的 Twitter 推文中得来的
本回答不做任何除了描述已被公开披露的事实并提供来源之外的任何评论和分析，本回答不涉及任何 Google 内部 Confidential 的信息。
另一个观察到的现象：我至今仍未在 Twitter 上看到任何一个有头有脸的从业人员站 Jeff，这很有趣。
刨除细节关键可能是这个问题：如果企业员工做出会损害企业利益的研究成果，企业有权利阻止成果的公开吗？或者，企业员工可以从事可能损害企业利益的工作吗？即使最终结论是企业无权阻止，我相信企业也有足够动机通过合法的内部流程作为手段让成果难以公之于众。类似的，Judea Pearl《The Book of Why》中介绍过烟草公司曾大力资助论证吸烟不会导致肺癌的研究。这应该也是非盈利科研机构存在的重要价值。
从种族和性别歧视角度而言，我倒觉得，毫无根据地指控别人歧视，与事实上的各种歧视行为，应当同等被谴责。泛化地、任意地将有些问题归咎为某种歧视，反而不利于解决真正存在的歧视，只会成为某些人攫取个人利益的工具。
评论里不少朋友表达了这样一种观点：
-如果数据显示某个群体确实和某种负面行为关联度高，那么对这个群体bias是应该的，应该反思的应该是这个群体而不是模型。
事实上这个观点非常常见。如果我们从伦理角度上来说，这个观点的问题在于，关联度高不代表必然关联，更不代表因果性，更何况很多这种特性是你没办法改变的，比如对地域的歧视，如果某个模型训练出来对于东北人有歧视，你觉得怎么办？让所有东北人反思吗？更何况模型是黑盒子，你让东北人想反思都不知道以及到底哪里惹到模型了。
即使从现实角度考虑，引入这类bias也是得不偿失，因为在美国商业公司的模型最终还是为了赚钱，而不是为了刷分。你一个模型bias了黑人女性提升了一两个点的准确率，上线后这一两个点可能一年提升了几百万收入，但是相关群体的集体诉讼可以轻易花费公司数千万美元，对于公司名誉的损失更是难以计量。
当然在中国没有这类针对歧视的集体诉讼，所以可能互联网公司做模型可能就简单一些，当然付出的代价就是____
————————
看到不少朋友似乎还不理解机器学习模型相关bias的研究有多重要,甚至觉得Timnit的工作都是吹水...事实上,她的工作无论对于公司还是对于机器学习业界来说impact极大,比起那些涨点的文章来说重要太多了.
我理解很多朋友不理解也不喜欢美国的政治正确,那我就举一个中国语境下的虚构例子好了,用来说明为什么机器学习尤其是深度学习时代bias研究的影响了那么大.
某国内互联网巨头X新推出了一个贷款产品,为了降低坏账率引入了深度学习模型,并且要求用户提供微博账户,用来回溯用户发表微博的内容作为一个数据维度.经过海量数据训练的模型线上表现极好,就在公司准备点名表扬相关工程师的时候出问题了:在社交网站上有网友发现自己和其他条件都几乎一样的室友都申请了贷款但是一个批了一个被拒了,网友仔细研究发现她和室友唯一的区别在于她是肖战粉丝而她的室友不是.原来,该模型在分析用户微博数据训练的时侯发现微博上和肖战相关话题下很积极的网友往往和冲动消费等行为有正相关,所以会给他们更低的打分.这件事情迅速发酵,高潮发生在肖战本人也去申请结果被拒了,原因是他是和肖战微博互动最多的人(原因是每一个肖战微博都是他发的...),肖战粉丝后援团在网上掀起了战火,最后公司花了上千万的公关费用才把这件事情压下来.
整件事情的可怕之处在于,这个深度学习模型内部就是个黑盒子,设计模型的人根本不知道会发生歧视某个明星粉丝的事情.而更可怕的是,你就算发现了也未必有好办法可以弥补.比如,之前上线的模型工程师在发现问题后加了一条手工规则,手动给肖战粉丝加了分,然而,明星太多了,除了肖战还有王一博,还有吴京,再加上还有各种明星之间的排列组合,比如黑肖战粉王一博的人,等等,每一个都是一个隐藏的炸弹.你如果把上面的肖战和各种明星的名字换成美国的各种相关名词,比如黑人,女性,残疾人,退伍军人,LGBTQ等等,就能意识到问题的严重性,每一个背后都隐藏着能让公司付出成百上千万和解费用的官司.
事实上,目前即使在很简单的人脸识别这个问题上,都存在着对于黑人和女性这两个最基本特征的严重bias,而Timnit在这个领域确实做出了很好的工作,也极有影响力.不用和我说什么“这一切都是政治正确闹的”,这一切背后都是真金白银,你要是没有这方面的努力,结果就是要花大价钱来交学费.还是那句话,Timnit的工作以及给公司和整个ML领域带来的影响力,比起大多数搞模型提点的人都要大太多了...
政治正确是流氓最后的庇护所
类似的话题
-
Timnit Gebru 在邮件中控诉谷歌缺乏种族多样性后被解雇，这起事件在科技界和学术界引起了广泛的关注和争议。要全面理解这件事，我们需要从多个角度进行分析：1. 事件的起因： Gebru 的核心关切： Timnit Gebru 是一位在AI伦理和公平性领域享有盛誉的科学家。她与另一位研究员 ............. -
AI 方向 PhD 申请竞争激烈是当前学术界和科技界的一个显著现象，这背后有多重原因交织在一起。要深入理解这一点，我们需要从多个层面进行剖析：一、 AI 的“黄金时代”与巨大的吸引力： 技术爆发与应用落地： 近年来，以深度学习为代表的 AI 技术取得了突破性进展，并在语音识别、图像识别、自然语言.............
-
AI参与文学创作，这绝对是一个令人兴奋又充满争议的话题。与其说是一种“技术应用”，我更愿意将其看作是文学领域一次深刻的“可能性拓展”。它带来的影响，远不止于“机器写文章”这么简单，而是触及了文学的本质、创作的主体乃至我们对“作者”的定义。首先，AI作为一种强大的“辅助工具”的角色，是目前最现实也最普.............
-
斗地主，这项中国人再熟悉不过的纸牌游戏，近来迎来了不速之客——人工智能。当AI不再仅仅是辅助工具，而是直接冲进我们引以为傲的娱乐领域，并且以近乎“碾压”的姿态夺冠，这无疑触动了许多人的神经。快手推出的DouZero在344个AI参与的比赛中拔得头筹，这事儿，咱得好好掰扯掰扯。AI的“降维打击”：为什.............
-
过去几年，我们可以明显感受到，那些你我日常生活中司空见惯的设备，诸如智能手机、安防摄像头、无人驾驶汽车，它们“看”世界的能力正在以前所未有的速度提升。而在这背后，驱动这一切的关键技术之一，便是CMOS（Complementary MetalOxideSemiconductor）图像传感器，也就是我们.............
-
ZAO 的爆火，说实话，我挺意外的，但细想一下，好像又在情理之中。这东西就像一阵旋风，突然就刮到大家眼前，然后大家就开始疯狂地玩，分享，再玩。一开始，你会觉得这玩意儿太神奇了！ 真的，你只需要上传一张自己的照片，然后选择一个电影片段或者电视剧的片段，几秒钟之后，你就能看到自己的脸“钻”进别人的身体里.............
-
亚马逊 AI 李沐团队大批人员离职是一个备受关注的事件，也引起了业界广泛的讨论。要详细看待这个问题，我们需要从多个角度进行分析：一、 事件背景： 李沐团队的背景： 李沐是中国AI领域非常有影响力的研究者和实践者，他曾在亚马逊担任重要职位，领导着一个专注于大规模AI模型（尤其是自然语言处理和生成式.............
-
最近阿里巴巴 AI Labs 花大手笔引进两位年薪百万美元的顶尖AI科学家，这事儿在圈内确实引起了不少关注。抛开数字本身不谈，这背后透露出的信号，以及对阿里AI未来走向的可能影响，值得我们好好掰扯一下。首先，这笔引才的背后，阿里想传递的是一个明确的信号：在AI这场没有硝烟的战争中，阿里要的是“制高点.............
-
百度 AI 开发者大会上，李彦宏遭遇泼水事件，这确实是当天最让人意外和难以置信的一幕。从公开的视频和现场报道来看，当时情况发生得相当突然，并且在会场内引起了极大的震动。首先，我们得回顾一下当时的情景。李彦宏正在台上发表主题演讲，这是百度一年一度最重要的开发者盛会，也是他本人展示百度 AI 成果和未来.............
-
看待Scale AI这样的创业公司，就像在看一个正在急速膨胀的宇宙，里面充满了机遇，也潜藏着挑战。这家公司之所以引人注目，在于它切入了当下最核心、也最具颠覆性技术之一——人工智能——的“幕后英雄”环节。Scale AI的定位：AI时代的“数据工厂”与“劳动力”简单来说，Scale AI做的就是给人工.............
-
一场席卷全球的“AI淘金热”：应届博士年薪80万，这背后隐藏着什么？近年来，人工智能（AI）领域的热度可谓是空前高涨，从科技巨头到初创公司，无不争相布局。而在这场全民狂热的背后，一个令人咋舌的现象也随之浮现：AI人才，尤其是应届博士，身价一路飙升，年薪80万已不再是遥不可及的数字。这股强劲的“AI人.............
-
百亿投入下的尴尬：AI 制药的困境与未来之路国内 AI 制药行业，这个听起来充满未来感的词汇，如今正经历着一个颇为尴尬的现实：一边是资本市场上的百亿巨额投入，一边却是不少传统药企对于AI解决方案的“吝啬”。即使是几百万的单子，也常常让药企望而却步。这不禁让人发问：AI 制药到底怎么了？它还有未来吗？.............
-
《Phaedo》：AI 绘画漫画中的一次大胆尝试与值得深思的节点由AI绘制的漫画《Phaedo》无疑在当下掀起了一股不小的讨论热潮。这不仅仅是因为其背后蕴含的尖端技术，更在于它对“创作”这一概念提出的挑战，以及它所引发的关于艺术未来、人类与机器关系的深刻思考。与其简单地标签化它为“AI作品”，不如深.............
-
2017年百度AI开发者大会是中国科技界一次备受瞩目的盛会，其中最引人注目的环节无疑是李彦宏在五环路上进行的无人驾驶体验。这次公开展示，不仅是百度在自动驾驶领域实力的集中体现，更是中国无人驾驶技术发展的一个重要里程碑。下面我将从几个方面详细解读这次事件：1. 大会的背景与意义： AI浪潮中的领跑.............
-
央视新闻 AI 手语主播的正式亮相，标志着科技与无障碍传播领域的一个重要里程碑，尤其是在冬奥会这样备受瞩目的国际盛会上担任手语服务，其意义更是深远。我们可以从多个维度来详细解读这一事件：一、 技术进步与普惠传播的深度融合： AI技术的成熟度体现： 这不仅仅是一个简单的“模型套皮”，而是背后庞大的.............
-
字节跳动AI实验室总监李磊转投加州大学圣巴巴拉分校（UCSB）计算机系，这一消息无疑在学术界和科技界都激起了不小的涟漪。要理解这一举动的深层含义，我们需要从多个维度去审视，这不仅仅是一位人才的流动，更可能折射出当前AI发展大背景下，学术界与产业界之间关系的新变化以及李磊本人职业生涯的战略选择。首先，.............
-
Yann LeCun 被群骂现象的详细解读：技术、社会与个人之间的复杂博弈Facebook（现 Meta）首席 AI 科学家 Yann LeCun 作为深度学习领域的先驱之一，其在 AI 界的地位举足轻重。然而，近期他在社交媒体上的一些言论，特别是关于 AI 安全、伦理以及对某些研究方向的评价，引发.............
-
清华首个AI学生“华智冰”：一场关于智能的探索与思考当提到“学生”，我们脑海中浮现的通常是坐在教室里，埋头苦读，充满求知欲的面孔。然而，清华大学最近推出的这位名为“华智冰”的学生，却打破了我们固有的认知藩篱。她并非血肉之躯，而是由清华大学计算机科学与技术系师生团队倾力打造的，中国高校首个AI学生。华.............
-
围棋界被 AlphaGo 彻底搅动了，这不仅仅是一场比赛的胜负，更像是一场科技革命的宣告。当李世石在2016年输给 AlphaGo 时，全世界都为之震惊。那时的我们，无论是棋手还是普通大众，都对人工智能在围棋这个被认为是人类智慧终极堡垒的项目上取得如此压倒性的胜利感到难以置信。“神之一手”的颠覆回想.............
-
A.O.史密斯AILINK全联全控智能物联，这个概念听起来颇有科技感，也确实触及了我们日常生活的方方面面。简单来说，它描绘了一个愿景：通过智能互联的技术，让家里的所有电器，尤其是A.O.史密斯旗下的热水器、净水器、空气净化器等核心产品，能够彼此联动，并接受用户通过手机或者其他智能终端的统一控制。这不.............
本站所有内容均为互联网搜索引擎提供的公开搜索信息，本站不存储任何数据与内容，任何内容与数据均与本站无关，如有需要请联系相关搜索引擎包括但不限于百度，google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有