如何看待 ICLR2021 的拒稿被评为 ACL2021 的 Best Paper?
以下我将尽量详细地阐述：
1. 事件本身：不可能的巧合与背后的原因
首先，我们要认识到这是一个 极不寻常 的情况。ICLR (International Conference on Learning Representations) 和 ACL (Association for Computational Linguistics) 是两个领域内最顶级的会议，但它们的研究侧重点有所不同。ICLR 更侧重于机器学习的理论和方法，尤其是深度学习的表示学习方面。而 ACL 则专注于计算语言学和自然语言处理 (NLP) 的研究。
一个在 ICLR 上被拒稿的论文，竟然能在 ACL 上获得最佳论文奖，这本身就暗示着：
论文的质量可能并没有被完全否定： 如果论文的质量非常差，那么在任何一个顶会都不太可能被接受，更不用说获得最佳论文奖了。这表明论文本身具有一定的创新性和重要性。
审稿过程的“偶然性”或“主观性”： 审稿是一个复杂的过程，受到审稿人专业背景、理解能力、对研究方向的偏好以及当时的时间精力等多种因素的影响。在如此大规模的审稿中，出现判断上的差异是不可避免的。
研究方向的重叠与迁移： 虽然 ICLR 和 ACL 侧重点不同，但随着深度学习在 NLP 领域的广泛应用，越来越多的研究同时跨越了机器学习和 NLP 的界限。这篇论文可能在 ICLR 看来与它的核心范式不完全契合，但在 ACL 看来则具有重要的 NLP 价值。
2. 审稿过程的局限性：为什么会发生这种情况？
学术会议的审稿过程是同行评审的基石，但它并非完美无缺。以下是可能导致 ICLR 拒稿、ACL 优选的原因：
审稿人匹配问题：
专业领域不对口： 论文的深度学习方法可能在 ICLR 的审稿人看来不够“新颖”或与当前的 ICLR 热点不符，但其在 NLP 任务中的应用和对语言理解的贡献，可能恰好是 ACL 的审稿人看重的。反之亦然。
审稿人的研究视角： 即使是同一个领域，不同的研究者也会有不同的研究视角和关注点。一位审稿人可能更看重理论上的优雅，另一位则可能更欣赏实际效果和应用价值。
审稿人的工作量与精力： 顶会审稿量巨大，审稿人通常需要在有限的时间内阅读大量论文。这可能导致审稿人无法完全深入理解一篇具有复杂数学推导或新颖模型结构的论文。
对新思想的理解门槛： 尤其是一些真正具有开创性的工作，可能超出了审稿人当前的认知范围，或者需要更多时间来消化和理解。在时间压力下，一些审稿人可能倾向于保守，拒绝他们不确定或难以理解的论文。
审稿人之间的意见分歧： 即使是同一篇论文，不同的审稿人也可能给出截然不同的评价。最终的决策会受到 Area Chair (AC) 和 Program Chair (PC) 的综合考量，这其中也包含了一定的主观性。
论文的呈现方式：
说明不清或论证不足： 如果论文在 ICLR 提交时，其 NLP 应用的价值和意义没有被充分阐述清楚，或者其方法的创新性在 NLP 背景下没有得到足够强调，就可能导致审稿人忽略其亮点。
对特定社区的“口味”不适应： 有时候，论文的写作风格、实验设置或表述方式可能更适合某个社区的习惯，而不适合另一个。
“最佳论文”奖的标准： 最佳论文奖的评选通常会更加严格，不仅要求论文在技术上有突破，还可能看重其对整个领域的潜在影响和引领作用。一篇在某个特定方面（如 NLP 应用）有突出贡献的论文，可能在 ACL 上更容易获得青睐。
3. ICLR 和 ACL 的差异与联系
理解这两个会议的侧重点是理解这个事件的关键：
ICLR (International Conference on Learning Representations):
核心关注： 表示学习、深度学习理论、模型架构创新、优化算法、图神经网络、强化学习等与机器学习核心方法论相关的研究。
对 NLP 的态度： 将 NLP 视为一个应用领域。如果一篇论文提出的方法在 NLP 上表现优异，但其方法论本身并没有对“表示学习”这个核心概念带来突破，或者其 NLP 应用的创新性不如其 ML 方法的创新性突出，可能在 ICLR 上会面临更高的门槛。
ACL (Association for Computational Linguistics):
核心关注： 自然语言理解、自然语言生成、机器翻译、信息抽取、问答系统、情感分析、对话系统等一系列与语言和计算相关的研究。
对 ML 的态度： 将机器学习和深度学习视为强大的工具。如果一篇论文利用 ML 技术解决了重要的 NLP 问题，或者提出了对 NLP 任务有显著改进的新模型和方法，即使其 ML 理论贡献不是最大化的，也可能在 ACL 上获得高度认可。
这个被拒的论文可能存在以下情况：
在 ICLR： 其提出的 ML 方法可能在某些方面（如理论新颖性、通用性）被认为不够突出，或者其在 NLP 上的应用价值没有被审稿人充分认识到，或者其 NLP 的创新性不足以支撑其在 ICLR 的核心领域获得认可。
在 ACL： 其提出的方法，即使 ML 部分相对已知，但在解决某个重要的 NLP 问题上取得了显著的突破，或者其对 NLP 领域的研究思路、模型设计等有重要的启发意义，因此被评为最佳论文。例如，可能是一个新的注意力机制在翻译任务上表现惊人，或者一个新颖的句子表示方法显著提升了问答系统的准确率。
4. 学术评价的复杂性与反思
这个事件也引发了对学术评价体系的一些反思：
多元化的评价标准： 评价一篇论文的好坏不能仅仅依靠单一的标准。不同领域、不同会议对论文的侧重点不同，这反映了学术研究的多样性。
审稿人的责任与挑战： 审稿人肩负着为会议筛选高质量论文的重任，但同时也要面对不断涌现的新思想和技术。如何平衡审慎与开放的心态，是每一位审稿人都需要思考的问题。
论文作者的策略： 作者在投稿时，选择合适的会议至关重要。了解不同会议的研究范围、审稿人的偏好以及会议的“文化”，可以提高论文被接受的几率。如果一篇论文在某个方面有突破，但在另一个方面相对薄弱，将其投递到更看重前者而非后者的会议，成功的可能性更大。
“意外”的价值： 有时候，一些看似“不合时宜”的研究，在新的背景或由不同的视角审视时，会展现出意想不到的价值。这个事件恰恰说明了学术交流的灵活性和学术发现的不可预测性。
5. 潜在的故事线猜测（非事实，仅为举例说明）
为了更形象地说明，我们可以设想几种可能的场景：
场景一：深度学习方法在 NLP 中的成功应用
论文内容： 作者提出了一种新的深度学习模型架构或训练策略，其理论创新可能并非革命性的，但在解决某个非常棘手的 NLP 问题（如长距离依赖的理解、低资源语言的处理）上取得了前所未有的好效果。
ICLR 审稿： 审稿人可能认为其 ML 核心理论创新不够突出，或者其模型架构与当前 ICLR 的主流热点（如 Transformer 的变种）相比，并没有带来颠覆性的改变。因此被拒。
ACL 审稿： 审稿人（多为 NLP 专家）发现该模型在 NLP 任务上的应用效果非常显著，其提出的方法虽然可能不是全新的 ML 理论，但对于 NLP 领域来说是开创性的，为解决特定 NLP 挑战提供了新的思路和工具。最终获得最佳论文。
场景二：理论与应用之间的权衡
论文内容： 论文包含复杂的数学推导和严谨的理论分析，但其在实际应用中的效果可能不如一些更“工程化”的方案。
ICLR 审稿： ICLR 可能更看重理论的严谨性和数学上的创新，如果作者在理论上未能完全说服所有审稿人，或者理论的实际价值未能充分体现，可能导致拒稿。
ACL 审稿： ACL 的审稿人可能更侧重于论文解决的 NLP 问题的重要性以及其实际效果。即使理论推导中存在一些审稿人可以商榷之处，但其在 NLP 应用中的突破性成果足以赢得青睐。
总结
ICLR 2021 拒稿、ACL 2021 Best Paper 的现象，是一个 概率很小但并非不可能发生 的事件，它深刻地揭示了：
1. 学术会议审稿的固有局限性： 审稿人匹配、主观判断、工作量等都会影响最终结果。
2. 研究领域的交叉性： 深度学习与 NLP 的深度融合使得研究成果的评价维度更加多元。
3. 对论文价值的多元理解： 不同的会议和研究社区，对一篇论文的“好”有不同的侧重点。
这个事件提醒我们，在追求学术卓越的过程中，既要注重理论的严谨和方法的创新，也要关注研究的实际应用价值和对具体领域的贡献。同时，它也让我们更加理解学术评价的复杂性和科学发现过程中的一些“运气”成分。对于论文作者而言，准确把握研究的亮点并选择最适合的投稿会议，是至关重要的。对于审稿人和会议组织者而言，这是一个反思和改进审稿机制的契机，以期更准确地识别和奖励真正有价值的研究。
网友意见
感谢大家对此工作的关注，我是本工作的作者之一许晶晶，也是一名普通的自然语言处理圈内吃瓜人士，只是没想到这次吃到了自己的瓜orz。这里想跟大家简单分享以下我对这个问题的回答以及在这次投稿中我学到的经验和教训。
第一，我学到的最重要教训是一定要把东西写清楚。**尽管写作不是最重要的，但是写清楚是让评审评价工作的前提**。其实ICLR的评审和ACL的评委都对我们的Idea做了肯定，新颖性和有趣性都是被承认的，我们给出的基于最大边际效应的解释，和把词表学习建模成一个最优运输问题都是全新的一套想法。ICLR对idea没有太多问题，问题主要是在写作上，后来我们把写作改进之后，能拿到高分虽然意料之外，倒也在情理之中。有一说一，我们ICLR那篇工作确实写的不好。评审的反馈主要在以下几个方面：实验做的不够充分，方法介绍的不够清楚，动机也缺乏直接证据。后来的这几点，我们在ACL版本都做了大量的改进。我们补充了很多后续实验，写作也推倒重来，一遍遍推敲逻辑是否合理，实验是不是严谨和充分等等，整个过程是很痛苦的。所以后来我们得到ACL匿名评审的满分认可的时候非常激动，毕竟投入了很多心血的工作终于得到了回报。
第二，投稿不要太匆忙。我们当时工作做完之后，觉得还挺有趣的，为了赶上ICLR的截止日期，写的比较匆忙，存在各种问题，结果就被ICLR的审稿人教做人了。这次投稿之后我学到的一点是准备充分再投，不然会给评审带来不必要的压力以及被评审分分钟教做人。
第三，负面意见不是否定，而是进步的重要来源。其实有很多高分论文之前被拒的先例，比如最佳论文 Lottery Ticket假说，pre-training鼻祖ELMO，LayerNorm，KD等等。我这里举这些例子不是想说我们的工作可以和他们比肩（当然我们也想作出能够真正有用的工作，这些工作一直是我们的榜样），而是想让大家可以客观的看待这个问题。可能很多人会认为负面意见是对工作的否定，其实换个角度，负面意见也是让我们进步的重要力量～虽然这次被大家谈论压力很大，但是我们也很开心可以让大家思考负面意见这个问题。当大家的论文被拒的时候，想一想Hinton的论文都被拒过稿，是不是会变得更加自信一些!
第四： NLP会议的论文不一定比ML的会议论文差。有很多优秀的论文在NLP的会议上也拿到了很高的收益，比如BERT，ELMO等等。ML的会议上也有一些被遗忘的工作。最近确实各大会议的论文数量变得越来越多，有一些很拉垮的论文被录用，但是另一方面来看，好的paper也变的更多了。NLP的会议对NLP更关注，ML的会议对算法更关注。我们当时做的是词表问题研究，可能对于ML的人是个小问题，但是对于NLP领域来说，确实个每天都在用的东西，可能也会对我们工作更认可一些。我看下面也有些知友讨论应用领域的会议和ML会议谁更好的问题。我的看法是只要这个会议大部分人都还认可它是顶会，碰上哪个就投哪个，毕竟最后大家看的还是工作本身～优秀的工作发表在arxiv上也会发光发亮！
最后，打个小小的广告，我们这个工作研究了词表学习的问题，也发现了一些有意思的结论，我们打算近期把代码整理开源出来，欢迎大家到时候试用～某大佬说过研究是一个长周期的事情，无论短期拿到多少荣誉，重要的是做的东西能不能留下来。 我们也非常希望可以做出这种工作～
这次很荣幸能够听到大家的反馈，虽然是自己的瓜，但也吃的津津有味zzzzz。不过针对一些阴谋论的想法，这里还是有必要回复一下orz，以免给别人带来不必要的麻烦。不管未来这个工作是籍籍无名还是会被很多人用进benchmark，至少这次评审对我们的认可度还是不错的。我们这次拿了两个满分，一个接近满分，希望阴谋论不攻自破吧。
最后，如果大家有任何对该工作的问题和建议，或者对修改论文上的困惑，也欢迎加我微信号一起聊聊：xujingjingpku
最后辟谣一下另一篇关于NAS的问题，我们当时NAS的工作最早投了NeurIPS，投稿时间是2020年5月27号，没中后来投了ICLR，最近被接受。without training那篇放在arxiv 的时间是2020年6月8号，所以严格意义上来说是同期工作哈～
我是这个paper的作者之一，刚刚在公司的群里有同事把这个问题链接发给我，我震惊于居然有人这么关注我们的paper，手速这么快，非常感谢，代码还在整理中，整理完之后欢迎大家使用，希望大家都能尝试一下VOLT，肯定还是有很多不足的，也欢迎给我们多提意见。
首先祝贺一作 @许晶晶，非常不容易！！！
其次回答这个问题：关于从ICLR到ACL的转投，当时情况是这样的，我们在投ICLR的时候，花了太多时间在实验上，在writing上花的时间很不够，整个paper显地平铺直叙，Intuition没有说出来，且有部分重要的实验没有补充。结果大家也看到了，我觉得这是一个重要的lesson，也欢迎大家对比我们两个版本的论文。。。
Take Away：但行好事，莫问前程。还是应该好好地把手上工作360度全方位地做好，做扎实，而不是找到一个合适的ddl就去submit，现在arxiv这么方便，做到自己满意挂arxiv即可。
PS：为什么撤稿ICLR
这个问题问地不准确，我们当时其实是做了rebuttal的，ICLR的reviewer给了非常好的建议，我们很尊重也都吸收了。当时ACL有政策ICLR不在规定时间内撤稿不能投ACL，因为open review也违反ACL的规则。我们当时特地写信问了PC确认过，就撤稿了。不过后来ACL非常人性化地做了政策上的调整，这是后话了。
PSS：欢迎大家关注我们另外一篇被ICLR拒稿，然后也被ACL高分录用的paper：GLAT：Glancing Transformer for Non-Autoregressive Neural Machine Translation。当时ICLR submission在此：Non-iterative Parallel Text Generation via Glancing Transformer
GLAT这个paper也是很自信，也是有点RUSH，导致写地不好。实际上效果非常好，GLAT在我们字节跳动内部火山翻译已经上线了，Tiktok上的部分翻译流量就是GLAT serve的。数据越大，GLAT的效果越好，我们用GLAT参加了今年WMT翻译评测，大语种德语->英语（受限），以及英语->德语（非受限）的比赛中，GLAT在两个方向都拿了BLEU score的第一，充分说明并行（非自回归）生成模型未必比自回归模型差，甚至有可能更好，欢迎大家关注后续！
=======================
一眨眼就5个回答后的补充：我个人非常不同意上面的匿名回答”说明无论什么工作peer review就是摸彩票“，两次审稿的review质量都非常高，说review就是摸彩票的回答一看就是没有读过论文和review，有点不负责任且误导大众，使得一些junior的同学对投稿有错误的认知！希望稍微读一下论文。
类似的话题
-
ICLR 2021 的拒稿被评为 ACL 2021 的 Best Paper，这确实是一个非常引人注目的事件，在学术界引发了广泛的讨论和思考。要理解这个现象，我们需要从多个维度进行分析，包括论文的质量、审稿过程的局限性、不同顶会之间的差异，以及学术评价的复杂性。以下我将尽量详细地阐述： 1. 事件本............. -
关于网传“北大文科博士在深圳大学任教经济困难，月薪13千，上网课要求学校发网络补助”的信息，需从多个角度进行分析，结合中国高校薪酬体系、地区差异及政策背景，综合判断其真实性及合理性。 一、信息真实性分析1. 来源可信度 目前尚无权威媒体或深圳大学官方声明证实该传言。网络传言往往存在夸大或误传.............
-
关于乌克兰数学家康斯坦丁·奥尔梅佐夫（Konstantin Orelmazov）的自杀事件，目前公开的可靠信息较为有限，但结合俄乌冲突的背景和乌克兰学术界的现状，可以尝试从多个角度进行分析和探讨： 1. 事件背景的核实与可能性 身份确认：目前公开的资料中，尚未有明确的、权威的新闻来源（如BBC.............
-
关于美国太平洋司令部空军司令威尔斯巴赫（James W. "Jim" Welsbach）提到的F35战机与歼20近距离接触的事件，目前公开信息中并无直接证据表明该言论来自美国官方渠道，因此需要从多个角度进行分析和澄清。 1. 事件背景与信息来源的可靠性 美国官方声明的缺失：截至2023年，美国.............
-
关于您提到的“硅谷男子在妻子患病期间相亲，妻子病逝后迅速再婚并独吞200万抚恤金”的事件，目前没有权威媒体或官方渠道发布过相关具体信息。因此，这一事件的真实性、细节和法律性质尚无法确认。以下从法律、道德和社会角度进行分析，供您参考： 一、事件可能涉及的法律问题1. 重婚罪（若属实） 根据中国.............
-
欧盟三国领导人乘坐火车前往基辅会晤泽连斯基，这一事件反映了欧洲国家对乌克兰的持续支持，以及俄乌冲突背景下国际政治的复杂动态。以下从多个角度详细分析这一事件及其背后的局势： 一、欧盟三国领导人赴基辅的背景与意义1. 象征性行动 欧盟三国（如波兰、爱沙尼亚、捷克等）领导人乘坐火车前往基辅，是近年.............
-
中国海关查获5840块造假显卡、讯景中国官网临时关闭以及天猫旗舰店下架产品事件，涉及知识产权保护、市场秩序维护及企业合规问题，具有多重社会和行业影响。以下从多个角度详细分析： 一、事件背景与核心问题1. 海关查获假显卡 查获数量：5840块显卡，可能涉及假冒品牌（如讯景、华硕、技嘉等），或.............
-
尹锡悦当选韩国总统是2022年韩国大选的重要结果，这一事件对韩国政治、经济、社会及国际关系产生了深远影响。以下从多个维度详细分析其背景、意义及可能的未来走向： 一、选举背景与过程1. 政治格局 在野党联盟胜利：2022年韩国大选中，由自由民主党和共同民主党组成的“在野党联盟”以压倒性优势击.............
-
关于加州华裔女博士因持刀袭警被警方击毙的事件，这一案件涉及法律程序、执法权、种族问题等复杂背景，需要从多个角度进行分析。以下从法律、执法程序、社会背景、争议焦点等方面展开详细讨论： 1. 事件背景与法律依据根据公开报道，事件发生在2022年11月，加州一名华裔女性（身份为博士）因涉嫌持刀袭击警察，在.............
-
基辛格的《论中国》（On China）是美国前国务卿亨利·基辛格（Henry Kissinger）于1972年访华期间撰写的一部重要著作，也是中美关系史上的关键文献之一。这本书不仅记录了基辛格作为“中间人”在中美关系正常化过程中的角色，还系统阐述了他对中国的政治、文化、历史和外交政策的深刻观察。以下.............
-
印度承认误射导弹落入巴基斯坦境内一事，是印巴两国关系紧张的一个缩影，也反映了地区安全局势的复杂性。以下从多个维度详细分析这一事件的背景、影响及可能的后续发展： 一、事件背景与经过1. 时间与地点 事件发生在2023年6月，印度在进行军事演习时，一枚“阿金科特”（Agni5）远程导弹因技术故障.............
-
2022年2月24日，俄罗斯在乌克兰发动全面军事行动后，联合国大会通过了一项决议草案，要求俄罗斯立即从乌克兰撤军、停止军事行动，并尊重乌克兰的主权和领土完整。这一决议的通过过程和结果引发了国际社会的广泛关注，以下是详细分析： 一、事件背景1. 俄罗斯的军事行动 2022年2月24日，俄罗斯在.............
-
乌克兰副总理呼吁游戏厂商暂停在俄罗斯的业务，并点名腾讯，这一事件反映了俄乌冲突背景下，国际社会通过经济手段施压俄罗斯的策略。以下从背景、动机、可能影响及各方反应等方面进行详细分析： 一、事件背景与动机1. 俄乌冲突的经济压力 俄乌冲突已持续近两年，俄罗斯经济受到严重冲击，包括制裁、能源价格飙.............
-
瓦列里·捷杰耶夫（Valery Gergiev）作为俄罗斯著名的指挥家和马林斯基剧院的音乐总监，其被西方音乐界抵制的事件，涉及复杂的国际政治、文化立场与艺术伦理问题。以下从多个角度详细分析这一事件的背景、原因、影响及争议： 一、事件背景：捷杰耶夫与俄罗斯的政治关联1. 职业背景 捷杰耶夫自1.............
-
全国政协委员建议推广DNA数据库以实现有效打拐的建议，涉及技术、法律、伦理、实际操作等多方面因素，其可行性需从多个维度综合分析。以下从技术、法律、伦理、操作、风险等角度详细探讨： 一、技术可行性分析1. DNA数据库的原理 DNA数据库通过存储犯罪现场或失踪人员的DNA样本，利用DNA指纹技.............
-
关于俄罗斯外交部发布的所谓“乌克兰政府对顿巴斯的暴行”视频，这一问题涉及俄乌冲突的复杂背景、信息战的特征以及国际社会的争议。以下从多个角度进行详细分析： 1. 背景与视频的来源 冲突背景： 顿巴斯地区（包括顿涅茨克和赫尔松两州）自2014年以来一直是俄乌矛盾的焦点。2022年2月，俄罗斯以“保.............
-
关于抖音用户“李赛高（佤邦）”被封号的事件，目前公开信息较为有限，但可以从以下几个角度进行分析和探讨： 一、事件背景与可能原因1. 账号主体身份 “李赛高”可能是某位公众人物或网红，而“佤邦”可能与其身份或背景有关。佤邦是缅甸的一个少数民族地区，历史上曾与中国存在复杂关系，涉及民族、历史、政.............
-
沈逸是中国人民大学国际关系学院教授，长期从事国际政治研究，尤其关注地缘政治与大国关系。他在俄乌冲突中的分析曾引发争议，但需注意的是，学术观点的准确性往往取决于信息来源、分析框架和时代背景。以下从多个角度分析其判断可能存在的问题及原因： 一、沈逸的分析背景与观点1. 2014年乌克兰危机前的预测 .............
-
关于饶毅提到的“在美国校运动队的学生就能上哈佛等一众名校”的说法，需要从多个角度进行分析，既要理解其可能的背景和意图，也要客观看待美国大学的招生政策和实际情况。 一、饶毅的言论背景与可能的误解饶毅作为中国科学院院士，长期关注中国教育体系与国际教育的差异，曾在多个场合讨论中美教育制度的对比。如果他提到.............
-
地狱笑话吧的突然爆火，是网络文化、社会情绪、平台算法和亚文化圈层共同作用的结果。以下从多个维度详细分析这一现象： 一、社会情绪的释放与心理需求1. 压力与焦虑的宣泄 在快节奏、高竞争的现代社会，人们普遍面临工作、生活压力。地狱笑话以其“荒诞”“反讽”“黑色幽默”的特点，成为一种情绪宣泄的出口.............
本站所有内容均为互联网搜索引擎提供的公开搜索信息，本站不存储任何数据与内容，任何内容与数据均与本站无关，如有需要请联系相关搜索引擎包括但不限于百度，google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有