NIPS 2018 有什么值得关注的亮点？

NIPS 2018，现已更名为 NeurIPS (Neural Information Processing Systems)，是全球最顶尖的人工智能和机器学习会议之一。2018年的会议在加拿大蒙特利尔举行，无疑是机器学习领域发展历程中的一个重要里程碑。那一年，AI 和机器学习正处于一个蓬勃发展的黄金时期，各种创新技术层出不穷，应用场景也越来越广泛。

以下是 NIPS 2018 值得关注的几个主要亮点，我将尽量详细地阐述：

1. 深度学习的持续演进与精进

虽然深度学习已经是会议的主旋律，但 NIPS 2018 展示了其在各个方向上的进一步深化和突破。

大规模模型与自注意力机制的威力：
Transformer 架构的崛起与普及： 2017 年的 Transformer 论文《Attention Is All You Need》在 NIPS 2018 上持续发酵，其基于自注意力机制（SelfAttention）的强大能力在自然语言处理（NLP）领域得到了广泛的验证和应用。大家开始意识到，RNN 和 CNN 在序列建模方面并非不可替代，Transformer 的并行化能力和对长距离依赖的捕捉能力更具优势。
BERT 等预训练模型的预演： 虽然 Google 的 BERT 模型是在 2018 年底发布的，但 NIPS 2018 上已经涌现出大量基于类似思想的研究，即在大规模无标签文本上进行预训练，然后再在下游任务上进行微调。这标志着 NLP 模型训练范式的巨大转变，也为后续的 GPT 系列等大型语言模型的出现奠定了基础。
在其他领域的探索： 除了 NLP，Transformer 的思想也开始被探索应用于计算机视觉、语音识别等领域，证明了其跨模态的通用性。

生成模型（Generative Models）的突破：
生成对抗网络（GANs）的稳定性和可控性提升： GANs 在图像生成领域已经取得了令人惊叹的成果，NIPS 2018 上，研究者们在如何提高 GANs 的训练稳定性、避免模式崩溃（Mode Collapse）以及实现更精细的图像控制（例如风格迁移、图像编辑）方面提出了许多新的方法和改进。例如，StyleGAN 系列的早期思想可能已经有所体现，对生成图像的风格和内容进行解耦。
变分自编码器（VAEs）的优化与融合： VAEs 在生成模型领域也扮演着重要角色，尤其是在生成具有可解释性latent space的样本方面。会议上出现了更多关于如何提高 VAEs 生成质量、与 GANs 相结合以发挥各自优势的研究。
扩散模型（Diffusion Models）的初步探索： 虽然扩散模型在后来的几年才成为主流，但在 NIPS 2018 上，一些基于扩散过程的生成模型的研究也开始出现，为未来的发展埋下了伏笔。

强化学习（Reinforcement Learning, RL）的深度拓展：
模型无关的强化学习（ModelFree RL）的进步： 像 Proximal Policy Optimization (PPO)、Soft ActorCritic (SAC) 等算法在 NIPS 2018 上得到了进一步的关注和发展。这些算法在保持训练稳定性的同时，能够取得更优的性能，并且更容易实现和扩展。
Offpolicy RL 的发展： 如何高效地利用历史数据进行学习是 RL 的一个重要挑战。会议上出现了更多关于 offpolicy RL 算法的研究，例如利用 replay buffer 来存储和重用过去的经验，以提高样本效率。
多智能体强化学习（MultiAgent RL, MARL）的兴起： 随着 AI 在游戏、机器人协作等领域的应用需求增加，MARL 成为了一个热门的研究方向。会议上展示了许多关于如何协调多个智能体、解决信誉分配问题（Credit Assignment）、以及在复杂环境中进行合作或竞争的研究。
RL 在机器人和控制领域的实际应用： 许多研究展示了 RL 在机器人抓取、导航、运动控制等实际任务中的应用，表明 RL 已经从理论研究走向实际落地。

2. 对机器学习理论和基础的深入探索

除了应用层面的突破，NIPS 2018 也强调了对机器学习理论基础的关注，旨在更好地理解和解释深度学习的成功，并探索其局限性。

优化算法的新进展：
非凸优化问题： 深度学习的损失函数通常是非凸的，如何保证模型能够收敛到全局最优解或好的局部最优解一直是研究的重点。会议上出现了关于二阶优化方法、自适应学习率方法以及更鲁棒的优化策略的研究。
分布式和大规模优化： 随着模型和数据的规模不断增大，如何在分布式环境下高效地进行优化成为关键。
泛化能力与鲁棒性：
过拟合的理解和缓解： 深度学习模型很容易过拟合，理解其背后的原因并提出有效的缓解方法（如正则化、早停等）是重要议题。
对抗样本（Adversarial Examples）与模型鲁棒性： 对抗样本对深度学习模型的安全性提出了严峻挑战。会议上出现了更多关于生成对抗样本的方法、检测对抗样本以及提升模型对对抗样本鲁棒性的研究。
理论解释： 研究者们试图从信息论、统计学等角度来解释深度学习模型的泛化能力和鲁棒性，例如低维流形假设、隐变量模型等。
可解释性（Explainability/Interpretability）：
理解“黑箱”模型： 深度学习模型通常被认为是“黑箱”，难以理解其决策过程。会议上涌现出大量关于模型可解释性的研究，例如 LIME、SHAP 等事后解释方法，以及注意力机制、可视化等模型内部解释技术。
可信赖 AI（Trustworthy AI）： 可解释性是构建可信赖 AI 的重要组成部分，也包括公平性、隐私保护等方面。

3. 跨学科的融合与应用拓展

NIPS 2018 也反映了机器学习与更多学科的深度融合，以及在各个领域的广泛应用。

AI for Science & Science for AI：
科学研究中的机器学习应用： 机器学习在物理学（例如粒子碰撞模拟）、化学（例如药物发现）、生物学（例如基因组学、蛋白质结构预测）、天文学等领域取得了令人瞩目的进展。
从科学中汲取灵感： 例如，物理学中的一些原理（如牛顿定律、量子力学）被用来指导或改进机器学习模型的设计。
AI 与机器人学的结合：
感知与控制的融合： 深度学习在计算机视觉、传感器数据处理等方面的进步，极大地提升了机器人的感知能力。而强化学习则为机器人提供了更灵活和智能的控制策略。
具身智能（Embodied AI）： 在模拟环境中训练智能体，并将其迁移到现实世界中的研究受到关注。
AI 在医疗健康领域的应用：
医学影像分析： 深度学习在诊断疾病（如癌症检测、视网膜病变诊断）方面展现出巨大的潜力。
药物研发与个性化医疗： 利用机器学习加速新药发现，以及根据个体基因组信息提供个性化治疗方案。
AI 与社会科学的交叉：
分析社会现象： 利用机器学习分析社交媒体数据、经济数据等，理解社会行为和趋势。
AI 的伦理和社会影响： 对 AI 的偏见、公平性、隐私保护等社会问题的讨论也在会议上占据了一席之地。

4. 会议组织与社区动态

女性研究者比例的提升与包容性： NIPS 一直致力于提高女性研究者在会议中的参与度。2018 年，会议在提升包容性和多样性方面继续努力，例如设立了更多女性相关的研讨会和活动。
开源工具和平台的重要性： TensorFlow, PyTorch 等深度学习框架的成熟和普及，极大地促进了研究的传播和复现。会议上大量的研究成果都建立在这些开源工具之上。
论文数量的爆炸式增长： 与前几年一样，NIPS 2018 收到了远超预期的论文投稿，这也反映了 AI 和机器学习领域的火热程度，同时也带来了评审的挑战。

总结一下 NIPS 2018 的关键信号：

1. Transformer 架构的统治力初显： 为后续大型语言模型的爆发铺平了道路。
2. 生成模型能力的飞跃： GANs 和 VAEs 在生成质量和可控性上不断提升。
3. 强化学习的实用化加速： 在算法稳定性和应用落地方面都有显著进展。
4. 理论与实践的深度结合： 在理解模型机制、提升鲁棒性和可解释性方面持续发力。
5. 跨学科应用的广泛性： AI 正渗透到越来越多的科学领域和社会应用中。

总而言之，NIPS 2018 是一个集大成与创新并存的会议。它不仅展示了深度学习技术在各个领域的最新突破，更预示着人工智能将如何更深远地影响我们的科学研究、技术发展和社会生活。那一年的会议，如同一个集结号，激励着全球的研究者们在人工智能的道路上继续前行。

……真无聊

就没人能介绍一下好的paper idea吗

我就看到好几篇我觉得挺有趣的文章

可能是我也是loser

===============

【持续更新】推荐几篇 抛砖引玉

1. Chen, Tian Qi, et al. "Neural Ordinary Differential Equations."arXiv preprint arXiv:1806.07366(2018).

我一直在做的方向是ode来分析neural network

比如我的icml2018年工作

Yiping Lu,Aoxiao Zhong,Quanzheng Li,Bin Dong. "Beyond Finite Layer Neural Network:Bridging Deep Architects and Numerical Differential Equations"Thirty-fifth International Conference on Machine Learning (ICML), 2018

可以看我之前的回答

ICML 2018 有哪些值得关注的亮点? - 2prime的回答 - 知乎 https://www.zhihu.com/question/276842383/answer/394370152

这篇paper把这个ODE的观点用到了flow model上

flowmodel最贵的一步要算neural network的jacobi 【变量代换公式】

这里用了ode观点一下子把计算量从O(n^2)->O(n)

作者最近有一篇FLORD也挺有意思的

这是我见过最convince的的用ODE给neural network会带来好处的工作！！！！

2. Zhang, Jingzhao, et al. "Direct Runge-Kutta Discretization Achieves Acceleration."arXiv preprint arXiv:1805.00521(2018).(Spotlight)

也是和Su, Candes, Boyd的paper一样用ODE建模nesterov加速的方法

大概是以前M.J 提出来了一系列可以达到O(1/k^p)收敛速度的ode，但是没人能证明的离散的算法收敛阶

这片工作据我所知是第一篇证明了离散的算法的收敛阶的

大概两点吧

1.L-smooth的假设在这里加强了

2.如果用s阶runge-kutta method收敛阶是O(1/k^(ps/(s+1)))可以看到我们的离散算法破坏了算法的收敛阶

其实有趣的事情是貌似在ode里好的格式在优化里会破坏收敛阶，在ode里很差的格式可以在优化里提升收敛阶（nesterov可以看成对gradient flow的线性多步法，就是很不稳定。。。）

3.Jin, Chi, et al. "Is Q-learning Provably Efficient?."arXiv preprint arXiv:1807.03765(2018).

读完看下吧