反馈控制理论在优化、机器学习等领域有哪些应用？ 第1页
1
shuang-wu-8 网友的相关建议:
算法收敛性的证明。
很多优化算法，以及机器学习算法都可以抽象成
或者如果数据带有噪音，再加入一个Martingale过程的扰动
前者是确定性动态系统，而后者是随机动态系统。算法的收敛就取决于寻找对应的李雅普诺夫函数了。
具体例子，比如TCP协议重的congestion control（堵塞控制）。congestion control的目标可以看作是受约束的用户utility maximization（效用最大化）。而congestion control的过程就可以看作是用算法寻找utility maximization的问题的最优点。
一篇比较新的paper：
A second order primal-dual method for nonsmooth convex composite optimization
以及比较早的
The O.D.E. Method for Convergence of Stochastic Approximation and Reinforcement Learning
Stability of primal–dual gradient dynamics and applications to network optimization
1
相关话题
人工智能和自动控制能在一起擦出什么样的火花？如何理解今年发表在JMLR上随机森林算法SPORF？
Batch normalization和Instance normalization的对比？
机器学习专家与统计学家观点上有哪些不同？
CPU和GPU跑深度学习差别有多大？
如何评价深度学习相关顶级期刊论文难复现的问题？
如何评价陈天奇团队新开源的TVM？
搞机器学习的生环化材是天坑吗？
注意力机制是如何学习到模型所应注意的区域的？
Linear least squares, Lasso,ridge regression有何本质区别？
前一个讨论
波士顿和纽约的生活方式有什么不同？
相关的话题
神经网络为什么可以（理论上）拟合任何函数？如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
所谓大数据分析，究竟要学什么？
人工智能 CV 岗位是不是现在供严重大于需？
word2vec有什么应用？
如何看待与评价 AAAI 2022 的录用结果？
为什么 Bert 的三个 Embedding 可以进行相加？
什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？
在Auto ML的冲击下，ML算法人员是否会在前者成熟后失业的情况？
AI在网络安全领域（尤其是威胁检测领域），有什么好的应用场景？
百度学术能否替代 Google 学术网站？有没有其他选择？
Batch normalization和Instance normalization的对比？
如何评价Deepmind自监督新作BYOL？
ICML2020有哪些值得关注的工作?
如何通过简单的例子解释滤波器的概念和应用？
Batch Normalization 训练的时候为什么不使用 moving statistics？
卷积神经网络如果将池化层去除，与神经网络的区别还大么？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
机器学习能否用于综合评价？具体怎么操作？
机器学习以及贝叶斯统计里，关于近似intractable integral，大家都偏爱什么算法？
2020年，多标签学习（multi-label）有了哪些新的进展？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
如何看待字节跳动 AI 实验室总监李磊入职 UCSB？
如何评价新Nature子刊Nature Machine Intelligence的出现？
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
人工智能相关的岗位薪酬状况如何？
如何评价Facebook AI提出的ResMLP，对比Google的MLP-Mixer?
2020到2021年小样本学习取得重大进展了吗？