反馈控制理论在优化、机器学习等领域有哪些应用？ 第1页
1
shuang-wu-8 网友的相关建议:
算法收敛性的证明。
很多优化算法，以及机器学习算法都可以抽象成
或者如果数据带有噪音，再加入一个Martingale过程的扰动
前者是确定性动态系统，而后者是随机动态系统。算法的收敛就取决于寻找对应的李雅普诺夫函数了。
具体例子，比如TCP协议重的congestion control（堵塞控制）。congestion control的目标可以看作是受约束的用户utility maximization（效用最大化）。而congestion control的过程就可以看作是用算法寻找utility maximization的问题的最优点。
一篇比较新的paper：
A second order primal-dual method for nonsmooth convex composite optimization
以及比较早的
The O.D.E. Method for Convergence of Stochastic Approximation and Reinforcement Learning
Stability of primal–dual gradient dynamics and applications to network optimization
1
相关话题
我应该从计算机视觉回到做FPGA 吗？什么叫做泛函空间的大数定律？
如何理解压缩感知(compressive sensing)？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
如何看待SQuAD比赛中，阿里、MSRA机器阅读理解准确率超越人类？
Apple 在设备端对儿童色情图片检测，你怎么看这项功能？
机器狗送快递目前还有哪些瓶颈？
2021年深度学习哪些方向比较新颖，处于上升期或者朝阳阶段，没那么饱和，比较有研究潜力？
如何理解今年发表在JMLR上随机森林算法SPORF？
如何评价谷歌刚推出的Cloud AutoML？
前一个讨论
波士顿和纽约的生活方式有什么不同？
相关的话题
nlp有哪些值得完整实现一遍的算法?因果推断（causal inference）是回归（regression）问题的一种特例吗？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
transformer 为什么使用 layer normalization，而不是其他的归一化方法？
机器学习中如何识别图片中的手是手背还是手心？
GBDT算法的细节问题？
多模态训练，怎么解决不同模态之间差异的问题？
如何评价 BERT 模型？
Dirichlet Processes 是一个什么样的随机过程？
EM算法存在的意义是什么？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
想知道电路分析基础，模拟电子技术和自动控制原理三门课之间的关系，有哪些交叉知识是要用到的？
神经网络模型压缩好就业吗?
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
为什么要压缩模型，而不是直接训练一个小的CNN？
硕士方向，选择迁移学习还是自然语言处理？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
如何通俗地解释混沌理论（chaos）和分岔理论（bifurcation）？
机器学习，数据挖掘在研究生阶段大概要学些什么？
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
如何看待周志华等人的新书《机器学习理论导引》？
特征工程中的「归一化」有什么作用？
如何评价「Patches are all you need」?
有哪些LSTM(Long Short Term Memory)和RNN(Recurrent)网络的教程？
如何评价2020年计算机视觉顶会CVPR投稿量破万的现象？
attention跟一维卷积的区别是啥？
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
深度学习中Attention与全连接层的区别何在？