请问有哪些最优化算法可以做全局优化？ 第1页
1
martin-tan-59 网友的相关建议:
如果不对问题结构做任何假设的话，没有任何方法可以做全局最优化，模拟退火也不能。
如果不假设结构，函数可以长成任意样子，除非能穷举遍历所有局部最小值点，否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过，在一般的非凸不可导的函数优化中，在一个给定的点找一个局部下降方向都可能是NP-hard的（相对问题的维度），更别说找局部最小值甚至全局最优解。
一般来说，要保证找到全局最有值，我们需要假设函数是凸的。当然凸只是一个充分条件，并不是必要的，有很多非凸的问题也能保证优化算法收敛到全局最优（比如matrix completion问题就被证明了所有局部最优点都有相同的函数值，所以也都是全局最优点），但这个能不能保证还得看具体问题。
1
相关话题
为什么梯度下降能找到最小值？如何评价各种关联因素分析算法,尤其是在算法效果对比方面?
为什么在数学中，一些运算的逆运算比原运算难很多？
ICLR 2019 有什么值得关注的亮点？
我们高中数学为什么不重视算法？高中学的数列，三角函数，求导，圆锥曲线相关问题的解法和算法有什么关系？
算法工程师的落地能力具体指的是什么？
是否存在一个函数，使得它的逆运算是容易求的，而它的逆运算的逆运算是难求的？
如何找到一个10项的非负整数数列，使该数列的任意不超过3项的和不重复，并使数列的最大项最小，并证明?
算法研究属于数学专业还是计算机专业？
推荐系统有什么危害?
下一个讨论
（有些）信佛的人为什么可以认同中医？
相关的话题
究竟什么是损失函数 loss function?如何直观地解释 backpropagation 算法？
请教拓扑排序中的一点疑问？
在电子游戏中99%的暴击率、1%的爆伤和1%的暴击率、99%的爆伤，两者谁带来的收益更高？
非CS背景，如何快速上手机器学习？
为什么算法时间复杂度没有三角函数级别？
目标检测算法中Two-stage算法速度慢,到底在哪里?
为什么在数学中，一些运算的逆运算比原运算难很多？
究竟什么是损失函数 loss function?
算法老师劝学生放弃学习 JavaScript，我该怎么办？
python怎么去掉最大值和最小值，怎么找到最大值与最小值，去掉最大值最小值比如下面这道题?
沃罗诺伊图（Voronoi Diagram，也称作Dirichlet tessellation，狄利克雷镶嵌 ）是怎样的？
怎样实现浮点数除以一个数再乘以这个数结果等于原值?
如何看待快手 CEO 宿华发文称，将用正确的价值观指导算法？
机器学习中使用正则化来防止过拟合是什么原理？
有没有必要把机器学习算法自己实现一遍？
计算机视觉（CV）的算法有哪些，具体都有哪些特点？
如何看待 2021 年图灵奖授予美国计算机科学家 Jack J. Dongarra?
如何看待「原谅宝」？
算法A时间复杂度O(n²)，算法B时间复杂度为O(n³)，为什么选择算法B而不选算法A的6个理由?
我发现设计模式一个很奇妙的情况，不知各位知友遇过没？
要设计一段C++程序将这组数按要求重新排序时，有哪些好的算法？
有没有必要把机器学习算法自己实现一遍？
对 n × n 网格图，从左下角走到右上角的边不重复路径（即左下角到右上角的迹）有多少种？
如何评价姜新文老师提出的NP=P这篇文章？
如何看待滴滴章文嵩称，滴滴面临的问题比 AlphaGo 复杂 100 倍？
量子计算机的出现会给实际生活带来怎样的改变？
美剧《硅谷》第三季第一集神秘代码写的是什么？
在一段高速公路上，30分钟之内见到汽车经过的概率是95%，那么，在10分钟内见到汽车经过的概率是多少？
如何评价教育部发文：AI、算法等2018年进入全国高中课程？