百科问答小站 logo
百科问答小站 font logo



请问有哪些最优化算法可以做全局优化? 第1页

  

user avatar   martin-tan-59 网友的相关建议: 
      

如果不对问题结构做任何假设的话,没有任何方法可以做全局最优化,模拟退火也不能。

如果不假设结构,函数可以长成任意样子,除非能穷举遍历所有局部最小值点,否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过,在一般的非凸不可导的函数优化中,在一个给定的点找一个局部下降方向都可能是NP-hard的(相对问题的维度),更别说找局部最小值甚至全局最优解。

一般来说,要保证找到全局最有值,我们需要假设函数是凸的。当然凸只是一个充分条件,并不是必要的,有很多非凸的问题也能保证优化算法收敛到全局最优(比如matrix completion问题就被证明了所有局部最优点都有相同的函数值,所以也都是全局最优点),但这个能不能保证还得看具体问题。




  

相关话题

  为什么VAE-GAN的训练很容易发生梯度爆炸,如何避免? 
  ICLR 2019 有什么值得关注的亮点? 
  想在业余时间刷leetcode,配合什么书籍/课程/视频网站一起刷leetcode的效率最高? 
  蒙特卡罗算法是什么? 
  程序员能 20 分钟徒手写出一个没 bug 的 KMP 算法吗?(可以调试) 
  有限次博弈是否存在合作关系? 
  《阮一峰版快速排序完全是错的》一文是否存在事实错误? 
  面试题:一个长度为n的数组,其中数组中每个元素的值都不大于n,如何用O(n)的算法判断数组中是否存在重复元素? 
  想学好计算机算法,是否需要重新学数学呢? 
  如何直接跳出深层递归而不是一层一层跳出? 

前一个讨论
有多少颗恒星的超新星爆炸对地球温度影响会比太阳强?
下一个讨论
(有些)信佛的人为什么可以认同中医?





© 2025-07-01 - tinynew.org. All Rights Reserved.
© 2025-07-01 - tinynew.org. 保留所有权利