百科问答小站 logo
百科问答小站 font logo



请问有哪些最优化算法可以做全局优化? 第1页

  

user avatar   martin-tan-59 网友的相关建议: 
      

如果不对问题结构做任何假设的话,没有任何方法可以做全局最优化,模拟退火也不能。

如果不假设结构,函数可以长成任意样子,除非能穷举遍历所有局部最小值点,否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过,在一般的非凸不可导的函数优化中,在一个给定的点找一个局部下降方向都可能是NP-hard的(相对问题的维度),更别说找局部最小值甚至全局最优解。

一般来说,要保证找到全局最有值,我们需要假设函数是凸的。当然凸只是一个充分条件,并不是必要的,有很多非凸的问题也能保证优化算法收敛到全局最优(比如matrix completion问题就被证明了所有局部最优点都有相同的函数值,所以也都是全局最优点),但这个能不能保证还得看具体问题。




  

相关话题

  如何看待王思聪开始第二波抽奖,这轮抽奖结果的性别比是否会发生明显的变化? 
  做Federated Learning优化就是decentralized optimization吗? 
  2021-05-28:跳跃游戏 II。给定一个非负整数数组,你最初位于数组的第一个位...如何解答呢? 
  刷完算法导论和leetcode,能找到什么水平的工作? 
  什么是机器学习? 
  请问这个式子有没有简便算法(写法)? 
  机器学习里的 kernel 是指什么? 
  如何系统地学习算法? 
  红黑树的实现可以有多精简(各种语言随意)? 
  python怎么去掉最大值和最小值,怎么找到最大值与最小值,去掉最大值最小值比如下面这道题? 

前一个讨论
有多少颗恒星的超新星爆炸对地球温度影响会比太阳强?
下一个讨论
(有些)信佛的人为什么可以认同中医?





© 2024-12-22 - tinynew.org. All Rights Reserved.
© 2024-12-22 - tinynew.org. 保留所有权利