究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
人工智能的发展最令人不安的是什么？batchsize=1时可以用BN吗?
人工智能在生活中的应用都有哪些？
为何人类天真地认为人工智能永远服务于人类、不相信AI叛变？
wasserstein 距离的问题?
人脸识别技术现在成熟了吗，为什么没有大范围应用呢？
视觉算法的工业部署及落地方面的技术知识，怎么学？
如何不求导求 cos³x+sin³x 的最大值？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
心理咨询师会被人工智能取代吗？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
新基建来了，可能会给普通人的生活带来哪些影响或提升？此函数式如何求最小值？
如何解决测试中充斥着大量训练集中没见过的样本类型模型将其识别成非我族类仍然保持测试集的高精度？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
马斯克称「特斯拉或许应该制造一款连接交通灯的 AI 设备」，透露了哪些信息？
离开互联网算法岗，切入最近大行其道的AI生物医药研发靠谱吗？
如何看待人工智能中医（大数据及人工智能支持的中国传统经验医学）？
大数据给我们的生活带来了哪些改变？
对人工智能在未来的危险有哪些常见的误解？
国外AI技术成熟，为什么在AI风控领域中国反超了国外？
如何激怒一个科研工作者？
pytorch ddp训练中一个node fail，导致整个训练失败，有可能解决吗？
多模态方面，有哪些牛组值得我们follow他们的工作？
如何看待人工智能攻破德州扑克？
将记忆保存在电脑上，肉体坏死的人，算死亡了吗？
计算机视觉是否已经进入瓶颈期？
波士顿动力最新战争机器人，对各国军事平衡产生怎样影响？
Siri有什么令人毛骨悚然的问题回答？
如何评价Hinton组的新工作SimCLR?
商汤科技三年半巨亏 242 亿，为什么出现这么大的亏损？反映了 AI 行业的哪些问题？
人工智能就业前景越来越严峻了，你还在坚持吗？
普通程序员如何正确学习人工智能方向的知识？
如何评价微软亚洲研究院提出的LightRNN？
如何解决测试中充斥着大量训练集中没见过的样本类型模型将其识别成非我族类仍然保持测试集的高精度？
反馈控制理论在优化、机器学习等领域有哪些应用？
函数 f(x)＝x/2＋√(x²－x＋1) 的最小值怎么求？
如何看待70岁老教授花费2年时间让收藏在伯克利的中文古籍善本通过达摩院技术，以数字化方式回归故土?
怎样构造一个函数（数列）有无穷多处趋近无穷?感谢?
为什么不训练黑猩猩来代替人民从事体力和简单重复操作呢？