究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
有没有根据一张人物的立绘正面像，自动生成同风格各侧面角度像并自动衍生表情的软件啊？为什么神经网络具有泛化能力？
如果机器人替代人类的工作，有可能对机器人使用者征税吗？
如何评价微软亚洲研究院提出的LightRNN？
未来强人工智能会是人类意识的继承者么？
如何评价Google发布的第二代深度学习系统TensorFlow?
如何学习 SQL 语言？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
如何评价深度学习之父Hinton发布的Capsule论文？
最优控制(optimal control)与最优化(optimization)有什么区别？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
如何激怒一位人工智能（机器学习、深度学习、强化学习等）爱好者？如何看待微博用户「将记忆深埋」所做的面部识别帮助程序员避免成为接盘侠？
2019年NeurIPS有哪些糟糕的论文？
如何理解Inductive bias？
济南成功实施首例「人工心脏」植入手术，「人工心脏」相对于传统心脏移植有哪些优势？
如何评价DALL-E模型的实现？
Auto X的自动驾驶技术用了什么技术？
深度学习在无人驾驶汽车上面的运用有哪些？
能否对卷积神经网络工作原理做一个直观的解释？
算法工程师是否应该持续读论文？
如何评价扎克伯格自己写的 Jarvis AI？
如何评价PyTorch 0.4.0？
阿尔法狗已经积分4500了，这个可信吗？
为何总感觉人工智能和神经科学（神经网络）被绑在一起？
对于人类的未来而言，星辰大海和虚拟现实，哪个才是更有意义的发展方向？
如何看待多模态transformer，是否会成为多模态领域的主流？
AlphaGo战胜围棋冠军和当年IBM深蓝战胜象棋冠军哪个意义和影响更大？
怎样让机器有意识?
怎么选取训练神经网络时的Batch size?
AlphaGo「理解」围棋吗？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
人工智能是否毁灭人类？
如何评价微软研究院开发的AI量化投资平台Qlib？
如何看待Capsule Network在NLP领域的潜力？
有什么深度学习数学基础书推荐？
如何看待媒体报道称「Facebook将关闭人工智能系统：因AI已经发明语言」？
人们为什么这么害怕潘多拉之盒？
如何自学人工智能？
因果推断（causal inference）是回归（regression）问题的一种特例吗？
这个全椭圆积分和beta函数的关系该怎么证明？