究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
国内 TOP10 CS 博士，该退学去做 RA 还是继续读呢？CVPR 2015 有什么值得关注的亮点？
电子游戏要发展到什么时候，玩家才可以直接通过打字或者语音的方式与NPC对话？
无人驾驶运营维护，自动驾驶运营维护，无人驾驶科技公司落地，逐渐走向现实，落地后的运营维护怎么办？
为什么自动控制理论这么玄学？
《星际穿越》中的机器人违反过机器人定律吗？
目前为止，中国科技发展可提速的方向有哪些？
圆周率是一个无理数，3.1415926…。问，能否用一个数学式子来准确表示圆周率，类似根号10？
如何看待韩国棋院院长回应棋手用AI作弊参赛？
推荐算法岗是否存在严重人才过剩?
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？为什么计算机科学中的神经网络模型得出来的结果被认为是科学的，而中医诊断却不被认为是科学的？
石黑浩的美女机器人如何评价？
f（x,y）->(x,y),是定义在一个2维空间开集上的 一一映射函数，f连续，它的象是否一定是开集？
如何评价谷歌用30亿数据训练的20亿参数ViT-G/14模型在 ImageNet 达到新的 SOTA？
机器学习里面的流形都是怎么用的？
如何评价旷视开源的YOLOX，效果超过YOLOv5?
如何看待「普通医生迟早被计算机替代」的观点？
wasserstein 距离的问题?
自动捡网球机器人方案?
为啥gan里面几乎不用pooling？
与其让计算机拥有人类的模糊思考，为什么不想办法让人类拥有计算机的高速计算能力？
如何看待人工智能中医（大数据及人工智能支持的中国传统经验医学）？
请问DeepMind和OpenAI身后的两大RL流派有什么具体的区别？
面试官如何判断面试者的机器学习水平？
将来医院哪个科室医生最容易/不容易被人工智能取代？
无人驾驶多久可以在同场竞技中超越F1赛车手?
如何评价知乎想法中「人工智能是否能做艺术创新」这一场论战？
如何看待刘强东:"机器人把你所有的工作都做了，共产主义在我们这一代就可以实现"？
CVPR 2018 有什么值得关注的亮点？
如何证明数据增强（Data Augmentation）有效性？
2018年了，MXNet 发展的如何了？
深度学习领域有哪些瓶颈？
DL/ML 模型如何部署到生产环境中？
让人工智能去下路边街头的象棋残局会赢吗？
科学的发展能否完全掌握人类的脑行为，并最终用人工智能技术实现人类的全部意识活动？
在现阶段的神经科学和脑科学的研究中，有没有人脑结合 AI（人工智能）的方向？
视觉算法的工业部署及落地方面的技术知识，怎么学？
Google 的神经网络生成图像 (Inceptionism) 是怎么做到的？
如何评价第二局比赛 AlphaGo 又一次战胜李世石？