究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
计算机视觉是否已经进入瓶颈期？神经网络中如果一个重要特征C等于特征A+特征B（算数意义上的相加），选特征的时候还有必要选特征C吗?
如何评价阿里巴巴推出的智能音箱「天猫精灵 X1」？
2017年1月18日Facebook发行的PyTorch相比TensorFlow、MXNet有何优势？
如果学习从零开始学习Pytorch,有优秀的开源项目可以推荐吗？
如何看待民科很少研究ai？
为什么中文 NLP 数据集这么少？
如果有一天，医院里所有的医护人员都改由人工智能机器人来担任了，会发生什么事？
清华大学这样等级的学府为什么要与其他方合作进行“华智冰”这样恶劣的炒作？
JavaScript中对 function 的参数进行重新赋值的影响?
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
如果 2台 alphago 不断对战，是否会不断的强大？为啥gan里面几乎不用pooling？
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
你心目中的ALPHAGO拟人是怎样的性格?
2019年CVPR有哪些糟糕的论文?
人工智能现在的发展前景如何？
AI 有可能代替人类从事数学研究吗？
如何算出这个求和式子结果等于 (2n)!!/(2n+1)!! ？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
脑机接口离实际应用还有多远？未来能否帮助障碍人士恢复生活能力？
联邦学习在机器学习领域有什么独立存在的价值?
人工智能就业前景越来越严峻了，你还在坚持吗？
人工智能会有宗教信仰吗？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
如何评价Kaiming He团队的MoCo v3？
深度学习（机器学习）的下一步如何发展？
为什么交叉熵（cross-entropy）可以用于计算代价？
腾讯自己也做芯片，为什么还投资AI/DPU等初创公司？他们之间会不会成为下一个华为和寒武纪？
如何评价AlphaGo Zero？
能否用AI控制枪械，实现自动寻找目标、瞄准、击发？
请问机器学习中的预测与决策的区别是什么，他们的界限在哪里呢？
人工智能可以为人类找寻他们心目中的另一半吗?
至强CPU，都有哪些你不知道的小秘密？
有没有玩家决定策略之后让AI按照策略自行作战的游戏？
GAN的生成器是怎么产生图片的？
你有哪些deep learning（rnn、cnn）调参的经验？
如何看待MXNet在CVPR2017上公布的gluon接口？
机器人可以拥有人的情感吗？
如何评价刘慈欣加入商汤科技，任职「商汤科技科幻星球研究中心主任」？他将给商汤科技带来哪些变化？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？