究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
这一波人工智能泡沫将会怎么破灭？如何评价微软亚洲研究院提出的LightRNN？
如何评价DeepMind新推出的用于训练通用智能体的XLand？
吴恩达为什么离开谷歌？
如何评价ST-GCN动作识别算法？
如何评价微软正在开发的人工智能编程软件 DeepCoder？
机器学习自嘲的炼丹和化学材料自嘲的炒菜有什么本质上的区别？
如何评价 DeepMind 于2016年9月12日公开的 AlphaGo 自战棋谱及3月人机大战解说？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
如何评价 2021 年 12 月新改版的知识引擎 magi.com？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
强化学习和自适应控制的关系是什么？要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
机器人可以拥有人的情感吗？
如何评价Google发布的第二代深度学习系统TensorFlow?
2021 年了，机器/深度学习还有哪些坑比较好挖？
用人工智能来设计芯片有可行性么？
深度学习在信息安全的应用有哪些可以关注的人或论文？
AMD 开源高性能机器智能库MIopen是否可以和cuDNN抗衡？
为什么交叉熵（cross-entropy）可以用于计算代价？
如何评价Deepmind自监督新作BYOL？
英特尔斥资 20 亿美元收购 AI 芯片公司 Habana Labs，此举会产生哪些影响？
写深度学习代码是先写model还是dataset还是train呢，有个一般化的顺序吗？
AI领域的灌水之风如何破局？
请问智能电力系统今后怎样发展的？大学生如果想从事这方面工作需要学习哪些方面知识？
深度学习的多个loss如何平衡？
神经网络能否代替决策树算法？
god bless us 为什么百度翻译是辛巴？
自动驾驶汽车在危险情况下可以不计后果地保护自己的主人吗？
如果有一个按钮，按下去之后人类现存的AI技术立刻消失，会对人类社会造成什么影响？
有没有玩家决定策略之后让AI按照策略自行作战的游戏？
如何学习 SQL 语言？
未来 3~5 年内，哪个方向的机器学习人才最紧缺？
初等函数之上有无定义「高等函数」？
若有一天机器人可以代替人类进行大部分工作，《资本论》是否还有意义?
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
国内的自动驾驶技术目前发展到什么阶段了？
数学家们用不等式做什么？
为什么美国如此反对中国留学生学习人工智能和量子技术？国内外这两种技术的发展现状如何？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
超人工智能可能会出现吗？