百科问答小站 logo
百科问答小站 font logo



为什么都说神经网络是个黑箱? 第1页

  

user avatar   mileistone 网友的相关建议: 
      

神经网络黑箱的意思是我们知其然,不知其所以然,相关理论比较缺乏。别看神经网络相关论文汗牛充栋,但是大部分类似于technical report,告诉你我这么做效果不错,具体原因不知道,只能“guess”,所以很容易被打脸。

这一篇文章讲得挺好的,他用光学类别深度学习,非常形象。

从结构来看,无论是深度学习还是镜头,都是一层一层叠起来的,如下图所示。

从设计流程来看,当要设计一个镜头的时候,往往以一个已知的镜头组合作为基础,这个已知的镜头组合一般都以发明这个镜头组合的人命名,类似于深度学习的里面的LeNet、AlexNet。然后你跑个仿真,看看这个基础镜头组合的表现和你需要达到的要求存在哪些差距,在合适的地方插入合适的组件来磨平差距。接着,你用一个数值优化器来调上述镜头组合的参数,以发挥上述镜头组合最大的功效。这个类似于深度学习里面的优化和调超参过程。

从系统组成部件来看,光学组件有的起到反射作用,有的起到衍射作用,有的起到折射作用,有的起到散射作用,有的起到相位校正作用等等。深度学习组件(conv、pool、relu等等)有的起到学习空间相关作用,有的起到防止过拟合作用,有的起到增加非线性作用等等。

从发展历史来看,伽利略时代虽然没有光学理论,类似于现在的深度学习,但是同样造出来了人类历史上第一架天文望远镜,推动了天文学的发展。现在深度学习也理论不足,但是极大地推动了人工智能的发展。

从结果看,在几百年里,经过科学家的不懈努力,光学终于形成了一整套比较完备的体系,使得现在的光学工程师在设计镜头的时候有迹可循,而不是像几百年前的伽利略一样靠经验设计。这一套完备的体系将光学分层了,如下图所示,这样的分层使得光学分工明确,每个人研究各自层的东西,一起推动光学发展。上面的层是下面层的抽象,越往上能解释越复杂的现象,见下图所示,而相比而言深度学习里面的很多现象还得不到较好的解释。

光学也经历过黑箱时代,深度学习现在就是黑箱时代,理论的前进一般会晚于实践,但是假以时日,理论肯定会完备起来,形成类似于当前光学那样的层层抽象的学术体系,只不过这个过程需要所有从业者一起的努力,和一定时间的积淀,也许几十年,也许上百年。


user avatar   yue-guang-bao-he-70 网友的相关建议: 
      

说神经网络是个黑箱,大致有两层意思。一个是说,我们不能刻画网络具体是在做什么(比如在每一层提取什么样的特征)。另一个是说,我们不知道它为什么在做这些,为什么会有效。回答前一个问题就是研究神经网络的“可解释性”。不过在俺看来后者更重要,更本质。

有些人似乎认为,这两个问题都不重要。一种思潮是说只要好用就行,管它为什么工作、怎么工作的。还有一种思潮是认为这两个问题都是根本回答不了的。俺以为,这两种观点都是短视的。

深度学习显然是做对了something, 在某个角度触碰到了真理,但如果不打开黑箱,我们无法知道它到底做对了什么,真理是什么。在牛顿之前,大家都见到了苹果落地。但在当时人们的视角中他们一定认为,苹果落地不是很自然的吗,需要解释、需要知道为什么吗?当时的人们也会认为解释这种现象简直无从下手。跟今天的深度学习有点像吧?但是当牛顿告诉我们为什么苹果会落地之后,世界从此就不一样了。

今天的机器学习在某种意义上好像物理学。深度学习目前就好比实验物理,有很多实验观察,但没有理论能够解释。也跟物理学的发展一样,实验总是走在前面。没有Michelson/Morley 的实验观察,也就没有爱因斯坦的狭义相对论。

如果感兴趣深度学习的科研,你可以选择成为下一个 Michelson/Morley, 也可以选择成为下一个爱因斯坦。当然,大多数人都是坐在树下吃那些天经地义要掉下来的苹果,呵呵。


user avatar   meng-xin-43-24 网友的相关建议: 
      

一大早起来真是笑死我了。

由于老头环空前的热潮,以及B站特有的UP主靠制作视频吸引流量转直播的模式,导致很多有人气但完全没有魂系列经验的主播在播这款游戏。比如某幻、瓶子。

(就是一开始制作视频是主业,直播是兼职,甚至是乐趣兴趣,到直播为主,制作视频反倒成了兼职。这种现象在游戏区特别明显。)

这就很有节目效果了,我看几个有名气的主播,都是重复被虐,平均活不过5分钟。真正是在哪里跌倒就从哪里跌倒。

很多在我们这些老玩家看来常识性的东西,对于他们来说完全不存在的。

盾反这种就不提了(其实我也不会),连二人转、回合制、推图都不懂。在大型地牢里不想打小怪,一个劲往前跑,结果变成开火车;当着怪物的面喝药=白喝;开宝箱被怪物背刺;以为学了法术就是法爷了,结果被几只鸟打得抱头鼠窜。

然后另一边,那些原本有魂系列经验的主播,就吃了刻板印象的亏。觉得自己有技术有实力,也不练级就顺着主线硬钢。就比如一上来的野外精英太阳骑士,要么你死要么我亡,绕路是不可能绕路的。

太阳骑士都还好,毕竟王老菊都能杀。

但没有等级,没有血量,没有伤害,硬钢噩兆。

真当噩兆快慢刀是假的,自己打几次就能盾反了?而且老头环这次砍了盾反在BOSS战中的作用,要反三次(二次)才能触发处决。

结果被虐3000遍,又不好意思去练级,尬在那了。

老头环是不是玩家的盛宴我还不知道(买了游戏,昨天也预下载了,结果今天起来发现那个盘满了……正在重新下载,下载完了又发现,我的电脑只有8G内存……),但肯定是不少主播的灾难、观众的盛宴。

当然,我也知道有些主播直播受罪是搞节目效果,但我也是真看到有主播被气到下播了。

另外一点,老头环这次其实是以探索为主要玩法。

B站UP主老戴今天专门做了一期视频讲解,想要玩好、玩轻松,就是尽可能的探索地图,拿物品、刷等级。而不是走到哪杀到哪,打不过硬去打。

就比如第一个剧情BOSS前,大地图上有的是小型地牢,野外精英,要把图清完了再去打噩兆,真跟打弟弟一样。(收回我的话,40级30血20耐20敏+3打刀7瓶奶,打了7次才过。前三次就是纯背板,后三次有点贪,经常血瓶白喝,最后一次基本掌握出手时机,就硬耗过去了。)

其实魂系列游戏特别吃角色强度(等级、装备),一些小怪你一刀砍死和一刀残血,完全就是两种难度。打BOSS,你挨一下就要喝药,和挨两下才需要喝药也是两倍的差距。

不过按照这么个玩法,的确没有什么节目效果。

讲真,还真就是看那些新手主播无能狂怒最有节目效果。

至于游戏本体,如今我也的确是玩上了,总体上来说符合我的期待。

作为一个中年人,我其实是在看了老头环试玩视频后才接触魂系列的。

原因有2,一是手残反映慢,玩这种游戏非常苦手;二是,我其实不太喜欢魂系列那种压抑的黑暗风格。

但老头环作为开放世界,虽然依旧以压抑阴郁为主,但也有光明广阔的场景。比如一开始做完新手指引推门而出的那一刻。

至于在难度与操作方面,远程技能的实用化,召唤物的存在,以及跳砍与伪盾反的出现,真的能够解决很多问题。

只是看你愿不愿意当一个“卑鄙的褪色者”。

远程技能包括法术与射击。我玩的武士,初始给的长弓非常给力。尤其记得推一座城堡图的时候,一开始不清楚套路,进入城堡被满地的炸药桶与两个放火球的法师直接秒了。复活后掏出长弓,一剑封喉,解决掉法师无伤过了。

还有初期的一个地牢,一个场景墙上爬着的与左右墙角蹲着的类似地精的怪物,近战5-6刀才能砍死。

第一次去直接围殴致死。

第二次,用弓箭一只只引过来,很轻松就过了。

至于近战武器,我是非常推荐初期见完老婆就能开箱子拿到的君王大剑。

这把武器虽然攻速低,成长性也低,但在初期真的非常实用。

尤其是在跳劈方面。

这一作跳劈虽然强但也看武器,比如武士上来给的打刀就属于跳劈对空,跳起来横着劈一刀,有时候都打不到站着的怪。而大剑则是竖着往地上砸,范围极大。

我举一个例子,就是我开地图第一次遇到红灵。就是等对方打完一套跳劈就完了。

我的战斗策略就是,遇事不决,举盾防御,然后跳劈。

至于BOSS战,依旧有难度,也许跳劈和法术都没啥作用,依靠的依旧是精准的闪躲后普攻(排除盾反)。

但我觉得这算是魂系列的乐趣之一。

如果随便什么BOSS战都能逃课,那也就没意思了。




  

相关话题

  李彦宏夫妇向北大捐赠 6.6 亿元用于前沿学术研究,将产生哪些影响? 
  百度学术能否替代 Google 学术网站?有没有其他选择? 
  如何比较Keras, TensorLayer, TFLearn ? 
  AI 有可能代替人类从事数学研究吗? 
  二次型的意义是什么?有什么应用? 
  为什么交叉熵(cross-entropy)可以用于计算代价? 
  是不是机器学习的框架都偏向 Python ?如果是,为什么? 
  能分享你收藏的国外AI talk, seminar平台或网站吗? 
  高斯过程的kernel构成的矩阵为何叫协方差矩阵而不是相关系数矩阵? 
  能否对卷积神经网络工作原理做一个直观的解释? 

前一个讨论
你对《远征军:罗马》这款游戏的内容有什么看法?
下一个讨论
如果陈胜没有造反秦朝没有灭亡,刘邦是否终其一身也只是个小县城黑道混混?





© 2024-05-15 - tinynew.org. All Rights Reserved.
© 2024-05-15 - tinynew.org. 保留所有权利