百科问答小站 logo
百科问答小站 font logo



如果记忆无上限,为何会有“遗忘”这个系统存在? 第1页

  

user avatar   yinfupai 网友的相关建议: 
      

因为遗忘能够提升人的解析能力,当然遗忘过头了,变成记性太差,也是不行的。

不采用遗忘机制,这个实际上有对应的计算机模型研究,一种个最典型的模型便是关于LSTM(Long short term memory,长短时记忆网络)的研究

论文地址:bioinf.jku.at/publicati

这个模型,根据时间的上一刻作为输入,然后推断下一刻的输出,如果不吻合,则调整内部的数据让它变得近似,然后再用下一刻的作为输入,再推断下下一刻,以此类推。

并且作者发现,如果其中采用遗忘机制,也就是能够一定概率的抹除上一刻的信息,那么将会获取到更好的结果。

前些年深度学习用于人工智能写诗,或是写句子,大多是采用这样的模型。

但遗忘机制仅仅这样说明,仍然是不够深入,更重要的一个概念就是注意力机制。

如果你留意过那些天才,会发现大部分天才都在自己的专属领域能够表现得非常厉害,但是领域以外,大多会表现得甚至不如常人。

很显然这个是注意力引起的,这就需要谈到注意力机制了。

近年来机器学习方面关于最大的进步就是发现了注意力机制,当采用注意力机制后,机器力对于语言特征的提取与识别成功率也大幅度上升。

典型的就是Bert(arxiv.org/pdf/1810.0480)采用的方法,机器学习时,将学习的语句随机进行遮盖,并且并不是只遮盖一个单词,而是整个句子的15%甚至更多。

不过这些只是初步的推测,因为人类在记忆遗忘这件事上,仍然有很多难以解释的谜团,比如有的时候人会突然回忆起几十年前的某件小事,让记忆这回事显得很扑朔迷离。

不过人类大脑要更加复杂得多,但也可以据此推测,也许是拥有了遗忘能力,才导致人不得不停思考外部的世界,保持对外界的的认知,然后这个过程又反过来进一步加深了的人类对外部的理解。




  

相关话题

  人有所谓的“自己”吗? 
  减数分裂中,重组过程中,断裂点会发生在基因内部吗? 
  如果鸟类是恐龙演化来的,那么鸟类为什么进化出了喙?和嘴比这样有什么生存优势? 
  为什么还没有能合成塑料的植物?未来有可能出现吗? 
  怎么做到一个月内让地球上的所有生物灭绝? 
  人的大脑二十岁起神经元减少是否意味着人的智商衰退? 
  假定足够长的时间,生物进化是否一定会出现唯一的智慧生物? 
  如果有一种生物,以肽聚糖为骨骼,那这种生物的骨骼会有怎样的性质? 
  生物除锈酶(小龙虾专用)真的有用吗?清洗后的小龙虾吃了之后对身体有危害吗? 
  你最满意的人物照是哪张? 

前一个讨论
黄帝内经说:"地有九州,人又九窍",现在中国有34个省,所以人有多少窍?
下一个讨论
如何理解「宇宙出现前时间不存在」?





© 2025-03-10 - tinynew.org. All Rights Reserved.
© 2025-03-10 - tinynew.org. 保留所有权利