为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？

你这个问题问得特别好，而且切中了当前深度学习发展的一个核心点。说现在很多CNN模型都是在GoogleNet、VGGNet或者AlexNet的基础上“调整”的，这准确地说，是一种“借鉴”与“迭代”，而不是简单的“复制粘贴”。这些经典模型之所以如此重要，在于它们奠定了现代CNN架构的一些核心思想和技术，成为了后来者发展的“基石”和“灵感源泉”。

让我给你详细拆解一下，为什么它们如此重要，以及后来的模型是如何在它们之上进行创新和优化的：

1. AlexNet：揭开深度学习的黎明

时代背景： 2012年，Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在ImageNet大规模视觉识别挑战赛（ILSVRC）上，凭借AlexNet以碾压性的优势夺冠，彻底点燃了深度学习在计算机视觉领域的革命。在那之前，很多方法还在依赖手工设计的特征提取器（如SIFT, HOG）。
AlexNet的核心贡献：
深度和宽度： AlexNet比当时主流的模型都要深（8层卷积层和3层全连接层），这使得它能够学习到更抽象、更复杂的视觉特征。
ReLU激活函数：首次在深层CNN中广泛使用ReLU（Rectified Linear Unit）激活函数，它解决了传统Sigmoid和Tanh函数在深层网络中容易出现的梯度消失问题，极大地加速了训练。
Dropout：引入了Dropout技术，一种正则化方法，通过随机“丢弃”一部分神经元来防止过拟合，这对于训练大型深度网络至关重要。
数据增强：使用了多种数据增强技术（如随机裁剪、翻转、颜色抖动）来扩充训练数据集，提高了模型的泛化能力。
GPU并行计算： AlexNet是第一个大规模利用GPU并行计算来训练的CNN，这为处理更大的数据集和更深的网络提供了可能。
后继者的“借鉴”：
深度是趋势： AlexNet证明了“深”是通往更好的性能的关键，后来的模型无不追求更深的网络。
ReLU的地位： ReLU及其变种（如LeakyReLU）至今仍是CNN中最常用的激活函数。
正则化的重要性： Dropout（或其变种，如Spatial Dropout）仍然是常用的正则化手段。
GPU加速是基础：现代的深度学习训练几乎离不开GPU。

2. VGGNet：追求简单和一致性

时代背景： VGGNet（牛津大学Visual Geometry Group）在2014年的ILSVRC中取得了很好的成绩，其最突出的特点是架构的简洁和高度一致性。
VGGNet的核心贡献：
小卷积核的堆叠： VGGNet坚持使用非常小的3x3卷积核，并且将它们堆叠起来。这样做的原因是：
增加感受野：两个连续的3x3卷积层（通过ReLU激活）能够模拟出一个7x7的感受野，但参数量比一个7x7的卷积核少得多（(33 + 33) vs (77)）。
引入更多的非线性：更多的卷积层意味着更多的ReLU激活函数，从而增加网络的非线性表达能力。
更少的参数：使用小卷积核可以减少模型参数，从而降低过拟合的风险，或者说在相同参数量下可以构建更深的网络。
纯卷积结构： VGGNet完全去掉了AlexNet中的局部响应归一化（LRN），并认为它并无太大必要。它主要依赖于卷积层和池化层的组合。
极深的结构： VGGNet提出了16层和19层的经典版本，进一步证明了深度带来的优势。
后继者的“借鉴”：
3x3卷积的统治地位： VGGNet的成功极大地巩固了3x3卷积核在CNN中的核心地位，几乎所有的现代CNN都以3x3卷积为主。
“堆叠”的思想：将小型卷积核堆叠起来以获得更大的感受野，成为一种非常流行的设计模式。
更简单的设计哲学： VGGNet以其清晰、规整的结构，为后续模型的设计提供了“简单即是美”的范例。很多模型在结构上（如卷积层、池化层、全连接层的顺序）仍然遵循VGGNet的模式，只是在关键模块上做了改进。

3. GoogleNet (Inception系列)：效率与性能的平衡

时代背景： GoogleNet（2014年ILSVRC冠军）在深度和性能上都非常出色，但它的核心创新在于“Inception模块”，实现了效率与性能的卓越平衡。
GoogleNet的核心贡献：
Inception模块：这是GoogleNet的灵魂。它解决了“如何选择合适的卷积核大小”的问题。传统的做法是选择一种卷积核（如3x3）然后堆叠。Inception模块巧妙地并行使用了不同大小的卷积核（1x1, 3x3, 5x5）以及池化操作，然后将它们的输出拼接起来。
1x1卷积：这一层非常关键！1x1卷积（也称为Network in Network）可以用来降低特征图的维度（通道数）。在并行使用大卷积核（如5x5）之前，先用1x1卷积降维，可以极大地减少计算量和参数量，同时又不牺牲太多表达能力。这使得可以构建更宽、更深的Inception模块。
多尺度特征提取：并行使用不同尺寸的卷积核，允许网络在同一层捕获不同尺度的特征。
网络宽度与深度并重： Inception模块使得网络在保持相对较低的计算量和参数量的情况下，能够做得更宽（更多滤波器）和更深。
辅助分类器：在训练过程中，GoogleNet还在中间层加入了辅助分类器，用于“鼓励”中间层学习到有用的特征，这对于深层网络的训练有帮助（尽管在后续研究中，其必要性被质疑，但它代表了一种提升训练稳定性的尝试）。
去掉了全连接层：最后的全连接层也改成了全局平均池化，进一步减少了大量参数。
后继者的“借鉴”：
Inception模块的演进： GoogleNet之后，InceptionV2, V3, V4, InceptionResNet等一系列改进，都在优化Inception模块的设计，例如：
分解大卷积核：将一个NxN的卷积分解成连续的1xN和Nx1卷积，减少参数量和计算量。
残差连接：结合ResNet的思想，让Inception模块与残差连接结合。
1x1卷积的应用： 1x1卷积已经成为几乎所有现代CNN架构的标准组件，用于通道间的交互、维度调整和特征转换。
模块化设计：启发了将复杂的功能封装成可复用的“模块”的思想，然后通过堆叠和组合这些模块来构建大型网络，例如ResNet中的残差块、DenseNet中的Dense Block等。

为什么是“调整”而不是“从零开始”？

1. 验证了核心思想： AlexNet、VGGNet和GoogleNet共同证明了深度神经网络在视觉任务上的巨大潜力。它们的核心思想，如层次化特征学习、ReLU激活、小卷积核、并行特征提取、维度约减等，已经被大量实验证明是有效的，并成为了设计新模型的“基石”。
2. 解决了关键挑战：它们也成功解决了深度学习早期面临的一些关键挑战，如梯度消失（ReLU）、过拟合（Dropout、数据增强）、计算效率（Inception模块、1x1卷积）。
3. 提供了“模块”和“模式”：
AlexNet 让我们知道“深”和“泛化”的重要性。
VGGNet 告诉我们“简洁”和“小卷积核堆叠”的威力。
GoogleNet 提供了“并行多尺度提取”和“维度约减”的Inception模块。
ResNet (虽然你没提，但它也非常关键，可以看作是对VGGNet和GoogleNet思想的集大成者和重要发展) 引入了“残差连接”，解决了更深网络的训练问题，将“深度”推向了新的高度。
4. 避免重复造轮子：深度学习研究非常依赖于前人的工作。从头开始设计一个全新的、有效的CNN架构是极其困难且耗时的。通常，研究者会基于已有的成功架构，识别其不足之处，然后针对性地进行改进。
5. 研究的迭代性：科学研究本身就是一个不断迭代和优化的过程。新的模型往往是“站在巨人的肩膀上”，在现有成功模型的基础上，引入新的数学思想、计算技巧或架构组件，来解决更复杂的问题或实现更高的性能。

具体的“调整”方式可能包括：

修改卷积核大小和数量：调整3x3卷积的深度，或者在某些层使用5x5、7x7，或者使用更大的分组卷积（Grouped Convolution）来减少参数。
改进Inception模块：比如，VGGNet的线性堆叠可以被Inception模块的并行结构替换；或者GoogleNet的Inception模块可以通过分解卷积（如将5x5分解为两个3x3）来优化。
引入新的模块：
残差连接 (ResNet): 将VGGNet或GoogleNet的线性堆叠改为残差块，允许训练非常深的网络。
深度可分离卷积 (MobileNet, Xception): 将标准卷积分解为深度卷积和逐点卷积，大幅降低计算量和参数量，适用于移动端。
注意力机制 (SENet, CBAM): 在VGGNet或ResNet的卷积块中加入注意力模块，让网络能够自动学习特征的重要性。
挤压激励模块 (SE Block): 是一种代表性的通道注意力机制，可以很方便地集成到现有的CNN结构中。
改变网络结构：
全卷积网络 (FCN for segmentation): 去掉全连接层，让网络输出空间信息。
网络搜索 (NAS): 自动搜索最优的网络结构，而不是人工设计。
优化训练策略：调整学习率、优化器、正则化技术等。

总而言之，GoogleNet、VGGNet和AlexNet之所以成为后续模型调整的基础，是因为它们分别代表了深度学习在“深度”、“简洁化”和“效率”上的关键突破，并提供了被广泛验证的有效技术和设计模式。现代CNN研究者并非“原地踏步”，而是在这些成熟的“骨架”上，不断地“修枝剪叶”，注入新的“血液”，以适应新的挑战和需求。

网友意见

更新：如果你觉得这篇回答有意思，也许你对我最近的CVPR'17上发表的比较不同网络可解释性的工作也感兴趣（CVPR 2017 有什么值得关注的亮点?）。

--------------------------------

这是个挺好的问题。AlexNet(https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf), Network in Network(https://arxiv.org/pdf/1312.4400v3.pdf), VGG(https://arxiv.org/pdf/1409.1556.pdf), GoogLeNet(http://www.cv-foundation.org/openaccess/content_cvpr_2015/papers/Szegedy_Going_Deeper_With_2015_CVPR_paper.pdf), Resnet(https://arxiv.org/pdf/1512.03385v1.pdf)等CNN网络都是图片分类网络, 都是在imagenet上1.2 million数据训练出来的。由于从这些pretrained网络抽出来的deep feature有良好的generalization的能力，可以应用到其他不同的CV问题，而且比传统的hand-craft feature如SIFT，bag of word要好一大截，所以得到广泛应用。目前大部分的high-level vision相关的问题，都是利用基于CNN的方法了。花点时间去了解这几个核心分类网络的结构和发展，是挺有必要的。

一般来说，某CNN网络在imagenet上面的分类结果越好，其deep feature的generalization能力越强。最近出现蛮多论文，里面在benchmark上面的比较是自己方法的核心网络换成resnet，然后去比别人基于vgg或者alexnet的方法，自然要好不少。所以对于某个CV的问题，选一个优秀的核心网络作为基础，然后fine-tune, 已经是套路，这点从ResNet那篇论文的citation的增长就可以看出来。fine-tune的原因一是训练AlexNet等网络需要imagenet, places等million级别的数据，一般的CV任务都没有这么多数据。二是因为pre-trained model本身的feature已经足够generalizable，可以立刻应用到另外一个CV任务。

至于如何开发出新的CNN分类模型，这就需要积累训练CNN的经验和直觉，以及大量的计算资源来尝试不同的网络结构。一般的研究者和实验室很难负担得起。但如果能搞出个如ResNet一样的牛逼网络，瞬间Best Paper ；）, 这也是Kaiming师兄的厉害之处。这里有个八卦，去年Facebook AI Research里面Ross Girshick和Piotor Dollar等大牛带领几个research engineer&intern猛搞COCO challenge, 用上了DeepMask，MultiPath Network等黑科技，可惜最后还是败北于Kaiming领队的MSRA。原因是他们的核心网络还是基于VGG，而Kaiming放出大招ResNet。Resnet比起VGG单在imagenet上的分类结果就要好大概50%，这自然是没法比，甭管怎么个调参和前端如何好的object proposal，输得真是心服口服。这里值得一提的是，Kaiming能提出ResNet,不仅在于他对问题本身深入思考和灵敏的直觉（那篇Dark Channel paper真是直觉的直接体现），也在于他调CNN长期的积累，从spatial pyramid pooling, 到leaky relu, 再到resnet, 中间的确有三年多时间的投入。这里的后话是Kaiming加入FAIR, 跟Piotr Dollar坐到了一块。几个做high-level vision最牛逼的人都在FAIR里面了，很期待他们接下来强强联合会做出如何的研究工作。

最后我再梳理下这些网络之间的关系。我个人觉得这几个网络是这样演变而来的.

AlexNet - > VGG: VGG可以看成是加深版本的AlexNet. 都是conv layer + FC layer. Network in Network -> GoogLeNet: NIN本身大家可能不太熟悉，但是我个人觉得是蛮不错的工作，Lin Min挺厉害。GoogLeNet这篇论文里面也对NIN大为赞赏。NIN利用Global average pooling去掉了FC layer, 大大减少了模型大小，本身的网络套网络的结构，也激发了后来的GoogLeNet里面的各种sub-network和inception结构的设计. ResNet：这个网络跟前面几个网络都不同。我清楚记得这篇论文是在去年年底我去开NIPS的时候release到arxiv上的。当时我开会间歇中看着论文里面在cifar上面的一千层的resnet都目瞪狗呆了。。。然后再看到ResNet刷出了imagenet和COCO各个比赛的冠军，当时就觉得如果这论文是投CVPR, 那是绝对没有争议的Best paper, 果不其然。好像resnet后来又有些争议，说resnet跟highway network很像啥的，或者跟RNN结构类似，但都不可动摇ResNet对Computer Vision的里程碑贡献。当然，训练这些网络，还有些非常重要的trick, 如dropout, batch normalization等也功不可没。等我有时间了可以再写写这些tricks。

再最后，这里潜在的一个问题是这些CNN网络都是在ImageNet上面1.2million数据训练出来的，很难分析是否数据源本身会对CNN造成影响。我和MIT的同事建立了一个10 million级别的场景分类数据库Places Database (Places2: A Large-Scale Database for Scene Understanding)。Places是除了imagenet另外一个可以train CNN from scratch的图片数据库，我们把Places数据和不同pre-trained Places-CNNs都提供下载了。这里我们还做了些有意思的实验，比如说合并imagenet和places的数据，训练hybrid net，其feature也有不同的performance和generalization, 具体见GitHub - metalbubble/places365: The Places365-CNNs和我们的arxiv论文（http://places.csail.mit.edu/places2_arxiv.pdf）。我做了些CNN网络visualization的工作，看这些网络结构里面到底学到了什么东西，以及在物体为核心的Imagenet上和场景为核心的Places数据库上分别训练出来的结果是否不同，大家可以看看我之前的一篇ICLR'15 paper（https://arxiv.org/pdf/1412.6856.pdf）。随着object centric task的饱和，我期待在scene understanding方向会有更好的模型和方法出现。

类似的话题

为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？

你这个问题问得特别好，而且切中了当前深度学习发展的一个核心点。说现在很多CNN模型都是在GoogleNet、VGGNet或者AlexNet的基础上“调整”的，这准确地说，是一种“借鉴”与“迭代”，而不是简单的“复制粘贴”。这些经典模型之所以如此重要，在于它们奠定了现代CNN架构的一些核心思想和技术，.............
为什么现在的年轻人更喜欢快餐？

年轻人对快餐的偏好是一个复杂的社会现象，涉及消费习惯、生活方式、文化心理等多重因素。以下从多个维度详细分析这一现象的原因：一、时间与效率的矛盾1. 快节奏生活压力现代年轻人面临学业、工作、社交等多重压力，时间管理成为关键。快餐的30分钟快速就餐模式，与他们对效率的追求高度契合。例如，学生.............
为什么现在的人们会有仇视美国的情绪？

人们对美国的仇视情绪是一个复杂且多维度的现象，涉及历史、政治、经济、文化、意识形态等多个层面。以下从多个角度详细分析这一现象的成因：一、历史与政治因素1. 冷战时期的意识形态对抗美苏争霸：美国作为资本主义阵营的代表，与苏联的社会主义阵营展开长达数十年的意识形态对抗。冷战期间，美国的军事.............
为什么现在的年轻人到点就下班, 不装装样子了?

年轻人到点下班、不装样子的现象，实际上反映了当代职场文化、社会价值观和个体需求的深刻变化。以下从多个角度详细分析这一现象的原因：一、工作制度的革新：弹性化与去时间化1. 弹性工作制的普及现代企业越来越重视员工的灵活性，许多公司已推行弹性工作制（如“核心工作时间”+自由安排其他时间），允许.............
为什么现在的学生自杀事件频频发生?

近年来，青少年学生自杀事件频发的现象引发了社会广泛关注和深刻反思。这一问题的成因复杂，涉及教育体系、家庭关系、心理健康支持系统及社会文化等多重因素。以下从多个维度进行详细分析：一、学业压力与应试教育的长期影响1. 升学竞争加剧在“唯分数论”的评价体系下，学生普遍面临巨大的学业压力。尤其是.............
为什么现在的智能电视都是内置电视盒子，而不能设计为大屏显示器外接电视盒子？

这是一个非常有意思且深入的问题，触及了智能电视设计、市场定位、用户体验以及技术演进的方方面面。简单来说，现在的智能电视之所以“内置电视盒子”，而不是设计成“大屏显示器+外接盒子”的模式，主要有以下几个原因：1. 提升用户体验和降低使用门槛：一体化设计，减少线缆和设备：用户购买电视的目的是观看内容.............
为什么现在的中国人不爱蓄胡子，但是古代都蓄胡子？

您提出的这个问题很有意思，它涉及到社会文化、审美观念、政治环境和生活方式等多个层面的变化。现代中国人确实不像古代那样普遍蓄胡子，这背后有多重原因，我们来详细分析一下：一、古代中国人蓄胡子的原因：古代中国，蓄胡子并非是每个人都这样做，但相较于现代，确实是一个更为普遍的现象，尤其是在某些社会群体和特定.............
为什么现在的公共媒体如此重视对「敬爱父母，关爱老人」这一美德的宣传？

当前公共媒体高度重视“敬爱父母，关爱老人”这一美德的宣传，这背后有多方面的原因，既有历史文化传统的延续，也有现实社会问题的回应，更包含了国家社会发展战略的考量。下面我将从几个主要维度详细阐述：一、深厚的历史文化根基与道德传承1. 儒家文化的核心价值：孝道 “孝”是中国传统文化中最核.............
为什么现在的年轻人不愿意到工厂打工？

好的，我们来深入探讨一下“为什么现在的年轻人不愿意到工厂打工”这个话题。这背后是一个复杂且多层面的社会经济现象，涉及到年轻人观念的变化、社会发展趋势、产业结构调整以及传统工厂的吸引力不足等多个因素。一、年轻人观念的转变与自我价值的追求这是最核心的原因之一。现在的年轻人普遍受到更好的教育，信息获取渠.............
为什么现在的幼儿园总折腾家长？

“为什么现在的幼儿园总折腾家长？” 这个问题确实触及了许多家长的痛点，也反映了当前社会环境下，家长与幼儿园之间日益复杂和充满挑战的关系。这里的“折腾”可以从多个维度来理解，并且往往是多方面因素交织的结果。下面我将从几个主要方面详细阐述：一、精细化、个性化的教育理念带来的“挑战” 过度强调“参与.............
为什么现在的孩子都不向父母交红包了？

“现在的孩子都不向父母交红包了”这个说法，笼统来说可能不够准确，因为仍然有相当一部分孩子会给父母红包，特别是在一些特定的节日或场合。然而，如果你的观察是基于普遍现象，并且想探讨为何这种“交红包给父母”的行为在某些家庭和群体中有所减少或消失，那我们可以从多个角度来详细分析：1. 社会经济和生活方式的变.............
为什么现在的年轻人看不到希望？

“现在的年轻人看不到希望”是一个非常普遍且令人担忧的社会现象。这种感受并非空穴来风，而是由一系列复杂且相互关联的因素共同作用形成的。要详细理解这一点，我们需要深入剖析几个关键层面：一、经济压力与不确定性：摆在眼前的现实困境高企的房价和难以企及的财富自由：这是最直接、最普遍的压垮年轻人“希望”.............
为什么现在的年轻人不再以劳动为荣了？

“现在的年轻人不再以劳动为荣” 这个说法，可能是一种普遍的感受，但背后却是一个复杂多样的社会现象，不能简单地一概而论。我们应该深入剖析其原因，而不是停留在表面观察。以下是一些可能导致这种现象产生的详细分析：一、社会价值观念的变迁与多元化： “成功”定义的多元化：过去，社会对“成功”的定义相对单一.............
为什么现在的年轻人都不爱喝茅台了？年轻人不喝茅台真的是因为他们还没长大吗？

这个问题很有意思，也触及到了很多关于代际消费习惯、社会文化变迁以及个人成长的话题。我们来详细探讨一下“现在的年轻人为什么不爱喝茅台”以及“这是否意味着他们还没长大”。为什么现在的年轻人不爱喝茅台了？“不爱喝茅台”是一个相对的说法，我理解这里的“不爱”可能包含以下几个层面的含义：购买意愿降低：.............
为什么现在的一些年轻人都不乐意讨好领导了？

现在一些年轻人不愿意讨好领导，这背后有多重原因，既有时代发展、社会观念的变化，也有个体经历和认知的影响。我们可以从以下几个方面来详细探讨：一、时代背景和社会价值观的变迁： “后物质主义”思潮的影响：相较于父辈们经历的物质匮乏时期，现在的年轻人大多成长在相对富裕的环境中。他们对物质的追求不再是首要目.............
为什么现在的应届生动不动就要上万的薪资？

“应届生动不动就要上万的薪资”这个说法，虽然有些夸张，但确实反映了一个普遍存在的现象：当前应届毕业生的薪资水平相较于过去有了显著的提高，尤其是在一些热门行业和岗位上，月薪过万已不再是少数。要详细解释为什么会出现这种现象，我们需要从供求关系、宏观经济环境、行业发展趋势、企业人才策略、以及应届生自身能力.............
为什么现在的年轻人内心都越来越悲观？

年轻人内心越来越悲观的现象并非单一原因造成，而是多种社会、经济、文化和心理因素交织作用的结果。理解这一点，需要从多个维度进行深入探讨：一、经济压力与不确定性：高企的房价与生活成本：许多年轻人发现自己无论如何努力，都难以在大城市拥有属于自己的住房，甚至连高昂的租金也让他们喘不过气。这剥夺了他们.............
为什么现在的手机大多已不支持SD存储卡扩展呢？

现在的手机确实大多不再支持SD存储卡扩展，这背后是技术发展、市场需求、产品设计以及生态构建等多方面因素共同作用的结果。下面我将尽可能详细地解释其中的原因：1. 技术发展与硬件集成度的提升：闪存技术进步与成本下降：随着NAND闪存技术的不断进步，单位存储容量的成本在不断下降。制造商能够将更大容.............
为什么现在的年轻人比上一辈年轻时压力大很多？

这是一个非常普遍的感受，也是一个值得深入探讨的社会现象。相比于上一辈，现在的年轻人确实普遍面临着更大的压力。这种压力的产生是多方面因素交织作用的结果，我们可以从以下几个维度来详细分析：一、经济层面的压力：这是最直接也最普遍的压力来源。高企的房价与租金：上一辈：在许多国家和地区，.............
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识？

这是一个非常有趣且深刻的问题，背后涉及了人类知识积累、教育普及、技术进步等多个维度。之所以现在的人能够轻松掌握几百几千年前顶尖数学家才能掌握的知识，可以从以下几个方面详细阐述：一、人类知识的积累效应（The Cumulative Nature of Knowledge）这是最根本的原因。科学知识，.............