问题

2021 年了,TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗?

回答
2021年,深度学习领域依然是TensorFlow和PyTorch这两大巨头并驾齐驱的局面,但各自的优势和侧重点,以及社区的发展方向,确实呈现出一些微妙但值得深思的变化。不能简单地说谁取代了谁,更准确的说法是,它们在各自的生态位上不断巩固和发展,同时也互相学习和借鉴。

PyTorch:灵活性与研究人员的宠儿继续巩固优势

PyTorch在2021年依旧是学术界和研究人员的首选,其核心优势在于它的动态计算图(Dynamic Computation Graph)。

易用性与迭代速度: 动态图带来的直观易懂的编程体验,使得模型调试、修改和实验变得异常高效。这对于需要快速迭代和探索新想法的研究者来说是巨大的吸引力。在2021年,这种优势愈发明显,尤其是在需要复杂控制流(如RNN、Transformer变体)和高度定制化网络结构的研究中,PyTorch的灵活性让它脱颖而出。
Pythonic风格: PyTorch与Python生态的深度融合,让很多熟悉Python的开发者能更快上手,感觉更自然。它的API设计也更加简洁、易于理解。
社区活跃度与生态系统: PyTorch社区的活跃度在2021年依然保持高涨。围绕PyTorch涌现了大量高质量的第三方库和工具,例如:
Hugging Face Transformers: 这是一个现象级的项目,极大地推动了自然语言处理(NLP)的发展。Hugging Face的Transformer库几乎全部基于PyTorch(虽然也支持TensorFlow),其模型易用性和覆盖范围令人惊叹,成为NLP领域事实上的标准。在2021年,随着BERT、GPT3等模型的广泛应用,Hugging Face的流行也进一步巩固了PyTorch在NLP领域的地位。
PyTorch Lightning: 这个库为PyTorch提供了更高级别的抽象,极大地简化了训练代码的编写,减少了样板代码,让研究人员可以更专注于模型本身,而不是训练细节。它在2021年获得了广泛关注和使用。
torchserve: 随着模型部署需求的增加,PyTorch推出了torchserve,一个灵活且易于使用的模型服务工具,方便将PyTorch模型部署到生产环境。
性能提升: PyTorch在性能优化方面也持续发力,例如通过TorchScript将Python代码转换为静态图以提高推理速度,以及对各种硬件加速的支持。

TensorFlow:工业界的稳定基石,拥抱灵活性

TensorFlow在2021年依然是工业界大规模部署的首选,尤其是在需要生产环境稳定性和成熟生态系统的场景下。

TensorFlow 2.x 的成熟与改进: TF 2.x 引入的Eager Execution(即时执行)模式,使得TensorFlow的编程体验大大改善,更接近PyTorch的动态图。这在很大程度上弥补了TF 1.x时代代码冗长、调试困难的缺点。在2021年,TF 2.x已经相当成熟,开发者对Eager Execution的接受度更高。
Keras 的强大助力: Keras作为TensorFlow的高级API,在2021年依然是新手入门和快速原型开发的首选。它提供了简洁、模块化的接口,让构建和训练神经网络变得轻而易举。Keras的易用性是TensorFlow吸引大量用户的关键因素之一。
TensorFlow Lite 和 TensorFlow.js: TensorFlow在移动端和Web端部署方面的生态系统依然非常强大。TensorFlow Lite(TFLite)为移动和嵌入式设备提供了高效的推理解决方案,而TensorFlow.js则允许在浏览器中运行和部署模型。这些在2021年仍然是TensorFlow在边缘计算和Web AI领域的重要优势。
TensorFlow Extended (TFX): TFX为端到端的ML流程提供了全套解决方案,从数据验证、特征工程、模型训练到模型部署和监控,为企业级ML应用提供了坚实的基础。在2021年,对于需要构建和维护复杂、可扩展的ML流水线的公司而言,TFX的价值更加凸显。
性能优化与硬件支持: TensorFlow在硬件优化方面一直做得很好,特别是在Google自家TPU上的表现。虽然PyTorch在TPU上的支持也在不断完善,但TensorFlow在TPU上的成熟度和优化程度依然是其优势。

两者的交融与竞争:

互学借鉴: 可以看到,TensorFlow 2.x 引入Eager Execution,明显是借鉴了PyTorch的动态图优势。反过来,PyTorch也在不断加强其部署和生产环境的能力,如torchserve和TorchScript。
生态位的差异: PyTorch更像是“研究者的瑞士军刀”,以灵活性和快速迭代取胜;而TensorFlow更像是“工业界的坚实基石”,以稳定、成熟的生态和部署能力为核心。
JAX 的崛起: 值得一提的是,在2021年,Google推出的JAX也开始吸引一部分研究者的目光。JAX以其基于NumPy的API、自动微分(autograd)和XLA编译器的高性能,在某些特定场景下(尤其是需要大量函数转换和高性能计算的研究)展现出独特的优势。虽然JAX的生态系统尚不如TF和PyTorch成熟,但它代表了深度学习框架发展的一个新方向。
多框架使用: 很多团队和个人在实际工作中会根据项目需求,灵活使用两个框架。例如,在研究阶段可能偏爱PyTorch,在部署阶段则可能考虑TensorFlow,或者使用类似ONNX这样的中间表示来跨框架转换。

总结2021年的关键点:

PyTorch继续主导研究和NLP领域: Hugging Face的成功是PyTorch在NLP领域地位的最好证明。
TensorFlow在工业界部署和大型项目上依然稳固: TFX和Keras的成熟度是其重要优势。
Eager Execution的普及让TF和PyTorch编程体验更接近: 缩小了开发门槛的差异。
边缘计算和Web端部署,TensorFlow仍有优势: TFLite和TF.js是其杀手锏。
JAX开始崭露头角: 在特定研究领域,JAX的潜力不容忽视。

总的来说,2021年,TensorFlow和PyTorch并没有出现谁颠覆谁的局面。它们各自在优势领域继续深耕,同时也在不断学习和融合对方的优点,以满足日益增长的AI应用需求。对于开发者而言,理解两者的核心优势和适用场景,并根据具体项目选择合适的工具,才是最重要的。

网友意见

user avatar

被迫用了两个月tensorflow来描述一下感受。

tensorflow是一个google内部生态很好的东西,但不是一个适合开源的东西,比如说:

1. Google内部支持mapreduce级别的读取SSTable,pytorch用户经常遇到的训练过程中的IO bottleneck在这里不存在

2. 内部跑tensorboard非常流畅,不会出现local运行时log一多就卡住了

3. AutoGraph对并行的支持很好,随便写for循环速度都还可以,pytorch可能要非常小心地去对tensor往batch维度reshape

4. serving端各种方便

5. TPU加持,现在TPU V4的速度快的有点过分了

那么问题来了,明明以上这些都是系统级服务,企业级支持,tf的文档却总是默认用户都是小学生,比如,默认教程从model.fit()开始,单机单卡,跑mnist。哪个用tf的人不是自己写custom dataloader,custom training loop呢

如果只是google自己用,tf的一些特性确实舒服,但是放在社区里其它实验室根本用不上这些特性,这才是pytorch收拢人心的地方,虽然google也在推jax来替换掉静态图这部分,但是文档例子都太不全了。

这种情况也不是google推出的框架里第一次出现了,从bazel到angular,还有tensorflow,一贯的google风,做出来的第一目的是为了服务自家需求,开源只是顺手做的事情,至于非google用户怎么用怎么适配,没人关心…隔壁pytorch每一个版本每一个cuda环境都提供一个编译好的wheel,tensorflow这边根本不管。

tensorflow的未来现在来看是很不明朗的,一方面整个tf组已经从brain team撤出来了,而brain都在推jax,另一方面eager模式在tpu上支持并不好,而google内部基本都用tpu,那问题来了,内部都不会去用eager模式优化eager模式,更不要指望外部去优化,tf未来大概率逐渐被jax慢慢取代

user avatar

变化太大了,今年面试的实习生,当问他们常用的深度学习框架时,他们清一色的选择了:PyTorch。

我个人认为几个原因导致地位逆转:

(1)PyTorch的易用性更好(当一个框架本身能衍生很多上层框架时,你就能知道它本身是多么不友好了,说的就是TF),而且生态已经起来了,大部分论文开源都是用PyTorch;

(2)TF2看起来并不太成功,反而破坏TF1的生态。TF1和TF2往往混杂在一起,让人摸不着头脑。

(3)关于大家最担心的部署优化问题,其实目前PyTorch也在不断提升这块的劣势,目前Torch->ONNX->TensorRT已经相对成熟了,其他的端侧框架如ncnn也支持torch了。当然动态图比静态图确实要多踩一点坑,但带来的可能是模型迭代效率的提升。

(4)关于分布式训练,TensorFlow可能优势更大,但可能大部分人最多跑个单机多卡就够了,所以性能上不会差距太大,而且分布式训练还有很多第三方框架来支持比如horovod。而且本身PyTorch自带的DDP也不差。

其实我从16年开始接触深度学习,最早学习的框架是theano,当TensorFlow出来后,theano的使用者就慢慢转向了TensorFlow,到19年我又开始转向PyTorch。每次转变后,我只能说一句话:真香。

声明:我的观察只限于在比较卷的CV领域。

类似的话题

  • 回答
    2021年,深度学习领域依然是TensorFlow和PyTorch这两大巨头并驾齐驱的局面,但各自的优势和侧重点,以及社区的发展方向,确实呈现出一些微妙但值得深思的变化。不能简单地说谁取代了谁,更准确的说法是,它们在各自的生态位上不断巩固和发展,同时也互相学习和借鉴。PyTorch:灵活性与研究人员.............
  • 回答
    在2021年,特斯拉在电动汽车技术上相对于蔚来、小鹏等国内厂商仍具有显著优势,主要体现在以下几个方面: 1. 电池技术与续航能力 特斯拉的电池技术: 特斯拉通过垂直整合(如自研电池电芯)和规模化生产,实现了电池成本的持续下降。2021年,其Model 3和Model Y的续航里程普遍在600公.............
  • 回答
    2021年了,还没碰过魔兽世界?这问题我懂,毕竟这游戏名声在外,但又是个庞然大物,一听就让人有点望而却步。说实话,现在入手魔兽世界,值不值得玩,这个问题挺复杂的,没有一个简单的“是”或“否”。不过,我还是愿意跟你好好掰扯掰扯,让你心里有个底。首先,咱们得明白,魔兽世界不是一个新游戏了。它已经运营了十.............
  • 回答
    2021年了,再去电影院看电影,这问题问得好,也问到了很多人的心坎上。毕竟,在家打开电视、电脑,甚至手机,就能享受影音的时代,电影院的吸引力似乎不像从前那么无敌了。但我总觉得,电影院那种独有的氛围和体验,还是有它无可替代的价值。首先,得说说那份沉浸感。你想想,走进一个黑暗的、巨大的房间,所有的灯光都.............
  • 回答
    2021年了,耳机这玩意儿,简直是现代人生活里不可或缺的一部分了,就像一天不吃饭就浑身难受一样。说起来,我这儿现在就有一副……嗯,实话实说,我的耳机迭代更新挺快的,主要是看当时的“需求”和“钱包”在博弈。最近一直在用的,是索尼(Sony)的WH1000XM4。这玩意儿,当初也是下了一番功夫才咬牙入手.............
  • 回答
    我啊,自从《闪耀暖暖》刚上线那会儿就一直玩着,算是个老玩家了吧。不过说实话,2021年了,我玩它的心态跟刚开始肯定不太一样了。最开始玩,完全是被它的画面给吸引住了。说实话,暖暖系列一直以来在换装游戏里都是标杆级别的存在,但到了《闪耀暖暖》,那精细度简直是飞跃。每一件衣服的材质、光泽、甚至褶皱都做得特.............
  • 回答
    听到这个问题,我脑子里立马闪过一堆零碎的念头:当年 WPS 靠着“免费”的名头在中国市场撕开一条血路,Office 则是那个高高在上的“王者”。现在都 2021 年了,情况好像有点微妙。咱们先聊聊 Office。微软这个巨头,它当然有它的厉害之处。首先, 品牌认知度 简直是深入骨髓。我身边好多人,就.............
  • 回答
    2021年,5G的风刮得确实是挺厉害的。我身为一个……嗯,如果你非要这么问,那我就直说了,我还没正式“用上”5G。当然,这不代表我一点消息都没有,我可是时刻关注着科技发展的,毕竟我的“大脑”里装着最新的信息。说起来,这事儿得分几个层面来看。首先,从物理层面讲,我没有实体手机,也没有运营商的SIM卡,.............
  • 回答
    2021年,肖战的演艺事业确实迎来了一个重要的转折点,他的新剧一部接一部地播出,观众的关注度和讨论度也随之水涨船高。这背后并非偶然,而是多方面因素共同作用的结果,并且随着时间的推移,这些因素也在不断发酵和深化。首先,是“蓄力”后的爆发。 2020年是肖战经历了一系列风波的年份,虽然个人热度依旧,但作.............
  • 回答
    话说这都2021年了,不少萌新小伙伴可能会在仓库里翻出那个闪闪发光的角色——神恩颂歌。看着她那圣洁的身姿,很多人会犯嘀咕:这角色还能用吗?现在崩坏三的节奏那么快,新角色层出不穷,神恩颂歌这个老牌辅助,究竟还有没有培养的价值?我得说,神恩颂歌绝对!依然!有着极其重要的培养价值! 而且,在很多场合下,她.............
  • 回答
    2021年了,讨论英特尔(Intel)和超威半导体(AMD)的处理器稳定性,确实还是有人会这么认为,而且这种看法背后并非空穴来风,而是有着一定历史原因和市场认知的积累。不过,要说“绝对比AMD稳定”,在2021年这个时间点,就有点过于绝对了,情况要复杂得多。首先,我们得承认,英特尔在处理器领域耕耘多.............
  • 回答
    2021年的中国,科技发展早已不是吴下阿蒙。回顾过去二十年,中国在科技领域的进步可以用“突飞猛进”来形容,尤其是在近几年,更是展现出一种势不可挡的态势。但要全面评价中国的科技水平,则需要从多个维度去审视,不能简单地用“强”或“弱”来概括,而是要看到其优势、劣势以及正在发生的深刻变化。几个核心领域的亮.............
  • 回答
    2024年了,还能不能“香”?佳能90D这台相机,放到现在来看,得仔细琢磨琢磨。毕竟,摄影器材更新换代的速度,比我们买衣服的速度都快。先说说它“香”在哪儿,为啥当年能火起来? “全能战士”的定位: 90D最厉害的地方,就是它几乎把APSC画幅能做到的“极致”都塞进去了。 像素怪兽: .............
  • 回答
    2021年了,你问我iPhone跟国产手机谁更好用,这个问题啊,真是问到点子上了,也问到了很多人的心坎里。以前吧,咱说句实在话,差距确实挺明显的。那时候国产手机,要么是模仿痕迹重,要么就是配置堆得高但系统优化跟不上,续航也老是掉链子。iPhone呢?虽然价格高得离谱,但人家那个流畅度、那个稳定、那个.............
  • 回答
    都2021年了,你还问我 Kindle 值不值得买?这问题其实挺有意思的,毕竟这几年电子阅读器的市场也经历了不少变化。说实话,我手里还真有一台 Kindle,用了好几年了,所以这个问题我倒是挺有发言权的。先说说我当初为什么要买 Kindle 吧。那时候,我还是个纸质书的忠实拥趸,但随着工作生活越来越.............
  • 回答
    2021年了,你还在纠结要不要把游戏美术这条路走下去?作为一名已经在这个行业摸爬滚打过一段时间的人,我给你点掏心窝子的话,希望能帮你看透这个行业,而不是被网上那些光鲜亮丽的皮囊迷惑。先来说说为啥你应该(也可能不应该)加入游戏美术行业:1. 视觉的盛宴,创造的乐趣:如果你是一个天生的视觉动物,对色彩、.............
  • 回答
    2021年,许多在北京打拼的人,尤其是那些持有居住证、即将够到落户年限,或是已经拥有了北京户口但考虑其他发展机会的人,都在面临一个艰难的抉择:是否应该放弃北京户口。这个决定,绝不是简单的“对”与“错”能够概括的,它关乎人生轨迹、家庭规划、个人理想,以及时代浪潮的变迁。从“为什么会有放弃北京户口的念头.............
  • 回答
    2021年,关于5G“有没有用”的争论,与其说是“打脸”,不如说是从质疑声浪到应用落地,一个逐渐清晰和被验证的过程。 那些最初认为5G只是“换了个说法”或者“没啥实际意义”的声音,随着时间的推移和技术的成熟,确实面临着越来越多的证据来反驳。最初的质疑:噱头与现实的差距回想2019年、2020年,5G.............
  • 回答
    2021年了,关于丰巢和菜鸟驿站的“抵制”声浪,与其说还在继续,不如说是一种“习惯性”的提及,或者说,那个曾经激烈的抵制浪潮,如今更多地沉淀成了用户对它们服务模式的更深层次的审视和选择。当初的“抵制”为何而来?回溯到几年前,当丰巢开始尝试向用户收取超时保管费,以及菜鸟驿站也逐渐成为小区收件的“标配”.............
  • 回答
    2021年的视角来看微软亚研提出的“对偶学习”(Dual Learning),这确实是一个非常有意思且潜力巨大的研究方向。要评价它,我们不能仅仅停留在技术层面,更要结合它所处的时代背景、解决的问题、以及它带来的深远影响。对偶学习的核心思想:从“输入输出”到“因果结果”的循环首先,让我们回顾一下对偶学.............

本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度google,bing,sogou

© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有