GPU 与 CPU 比较，为什么说 GPU 更适合深度学习？ 第1页
1
superbrother-58 网友的相关建议:
深度学习模型里涉及大量的矩阵（张量）运算
这里简单分析一下CPU、GPU如何进行矩阵乘法运算
对于 维的矩阵 ，
以及 维的矩阵
在计算两者乘积的结果 时， 中任意一个元素的计算公式为：
据此可以看出 中每个元素 的计算没有关联性，也就是说可以同步并行计算。
如下图所示，CPU好比有几个或十几个“高性能的小计算器”（CPU的核心），而GPU好比有成千上万个“普通的小计算器”（GPU的核心），每个小计算器都被派去分别去执行 运算。由于运算仅涉及简单的乘法与加法，所以两种小计算器都能胜任，只是计算效率有高低之分。
由此不难看出，CPU完成单次运算的速度很快，但是由于一批次仅能算出数个元素，计算 中所有的元素需要多轮次的运算
而GPU虽然单次运算的速度很慢，但是一批次运算就可以算出大量元素
当 维度较小时，CPU与GPU计算的效率可能相差不大，当矩阵维度较高时，GPU拥有大量核心的优势就会更加明显（这里有一个实验对比【矩阵计算GPU加速】numpy 矩阵计算利用GPU加速，cupy包）
而深度学习模型中涉及大量高维的矩阵运算，因此GPU就可以很好地发挥加速作用
1
相关话题
各个编程语言都有哪些「黑点」？深度学习中，模型大了好还是小了好呢？
学习编程照着别人的代码敲进去有效率吗？
为什么有些验证码看起来很容易但是没人做自动识别的？
Python 的练手项目有哪些值得推荐？
为什么读论文最好打印出来读？
怎样评价《数码宝贝》第一部中的泉光子郎的编程水平？
你是怎么误打误撞做了程序猿？
PHP的未来在哪？
一个人独立制做程序开发项目，学哪种编程语言比较好？
前一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
win32程序如何获取设备上下文绘制的内容？如何以最小的改动尽量不改变已有代码的情况下适应不断变更的需求?
程序员如何应对诸如「给我弄个网站吧」的请求？
有没有当了程序员发现自己水平很菜经常怀疑自己不适合干程序员工作？
你有哪些用计算机技能解决生活问题的经历？
目标检测中的mAP是什么含义？
为什么编程语言有这么多种类？为什么不统一成一种语言呢？
作为阿里云的技术用户或潜在用户，你会不会因为月饼门重新考虑阿里云服务？
为什么很多程序员不用switch，而是大量的if……else if？
如何理解 Graph Convolutional Network（GCN）？
如何理解 Farkas 引理？
谁能用通俗的语言解释一下什么是 RPC 框架？
高中就已经写过 10w 行代码的人都是什么人？
怎么评价程序员35岁了还在撸代码？
如何评价深度学习相关顶级期刊论文难复现的问题？
华为自研编程语言「仓颉」试用报名开启，有哪些值得关注的信息？
12 岁如何入门 iOS 编程？
请问如何判断自己适不适合当程序员？
程序员，女，想自学中医，计划5-8年内全面转行，怎么做才是靠谱的？
为什么C没有布尔类型？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
有哪些让人相见恨晚的 MATLAB 命令？
既然报个培训班就可以成为码农，那学计算机专业有什么用？
python是用C实现的，Java是用C++实现的，那为什么不直接用C或C++呢？
插件机制实现的原理是什么？
当前人工智能特别是深度学习最前沿的研究方向是什么？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
为什么互联网的程序员比产品经理薪资要高？
如果有两颗药丸，一颗吃了让你写代码100%不出错，另一颗吃了能让你100%发现并修改bug，选哪颗？
如何看待微博女权发起「拒绝男程序员」活动？