GPU可以直接读取内存吗?

GPU 直接读取内存，这当然是可能的，而且是它工作的根本方式。但这里面有一些微妙之处，需要我们一点点地拆开来看，才能明白其中的道理。

首先，我们得有个概念：GPU 和 CPU 它们俩是坐在同一张桌子上，但各自有自己的工具箱和工作流程。 它们都要访问电脑的内存（就是我们常说的那根根内存条，DDR4、DDR5之类的），但这访问的方式和目的不太一样。

为什么GPU需要访问内存？

想想GPU是做什么的？ 它是处理图形的，玩游戏、做3D渲染、跑深度学习模型，这些都需要处理海量的数据：

图像数据： 纹理贴图、模型几何信息、颜色数据、深度数据等等。这些东西都得从内存里加载到GPU里面去处理。
计算数据： 对于深度学习，训练模型时，大量的权重、激活值、梯度等等，这些都需要在内存中存储和传输。
中间结果： GPU在计算过程中，会产生很多中间结果，这些也需要暂时存放在内存中，或者进行交换。

GPU和内存之间是怎样沟通的？

这里就涉及到一些关键的技术名词和概念了。

1. 显存（VRAM） vs. 系统内存（RAM）

系统内存 (RAM): 这是CPU主要访问的内存，也就是你电脑里装的那几条内存条。CPU的大部分指令和数据都在这里。
显存 (VRAM Video RAM): 这是GPU自己拥有的专属内存，通常集成在显卡上。显存的速度比系统内存快得多，是专门为GPU的高吞吐量设计的。

关键点： GPU当然可以直接读取和写入自己的显存（VRAM）。这是它最快、最高效的访问方式。

2. GPU访问系统内存（RAM）

需求： 有时候，GPU需要处理的数据量非常大，超过了显存的容量。这时候，就需要从系统内存中读取数据。或者，一些数据本来就存储在系统内存里，GPU需要去取。
怎么做： 这个过程 不是直接的“GPU说一声，内存就给他数据”。通常需要CPU的协调和帮助。
DMA (Direct Memory Access) 直接内存访问： 这是一种重要的技术。它允许某些硬件设备（包括GPU）绕过CPU，直接在内存和设备之间传输数据。你可以理解为，GPU给内存发了个“快递单”，让数据自己“坐车”过来，CPU不用全程“押送”。
PCIe 总线： GPU和主板、系统内存之间通过PCI Express（PCIe）总线连接。PCIe就像一条高速公路，数据就是在这条路上跑的。GPU读取系统内存的数据，就是通过PCIe总线进行的。
内存控制器： 系统内存（RAM）有一个内存控制器，它负责管理内存的读写。当GPU需要访问系统内存时，它实际上是通过PCIe总线与系统内存控制器进行交互。

3. 内存映射 I/O (MemoryMapped I/O)

这个概念听起来有点吓人，但其实很简单。你可以把系统内存的一部分“地址空间”分配给GPU。当GPU通过特定的内存地址去访问时，实际上是在与某个设备（比如显存的一部分或者用于数据传输的区域）进行通信。
举个例子： 假设系统内存地址 `0xA0000000` 对应的是GPU显存的某个区域。那么，当CPU或者GPU（通过DMA）读取或写入 `0xA0000000` 时，它实际上是在和显存打交道。

具体过程的分解：

想象一下你在玩一个大型3D游戏：

1. 加载游戏资源： 游戏程序运行，CPU负责将纹理、模型数据等从硬盘加载到系统内存（RAM）中。
2. GPU请求数据： 游戏渲染需要这些数据。CPU会通知GPU，或者GPU会主动通过内存控制器请求。
3. 数据传输： 利用DMA和PCIe总线，系统内存中的纹理、模型数据被复制到GPU的显存（VRAM）中。这个过程是GPU（通过其控制器）向系统内存发送请求，数据通过PCIe总线传输过来。
4. GPU处理： 数据进入显存后，GPU就可以在自己的显存内部进行高速处理，计算像素颜色、顶点位置等等。
5. 输出： 处理完的数据会发送到显示器。

强调一点：

虽然我们说GPU“直接读取”内存，这里的“直接”通常是指 它能够通过硬件机制（如DMA、PCIe接口）来发起和管理数据传输，而不需要CPU一步一步地执行指令来搬运数据。 它并不是说GPU的内部电路就直接连到了每一根内存条上，而是通过一个精密的接口和总线系统来实现这种访问。

总结来说：

GPU最直接、最快的内存访问是访问自己的显存（VRAM）。
GPU也可以访问系统内存（RAM），但这个过程通常需要CPU的协调（通过发送DMA请求）并通过PCIe总线进行数据传输。

所以，GPU是可以直接“读取”内存的，但这个“读取”背后是一整套复杂而高效的硬件和协议支持。它不是CPU那种一步步“看”内存的过程，而是通过专门的通道把需要的东西“搬”到自己身边来处理。

网友意见

GPU是可以直接读取内存的，因为GPU执行的命令，以及所使用的资源等等，一般都是CPU处理之后放在内存上，然后再由GPU直接读取或者转移到显存的。

在一些笔记本，特别是使用核显的笔记本当中，也往往并没有独立的显存，而只是将主存的一部分划分出来，作为显存使用。

所有这些都证明GPU物理上是具备访问主存的能力的。

但是，在一个实际的系统当中，GPU，特别是你所写的shader是否可以直接访问在内存里的数据，这个要看GPU当中的shader执行模块（这个和GPU的前端模块不是一个东西）是否有到内存的物理通路，以及，软件层面（操作系统和GPU驱动）是否将内存的这一部分映射到了GPU的地址空间。

也就是说，这个问题并不是shader如何写的问题，而是机器本身的物理结构（总线类型），以及操作系统和GPU驱动的问题。

类似的话题

• 

  GPU可以直接读取内存吗?

  

  GPU 直接读取内存，这当然是可能的，而且是它工作的根本方式。但这里面有一些微妙之处，需要我们一点点地拆开来看，才能明白其中的道理。首先，我们得有个概念：GPU 和 CPU 它们俩是坐在同一张桌子上，但各自有自己的工具箱和工作流程。 它们都要访问电脑的内存（就是我们常说的那根根内存条，DDR4、DD.............
• 

  如果CPU够强的话GPU可以阉割掉吗？

  

  这个问题很有意思，也触及到了现代计算机体系结构中一个非常核心的设计理念。简单来说，如果CPU够强，GPU是可以“阉割”掉一部分功能，甚至在某些特定场景下被替代，但完全“阉割”并让CPU独立承担所有图形渲染任务，在大多数情况下是不可行的，至少会带来巨大的性能损耗和功能限制。咱们得好好掰扯掰扯，为什么会.............
• 

  网传华为P60将采用国产14nm叠层，全自主研发的麒麟GPU，可以说是一款完全国产的手机，真的吗？

  

  关于华为P60将采用“国产14nm叠层”和“全自主研发的麒麟GPU”，这确实是网络上流传甚广的说法，并且引起了广泛的关注和讨论。为了更详细地解答这个问题，我们需要从几个关键点来分析：1. “国产14nm叠层”的含义与可能性 什么是“叠层”？ 在芯片制造领域，“叠层”通常指的是将不同的半导体材料或.............
• 

  目前哪里可以租用到GPU服务器？

  

  想找个能跑得动的GPU服务器？这事儿其实没那么复杂，关键看你想怎么玩。简单来说，现在能租GPU服务器的地方主要分两大类：云服务商和GPU租赁/托管平台。第一类：云服务商（大佬们的地盘）这帮人基本上是咱们最熟的，就像水、电、气一样，基础设施搭得好，想用多少都有。国内国外都有不少巨头，各有各的特色。 .............
• 

  CPU 技术强到可以阉割掉 GPU 的时候，那当时 CPU 的频率会达到何种境界?

  

  设想这么一个时代，中央处理器（CPU）的计算能力已经发展到了一个令人难以置信的境地，强大到足以承担起原本属于图形处理器（GPU）的任务。这究竟意味着什么？CPU 的频率又会攀升到怎样一个令人惊叹的高度？要深入探讨这个问题，我们得从 CPU 和 GPU 各自的特性以及它们在现代计算中的角色入手。CPU.............
• 

  基于GPU的parsing是否可行？

  

  .......
• 

  PCIE通道,CPU/GPU缓存,内存,硬盘将来哪个环节有可能取消?

  

  我将围绕你提出的“PCIE通道、CPU/GPU缓存、内存、硬盘，未来哪个环节可能取消”这个话题，深入探讨各环节的功能、当前发展趋势以及未来被颠覆或整合的可能性。我会尽量用一种更具观察性和推测性的方式来解读，避免生硬的“AI”式分析，而是更贴近一个对技术发展有兴趣的人的思考。前言：技术革新是“颠覆”还.............
• 

  下一世代的游戏主机为达到更高性能是否有可能选用英伟达的GPU？

  

  下一世代游戏主机，尤其是索尼的PlayStation和微软的Xbox系列，要实现性能上的飞跃，采用英伟达（NVIDIA）的GPU并非不可能，甚至可以说，这是一种非常值得探讨的可能性。当然，我们得把这个话题掰开了揉碎了聊聊。首先，我们要明白，目前为止的索尼和微软，在主机市场上的策略一直都比较“垂直整合.............
• 

  用了几年的华为p10稍微有点卡顿，cpu是麒麟960，我希望开启强制GPU渲染解决卡顿，请问可行吗？

  

  用华为P10，用了几年了，跑起来稍微有点卡顿，CPU是麒麟960。看到网上有人说开启“强制GPU渲染”能解决Android手机卡顿的问题，就想问问，我的P10这么操作一下，能解决问题不？说具体点，别写得跟AI似的。先说结论： 开启“强制GPU渲染”对你的华为P10（麒麟960）有可能缓解一些卡顿，但.............
• 

  GPU 不能完全取代 CPU 的最大原因是什么？

  

  GPU 不能完全取代 CPU 的最大原因在于它们 本质上的设计目标和擅长的任务类型存在根本性的差异。虽然 GPU 在某些特定领域表现出惊人的并行处理能力，但 CPU 仍然是通用计算的核心，是计算机大脑中不可或缺的组成部分。我们可以从以下几个方面来详细阐述：1. 设计理念和核心架构的差异： CPU.............
• 

  GPU 转码效果为什么不如纯 CPU？

  

  这个问题很有意思，其实很多人都有这个疑惑。GPU 转码比 CPU 转码慢，这并不是一个普遍的真理，而是要看具体情况。但如果说“GPU 转码效果不如纯 CPU”，这个说法本身就有点模糊，我们需要拆解一下“效果”这个词的含义。通常我们说的“转码效果”，可以包含几个方面： 画质/音质： 转码过程中是否.............
• 

  GPU核心为什么会以显卡这种形式进行销售？

  

  这个问题很有意思，也触及到了GPU设计和市场推广的核心。你想知道为什么那些强大的GPU核心最终会包装成我们熟悉的“显卡”这种形态出现在消费者面前，而不是直接卖给普通用户使用，对吧？这背后其实涉及很多技术、成本和用户体验方面的考量。首先，咱们得明白GPU是个什么玩意儿。GPU全称是图形处理器，顾名思义.............
• 

  GPU 与 CPU 比较，为什么说 GPU 更适合深度学习？

  

  CPU 和 GPU 的设计目标截然不同，这使得 GPU 在深度学习领域大放异彩，而 CPU 则显得力不从心。要理解这一点，我们需要深入了解它们各自的“基因”和“工作模式”。CPU：大脑的精密与灵活我们可以把 CPU 想象成一个非常聪明、非常灵活的“总管”。它拥有少数几个（通常是几个到几十个）强大而多.............
• 

  为什么 GPU 每一代的更新性能上都有「重大突破」，而 CPU 近年来的更新换代被视为「挤牙膏」？

  

  这是一个非常好的问题，触及了当前计算硬件发展的核心差异。GPU 和 CPU 在性能提升路径上的不同，主要源于它们的设计目标、架构演进以及市场驱动力。我们可以从以下几个方面详细阐述： 为什么 GPU 每一代更新都有「重大突破」？GPU 的“重大突破”往往体现在以下几个方面，并且这些突破是可以被用户直观.............
• 

  华为GPU Turbo 和Nvidia GPU 有什么区别吗？

  

  华为GPU Turbo 和英伟达GPU在很多方面存在本质性的区别，它们一个侧重于软件优化和平台协同，另一个则代表了成熟的硬件架构和广泛的市场生态。要深入了解它们，我们可以从几个关键维度进行剖析。核心定位与侧重点 华为GPU Turbo： 你需要明白，GPU Turbo本身并非一个独立的GPU硬件.............
• 

  为什么 GPU 的通用计算能力高于 CPU？架构原因？内核数量？

  

  CPU 和 GPU 之所以能实现如此截然不同的计算能力，根本原因在于它们在设计之初所承担的使命和因此产生的 架构差异。简单来说，CPU 是为处理一系列复杂且有顺序的指令而生，而 GPU 则更像是数量庞大的、并行执行的简单任务的“瑞士军刀”。让我们一层层剥开来看： 1. 设计使命的差异：敏捷的指挥官 .............
• 

  用GPU加速转码压片比3900X还快正常吗？

  

  关于GPU加速转码压片比3900X还快，这完全是正常的，甚至可以说是一种普遍现象。这里我来详细解释一下为什么会这样，并尽量用通俗易懂的方式来描述。首先，咱们得明白转码压片到底是个啥事儿。简单来说，转码就是把一种视频格式的文件，转换成另一种格式。比如，你有一个高清的蓝光原盘，文件很大，想把它压成一个体.............
• 

  国产 GPU「风华1号」测试成功，全球首发在即，有哪些亮点值得关注？会带来哪些影响？

  

  国产 GPU“风华1号”测试成功，全球首发在即，这无疑是中国半导体产业发展中的一个重要里程碑。对于这样一个寄予厚望的产品，我们有太多值得深入挖掘的亮点，以及它可能带来的深远影响。“风华1号”的亮点：我们为什么需要关注它？首先，从“风华1号”的名称本身，我们就能感受到一种“中国制造”的自信与雄心。这不.............
• 

  为什么GPU不能像CPU一样,一定要焊接在显卡中？

  

  你这个问题问得挺深入的，这涉及到GPU和CPU在设计理念、应用场景以及成本效益等多个层面的差异。简单来说，不是GPU“不能”像CPU那样独立出来，而是现有技术和市场需求使得将GPU焊接在显卡上，并作为一个独立的组件销售，是目前最合理、最高效的解决方案。我们来一点点拆解，为什么会是这样。 1. GPU.............
• 

  有GPU Turbo加持的970和845比，到底如何?

  

  问到点子上了！这两款处理器放在一起比较，再加上“GPU Turbo”这个关键点，确实能聊出不少门道。别的不说，这就像是给同一辆车换了不同的引擎，再刷了层“加速包”，效果肯定不一样。咱就掰开了揉碎了说，争取让你听得明明白白。先捋清楚主角：骁龙845 与 GPU Turbo 加持的麒麟970 骁龙8.............