百科问答小站 logo
百科问答小站 font logo



如何看待 NVIDIA 称「我们的 GPU 显卡比 CPU 节能 42 倍」? 第1页

  

user avatar   lixiangjing 网友的相关建议: 
      

笔者正好结合选题采访了NVIDIA,下面是回答:

随着人工智能类工作负载的流行,GPU已经成为数据中心的标配。无论是通过云还是在本地数据中心,各大公司在采用AI等技术的同时,计算的能耗也在日益提升。在我们的常识中,GPU是比CPU更加耗电。那么这是否意味着GPU会加大数据中心的能耗呢?
其实,对于AI工作负载,NVIDIA GPU的能效是传统CPU服务器的42倍。NVIDIA的HGX-A100云服务器平台将16个NVIDIA V100 Tensor Core GPU连接在一起,可作为单一巨型GPU运行,提供2petaflops的AI性能,创下了单台服务器AI训练算力的纪录。
在短短两年内,NVIDIA AI系统将在单一服务器上训练图像识别模型ResNet-50的时间从8小时减少至40分钟。随着AI采用的加速,NVIDIA的重点从训练转移到推理,使经过训练的模型能够在全球数百万台超大规模服务器运行的实时应用程序中运行。
NVIDIA的TensorRT推理软件甚至能够助力最大型神经网络在数据中心、嵌入式和汽车等多种应用中实时运行。A100比CPU快237倍。与其所取代的基于CPU的系统相比,配备NVIDIA GPU和TensorRT的超大规模数据中心占用的机架空间仅为其1/47,运行的能源成本降低了95%,同时还能提供运行所有AI模型的实用程序。



  

相关话题

  华为举行军团组建成立大会,任正非表示「没有退路就是胜利之路」,成立军团对华为来说意味着什么? 
  细胞疗法的应用前景如何?目前还有哪些问题需要解决? 
  《瓦森纳协定》对中国产生了哪些影响?是否违反相关国际法和国际公约?中国是否可能在未来成为其成员? 
  为什么有很多名人让人们警惕人工智能? 
  如果金元素免费无限量供应,世界会有什么好玩的变化? 
  如何看待华为5G技术是中国自1840年以来第一次在科技领域取得的一项领先,对中国未来发展有什么启示? 
  如何评价A12X处理器,和英特尔同频率比呢? 
  Meta 旗下「Horizon Worlds」向成年人开放,体验如何?这是扎克伯格的「元宇宙」雏形吗? 
  你现实中见过科技含量最高的东西是什么? 
  如何看待英伟达 6 月 1 号发布的 3080Ti 和 3070Ti 显卡?有哪些亮点与不足? 

前一个讨论
在加州大学伯克利分校 (UC Berkeley) 就读是怎样一番体验?
下一个讨论
笔记本电脑可以一边充电一边使用吗?





© 2025-05-11 - tinynew.org. All Rights Reserved.
© 2025-05-11 - tinynew.org. 保留所有权利