您当前的位置:首页 > 文章中心 > 行业动态 > 为什么跑AI往往更需要GPU而不是CPU?
为什么跑AI往往更需要GPU而不是CPU?
作者:server2008   来源:本站   点击:4699   时间:2021-12-7

今天,人工智能(AI)已经在各个领域遍地开花,无论身处哪个行业,使用AI来帮助获取业务洞察,并建立竞争优势,已经非常常见。不过一个有趣的现象是,在用户采购AI基础设施时,几乎所有厂商都会强调其支持GPU的能力,并且支持的GPU数量越多,就代表其AI性能越强大。

 

例如,在介绍今年新推出的戴尔易安信PowerEdge XE8545服务器时,会特别强调这款4U服务器支持4个NVIDIA A100GP,专门面向人工智能、分析和高级计算等工作负载。


 

那么问题来了,为什么是GPU而不是CPU?

 

GPU难道不是我们日常使用的电脑里的,用于提高游戏性能或设计图形所需的图形处理单元吗,为什么在AI方面,我们计算机里的“大脑”(CPU)反而很少提及呢?今天小编就来解答这个问题。

 

  为什么AI需要GPU

 

要了解为什么GPU更适合AI,我们就要从GPU的诞生说起。

 

图形处理单元 (GPU) 最初开发用于生成计算机图形,是具有专用内存的专用处理器,通常执行渲染图形所需的浮点运算。

 

 

从GPU的诞生我们可以看到,GPU是专为计算机开发的,旨在提高它们处理3D图形的能力。这种特性决定了GPU仅用于参与任务或应用程序代码的某些部分,而不是整个过程。因此,GPU通常有较多的内核,用于处理频繁且彼此独立的简单计算。

 

而CPU又被称为通用处理器,因为它几乎可以运行任何类型的计算。不过CPU通常只有几个内核,即使是服务器专用的CPU也不过几十个内核,与GPU动辄成百上千个内核相比完全不是一个数量级。

 

 

但这并不意味着CPU不够好,CPU内核虽然更少,但比数千个GPU内核更强大。例如同时处理操作系统、处理电子表格、播放高清视频、提取大型zip文件,这些是GPU根本无法完成的。

 

说到这里,你该明白GPU和CPU的区别了吧。总结一下,CPU最擅长按顺序处理单个更复杂的计算,而GPU更擅长并行处理多个但更简单的计算。

 

至于为什么AI需要的GPU,答案也很明显了,因为训练AI模型的过程需要同时对所有数据样本执行几乎相同的操作,而GPU的架构设计具有快速同时处理多个任务所需的并行处理能力。

 

过要注意的是,尽管GPU非常适合于AI模型算法,但并不意味着GPU在所有情况下都适用:

 

规模较小的训练:CPU完全可以执行训练AI模型所需的算法,特别是如果数据集规模相对较小,可以使用CPU避免高昂的前期成本。

 

非并行算法:本质上,GPU是为图形处理而设计的,因此当某个AI模型算法并不是并行算法时,CPU就是更好的选择。某些涉及逻辑或密集内存要求的AI算法也是CPU的强项。

 

  戴尔科技简化和加速AI部署

 

此外,有了GPU也并不意味着AI就可以顺利进行,具体到实施步骤,许多公司面临将AI解决方案与基础设施集成的障碍。Gartner的一项研究显示,30%的受访者认为复杂性是令人担忧的主要原因之一。

 

在这方面,戴尔科技与NVIDIA携手合作,使得VxRail超融合成为第一个获得适用于NVIDIA AI Enterprise的,NVIDIA认证系统资格认证的超融合平台。

 

 

用户无需猜测哪种VxRail和NVIDIA GPU配置是为其AI工作负载而优化,并可以从单个控制台无缝管理他们的基础设施和应用程序,让部署、扩展和管理AI基础设施和工作负载变得更加容易,从而更有效管理AI资源,并节省时间和金钱。

 

另外,戴尔科技还通过开源Omnia软件,加速和简化人工智能和计算密集型工作负载的部署和管理。

 

这一软件由戴尔科技、英特尔和亚利桑那州立大学联合开发,旨在自动化高性能计算、人工智能和数据分析工作负载的部署和管理,创建一个灵活的资源池,将各种融合工作负载(如HPC模拟、人工智能的神经网络或数据分析的内存图形处理)的部署时间从几天缩短到几分钟。


   
 
上一篇:AMD在2021年超级计算大会上展示了HPC的日益普及             下一篇: 戴尔发布全新Precision 5470 14英寸移动工作站
友情链接: 四川服务器总代理 | 成都服务器总代理 | 成都戴尔总代理 | 成都戴尔服务器总代理 | 成都联想总代理 | 成都浪潮服务器总代理 |
成都强川科技有限公司 版权所有 Copyright 2011-2024
全国免长途热线:400-028-6620 技术支持:028-85041466 传真:028-85215166
地址:成都市武侯区新世纪电脑城东17楼B座       ICP备案编号:蜀ICP备11026978号-2