电脑gpu是啥(gpu是什么和cpu的区别)

大家好,我是IT售前工程师Bernie.

近几个月,几乎每个行业的小伙伴都了解到了ChatGPT的可怕能力。你知道么,ChatGPT之所以如此厉害,是因为它用到了几万张NVIDA Tesla A100显卡做AI推理和图形计算。

本文就简单分享下GPU的相关内容,欢迎阅读。

电脑gpu是啥(gpu是什么和cpu的区别)(1)

GPU是什么?

GPU的英文全称Graphics Processing Unit,图形处理单元。

说直白一点:GPU是一款专门的图形处理芯片,做图形渲染、数值分析、金融分析、密码破解,以及其他数学计算与几何运算的。GPU可以在PC、工作站、游戏主机、手机、平板等多种智能终端设备上运行。

GPU和显卡的关系,就像是CPU和主板的关系。前者是显卡的心脏,后者是主板的心脏。有些小伙伴会把GPU和显卡当成一个东西,其实还有些差别的,显卡不仅包括GPU,还有一些显存、VRM稳压模块、MRAM芯片、总线、风扇、外围设备接口等等。

电脑gpu是啥(gpu是什么和cpu的区别)(2)

GPU和CPU谁最强呢?

这个其实不好说,好点的GPU内部的晶体管数量可以超过CPU,CPU的强项是做逻辑运算,GPU的强项是做数学运算和图形渲染。这就ChatGPT用大量高性能显卡做AI推理的原因。

接下来,我们做个简单的对比。

  • 结构组成不同

CPU和GPU都是运算的处理器,在架构组成上都包括3个部分:运算单元ALU、控制单元Control和缓存单元Cache。

但是,三者的组成比例却相差很大。

在CPU中缓存单元大概占50%,控制单元25%,运算单元25%;

在GPU中缓存单元大概占5%,控制单元5%,运算单元90%。

电脑gpu是啥(gpu是什么和cpu的区别)(3)

结构组成上的巨大差异说明:CPU的运算能力更加均衡,但是不适合做大量的运算;GPU更适合做大量运算。

这倒不是说GPU更牛X,实际上GPU更像是一大群工厂流水线上的工人,适合做大量的简单运算,很复杂的搞不了。但是简单的事情做得非常快,比CPU要快得多。

相比GPU,CPU更像是技术专家,可以做复杂的运算,比如逻辑运算、响应用户请求、网络通信等。但是因为ALU占比较少、内核少,所以适合做相对少量的复杂运算。

电脑gpu是啥(gpu是什么和cpu的区别)(4)

  • 缓存不同
  • 在CPU里面,大概50%是缓存单元,并且是四级缓存结构;而在GPU中,缓存是一级或者二级的。

  • 浮点运算方式不同
  • CPU性能更加注重线程的性能,在控制部分做的事情较多,这样做就是为了确保控制指令不能中断,在浮点计算上功耗少。

    相较于CPU,GPU的结构更为简单,基本上它也只做单精度或双精度浮点运算。GPU的运算速度更快,吞吐量也更高。

  • 响应方式不同
  • CPU基本上是实时响应,采用多级缓存来保障多个任务的响应速度。

    GPU往往采用的是批处理的机制,即:任务先排好队,挨个处理。

    电脑gpu是啥(gpu是什么和cpu的区别)(5)

    GPU对于图形处理

    我们假设在实时渲染中,一帧1080*720P的图片,那么这张图就有大概777600个像素点。如果按照最基本的24帧/秒的帧率计算。1秒钟就要求计算机处理18662400个,即:1866.24万个像素点。

    这还是高清的情况下,如果是1090*1080、2K、4K甚至8K的视频渲染,可想而知,这个计算量是何其巨大。尤其是在像游戏这样的实时渲染场景下,显然仅仅依靠CPU渲染是会超时的。

    实际上,在屏幕中显示的三维物体都要经过多重的坐标变换,并且物体的表面会受到环境中各种光线的影响,呈现不同的颜色和阴影。这就包括了光线的漫射、折射、透射、散射等。

    电脑gpu是啥(gpu是什么和cpu的区别)(6)

    接下来,我们以英伟达NVIDIA RTX3090 为例,看下GPU是如何进行渲染的。

    RTX3090的流式多处理器有10496个,每个内核都有具备整数运算和浮点运算的部分,还有用于在操作数中排队和收集结果的部分。

    所谓流式多处理器可以认为是一个独立的任务处理单元,也可以认为一颗GPU包含了10496个CPU同时处理各个图片处理任务。

    电脑gpu是啥(gpu是什么和cpu的区别)(7)

    我们就可以通过算法和程序,对1秒钟18662400个像素点的整体任务进行切割分片,让10496颗处理器并行计算。

    这样的话,每个处理器负责大概每秒处理18662400/10496,即1778个像素点的渲染任务就行了。

    如下图所示,在GPU中会划分为多个流式处理区,每个处理区包含数百个内核,每个内核相当于一颗简化版的CPU,具备整数运算和浮点运算的功能,以及排队和结果收集功能。

    电脑gpu是啥(gpu是什么和cpu的区别)(8)

    注意,除了流处理器CUDA以外,影响GPU性能的还有

    1. 核心频率:频率越高,性能越强、功耗也越高。
    2. 显示位宽:单位是bit,位宽决定了显卡同时可以处理的数据量,越大越好。
    3. 显存容量:显存容量越大,代表能缓存的数据就越多。
    4. 显存频率:单位是MHz或bps,显存频率越高,图形数据传输速度就越快。
    总结

    一言以蔽之,GPU不管是处理图形渲染、数值分析,还是处理AI推理。底层逻辑都是将极为繁重的数学进行任务拆解,化繁为简。

    然后,利用GPU多流处理器的机制,将大量的运算拆解为一个个小的、简单的运算,并行处理。我们也可以认为一个GPU就是一个集群,里面每个流处理器都是一颗CPU,这样就容易理解了。

    电脑gpu是啥(gpu是什么和cpu的区别)(9)

    以上是关于GPU概念、工作原理的简要介绍。说是简单,其实在图形处理方面,还有很多深层次的处理逻辑没有展开,比如像素位置变换、三角原理等等。感兴趣的小伙伴可以深入研究下。

    我是IT售前工程师,后续将会分享更多的有趣的互联网所见所闻。感谢关注!下期见~

    ,

    免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。