旗下微信矩阵:

瓜分CPU

一款“全能”型的CPU似乎已经不能满足所有的计算需求。随着计算需求的多样化和技术的发展,多种PU的出现,如GPU、DPU、SPU和VPU,正是对这种趋势的回应。
2023-10-07 07:54 · 微信公众号:半导体行业观察  杜芹DQ   
   

随着技术的发展,数据量的爆炸性增长,到2025年,全球生成和消耗的数据总量预计将超过180ZB。而计算机的核心部件——中央处理器(CPU)分析数据的能力却有点力不从心,导致数据处理缓慢且低效。传统的CPU为了满足多任务处理、高效能和节能要求,变得越来越复杂。在这个高速发展的时代,我们不能再依赖单一的CPU来完成所有的工作。为此,各种特定的处理单元(PU)如雨后春笋般涌现,其目标就是“瓜分”CPU的任务,人多力量大,各司其职,优化计算效率。

GPU在AI时代崛起

CPU是计算机的“大脑”,执行一般计算任务,而GPU则帮助CPU执行图形和人工智能等更复杂的任务。 

GPU(图形处理单元)最初是为了满足图形渲染的需求而发展起来的,在GPU芯片市场中,英伟达控制着全球大约80%的市场。其GPU芯片主要是用于游戏市场,但现在它的作用已经远不止于此。由于其并行处理的能力,一路高歌猛进的GPU,就像一个无畏的少年,展现出了无限的可能。GPU已经被广泛应用于深度学习、科学计算等多个领域。这种计算能力不仅可以加速图形处理,还能在其他任务上分担CPU的负担,如数据分析、机器学习等。

图形处理单元,GPU,最初是为了满足对图形渲染的迫切需求而发展起来的,而现在它的功能已经远超这个范围,成为推动现代计算的核心力量之一。得益于其并行处理的*能力,GPU,就像一个无畏的少年,一路在游戏、挖矿、AI等领域高歌猛进,展现出了无限的可能。今天,GPU已经广泛渗透到深度学习、科学计算等关键领域,成为这些领域不可或缺的一部分。

尤其是在当今的人工智能的时代,生成式AI的广泛和深入应用标志着一场技术革命的到来。在这个背景下,图形处理单元(GPU)的重要性逐渐超越了中央处理单元(CPU),站上了历史的舞台中心。

首先是,作为世界上*的GPU供应商,其英伟达大约占据全球80%的GPU市场份额。2023年6月13日,英伟达的市值首次突破了万亿美元大关,使其成为美国第五大市值公司,仅次于苹果、微软、Alphabet和亚马逊。这一里程碑式的事件突显了GPU行业的健康和增长动力,同时也预示着它在未来将继续发挥重要作用。

英伟达目前的市值仍然在1万亿美元以上

接下来是数据中心业务大反转。在过去几年中英伟达的重心开始转向了数据中心市场。2023年第二季度的营收数据显示了一个非常引人注目的现象。在2023年之前,数据中心的CPU市场份额一直显著高于GPU。事实上,即便是在2023年*季度,Nvidia在数据中心业务的收入(42亿美元)仍然未能超过Intel和AMD的总和。但到了第二季度,局面发生了翻天覆地的变化,在数据中心业务上,两大CPU巨头英特尔和AMD的营收分别为40亿美元和30亿美元。而与之形成鲜明对比的是,英伟达的数据中心业务营收超过了100亿美元,这一数字甚至超过了英特尔和AMD的营收之和。这一数据充分显示了GPU的地位在迅速上升,并在某些领域已经超越了CPU。

GPU现在在现代超级计算中占据了中心地位,它被广泛用于各种任务的加速,从网络到游戏,从加密到人工智能等各个领域。随着越来越多的计算任务转移到GPU上,我们可以预见到,GPU将在未来几十年内继续是计算和人工智能领域的主要工具。

为数据处理而生的DPU

有了专门处理图形的GPU之后,还不够。在数字化时代,需要有针对数据处理而生的处理器,于是数据处理单元(DPU)应运而生,DPU也被称为是数据中心的第三大计算支柱。DPU 与 CPU 和 GPU 配合使用,可增强计算能力并处理日益复杂的现代数据工作负载。

CPU、GPU和DPU的对比(来源:datacenterknowledge)

DPU是专门设计用来处理大量的数据和信息。它可以有效地处理和分析数据,提高数据中心和云计算平台的性能。根据英伟达的说法,DPU应该能完成以下三大项任务:

卸载:从服务器CPU接管基础设施任务,以便更多的CPU能力可用于运行应用程序。

加速:使用DPU芯片中的硬件加速,比CPU更快地运行基础设施功能。

隔离:将关键数据平面和控制平面功能移至DPU上的单独域,既可以减轻服务器CPU 的工作,又可以在CPU或其软件受到损害时保护功能。

迄今为止,许多 DPU 开发都是针对超大规模的。展望未来,DPU 在数据中心和企业网络其他地方的使用预计将会增长。一种可能实现的方式是将 DPU 技术与网络交换机相融合——AMD Pensando 将这种技术组合称为“智能交换机”。“我们认为智能交换机是企业吸收 DPU 技术的最简单方法,因为它可以让他们淘汰旧设备,并为他们的网络带来重要的技术和规模,” AMD Pensando 网络技术和解决方案小组首席商务官 Soni Jiangdani 表示。

由于人工智能、机器学习、深度学习、物联网、5G 和复杂云架构需求的增长,DPU市场稳步增长。随着对数据密集型应用程序的需求不断增加,计算架构将不断发展,从而需要更快、更高效、更安全的数据处理。DPU市场市场上涌现了不少芯片玩家,主要供应商包括国外的英伟达、Marvell、Fungible(被微软收购)、Broadcom、Intel、Resnics和AMD Pensando,国内还有中科驭数、芯启源云豹智能、云脉芯连等等。

根据Allied Market Research 的一份报告,预计到 2031 年,全球数据处理单元市场将达到 55 亿美元,2022 年至 2031 年的复合年增长率为 26.9%。因此,DPU 可能会从今天的可选组件转变为下一代计算的必要行业标准。

爆炸性增长的视频,需要VPU

随着视频内容的普及和人工智能技术的飞速发展,视频处理单元(VPU,Video Processing Unit)成为了当前科技领域的一颗新星。多年来,英特尔的CPU+软件的视频解码/编码方案一直主导着流媒体市场,但是随着视频流媒体对高质量视频的需求不断增长,CPU将不再具有经济价值,而且会消耗太多的能耗和空间。于是,VPU这种专门用来处理视频的芯片开始兴起,他们旨在释放CPU的庞大劳动力。

VPU(视频处理单元)是专门设计用来处理视频任务的,它可以高效地处理视频编码和解码、图像处理和机器视觉等任务。通过将这些任务从CPU或GPU上卸载,VPU可以提高系统的总体效率和性能,同时也减轻了CPU或GPU的负担,使它们可以专注于其他任务。而且这样的VPU通常还具有高性能、低功耗和低延时等多个优势,据SemiAnalysis对VPU芯片厂商镕铭微电子(NETINT)的分析,相比于CPU和GPU,VPU的密度和功耗是CPU和GPU无法比拟的,VPU的出现可以说是为视频行业应用带来了前所未有的加速计算能力。

VPU与GPU和CPU的对比(图源:Semianalysis)

当下4K、8K等高清视频技术的广泛应用,使得视频处理的计算负担持续上升,这使得高效能的VPU成为行业发展的必备工具。目前包括谷歌、Meta、字节跳动和腾讯等互联网巨头均已经瞄上这颗芯片。与此同时,AMD在今年4月,发布了一款用于数据中心的新型专用媒体加速器和视频编码卡——Alveo MA35D,英特尔则是将VPU集成到其14代酷睿Meteor lake处理器中。除了云和数据中心之外,终端也已成为视频及游戏的主要载体,手机厂商愈发追求视频或影像质量。对此,vivo/小米以视频芯片为自研切入点,如Pixelworks/逐点半导体这样的第三方视频芯片供应商也开始迎来发展契机。

未来,视频处理芯片市场预计将继续增长,特别是在边缘计算、物联网 (IoT) 和5G通信领域。高效和低功耗的视频处理芯片将成为这些应用领域的关键组件。

更多新的“PU”正在路上

一家成立于2018年的以色列的初创芯片企业NeuroBlade,开发了一种专用处理器架构,他们将之称为是SPU(SQL处理单元)。该公司的目标是成为“数据分析领域的 Nvidia”。SPU主要是用来加速SQL指令处理,该公司CEO表示,通过使用专门设计的处理器加速SQL处理,可以实现端到端SQL分析加速。在部署方面,该芯片通过主机服务器的PCIe总线插入,能够透明地接管SQL相关处理,而无需修改主机应用程序软件。

NeuroBlade SPU芯片和卡

SPU支持常见的列式文件格式。当一个查询请求从查询引擎发送时(也就是从数据库管理系统中发出查询请求),SPU可以直接访问和处理存储在本地存储设备上的数据文件。在处理完数据文件后,SPU会将处理结果以原生查询引擎布局的形式发送回查询引擎。

SPU的工作原理

NeuroBlade公司正在与多个大型超大规模提供商进行谈判,并已与一家公司赢得了数千张SPU卡的合同。如NeuroBlade还与戴尔公司合作,在PowerEdge服务器中分销SPU卡产品。据他们称,超大规模企业使用这一SQL处理单元 (SPU) 来卸载运行分析工作负载的x86 CPU,可以获得100倍或更多的工作加速,每年可以节省数百万美元。在NeuroBlade的客户中,还有存储类客户,铠侠已经在其CM7系列企业NVMe SSD中成功配置了其 NeuroBlade硬件增强型查询系统 (HEQS),据他们称,可以使客户能够充分发挥高性能 SSD 吞吐量的潜力,从而将查询性能提高高达100倍。

结论

一款“全能”型的CPU似乎已经不能满足所有的计算需求。随着计算需求的多样化和技术的发展,多种PU的出现,如GPU、DPU、SPU和VPU,正是对这种趋势的回应。它们从各自擅长的领域,优化特定的计算任务,为CPU“分忧解难”,提高整体的计算效率和性能。

虽然多种PU的出现已经开始瓜分CPU的任务,但CPU仍然是计算的中心。不过,多种PU的融合和发展无疑会进一步推动计算技术的不断进步和优化,帮助实现更高效,更快速的计算,满足日益增长的数据和计算需求。

在未来,我们可以期待更多种类的处理器出现,它们将更加专业和高效地处理各种不同类型的计算任务,为各个行业和领域带来更大的便利和推动力。

【本文由投资界合作伙伴微信公众号:半导体行业观察授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。