水晶球APP 高手云集的股票社区
下载、打开
X

推荐关注更多

柴孝伟

买进就值,越来越值,时享价...


邢星

邢 星 党员,国...


石建军

笔名:石天方。中国第一代投...


揭幕者

名博


洪榕

原上海大智慧执行总裁


小黎飞刀

黎仕禹,名博


启明

私募基金经理,职业投资人


李大霄

前券商首席经济学家


桂浩明

申万证券研究所首席分析师


宋清辉

著名经济学家宋清辉官方账号...


banner

banner

英伟达的GB300AI服务器升级带来哪些投资机会?

kuru   / 今天15:31 发布

事件驱动:英伟达预计2025年3月GTC大会正式发布下一代GB300 AI服务器产品线。

大摩预计,英伟达下一代AI GPU GB300有望在今年四季度批量出货,该系列可能会引入GPU插槽、增设冷板模块并采用更高功率的电源模块,且英伟达将减少参与度,赋予ODM(原始设计制造商)更多设计空间。

NVIDIA 的 GB300 AI 服务器是一款性能强大、配置高端的人工智能服务器,以下是其具体介绍:

技术参数

1)芯片性能:采用全新的 B300 GPU 芯片,FP4 性能相较于前一代 B200显著提升了1.5倍,单卡功耗为1400W,达到初代B100的两倍257。

2)内存配置:每个GPU配备288GB的HBM3E内存,采用8堆栈12HiHBM3E技术,相比GB200提升了近50%,在处理大规模数据和运行复杂AI模型时更具优势257。

3)网络功能:内置全新的ConnectX-8网卡,替代了之前的ConnectX-7,同时光模块带宽从800G升级到了1.6T,大大提高了数据传输效率25。

4)冷却系统:由于性能提升导致功耗大幅增加,采用全水冷散热方案,通过水冷板和增强型UQD技术,确保服务器在高强度运算时能保持稳定状态234。

5)电源管理:GB300NVL72机柜配备了标准化超级电容UPS,并提供可选的后备电池(BBU)系统,每个BBU模块制造成本约为300美元,每个NVL72机架需要超过300个单元,每个单元生产成本在20至25美元之间25。

GB300有哪些新的升级了什么?

升级1:计算性能+50%,功耗+17%,利好液冷、电源。

GB300Flops计算性能提升了50%,同时内存从8个HBM3E升级到12个。计算性能和内存的提升,带动功耗提升,GB300单卡功耗为1.4kW,而GB200为1.2kW,提升幅度约为17%。同时,预计Rubin版本功耗将达到1.8kW,较GB200提升50%,较H100提升157%。

散热、电源等环节与服务器功耗紧密相关,产品有望升级,用量或将明显增长。散热方面,GB300的设计中水冷板、液冷系统、UQD快速接口的使用量或将明显增加。电源方面,GB300或将升级超级电容和BBU技术,确保在断电等突发情况下,系统能够安全关闭,避免数据丢失。

升级2:网卡从CX7升级至CX8,1.6T光模块成标配

GB300的网卡将从CX7升级至CX8,网络规模、性能均得到明显提升。网卡升级对光模块带来两方面影响,一是光模块规格升级,1.6T光模块成为GB300的标配;二是组网规模扩大,网络在AI投资的占比或将提升。当前,海外头部厂商正在着力打造十万卡、甚至百万卡,网络的层数和复杂度提升,将带来网络投资的指数增长。根据博通,当前网络在AI的投资占比在5%-10%之间,当规模扩大至50万至100万时网络投资占比会上升至15%-20%。

升级3:强化模块化设计思路,有望引入更多供应商

GB300增加了内存模组和GPUsocket,使得组装和替换更加灵活。这种模块化设计不仅提高了系统的可维护性,还为未来的定制化提供了更多可能性。同时,随着机柜设计日益成熟,GB300有望在液冷、PCB、连接器等环节引入更多的供应商。

具体主要变化,新的增量有哪些?

1.引入GPU插槽:英伟达计划为即将推出的第二代BlackwellB300系列处理器引入插槽设计,替代传统的直接表面贴装(SMT)。此举旨在改善低生产良率问题(目前Wistron计算板的良率为80%,而UBB良率超过90%)并提高维修性。初期插槽由FIT供应,未来可能会引入Lotes作为第二供应商。

GB300设计将采用插座以增强可靠性和便于维修,这一变化也将影响PCB设计,预计GB300计算托盘将采用两块独立的PCB,而插座区域将采用HDI,UBB区域则采用多层PCB。

PCB替代HDI和过孔。在GB300产品中,预计计算托盘的PCB价值将增加。

一个NVL72的机柜PCB价值量为17.1万美元,这个价值仅次于GPU,甚至比CPU还大。

2.增设冷板模块:由于GPU插槽的采用,新冷板模块可能会为每个GPU/CPU单独设计,并使用新型体积更小的NVQD取代GB200中的UQD(快换接头)设计。主要供应商包括CoolerMaster和AVC集团,Fositek、FII和Lotes也可能受益。

3.更高功率的电源模块:独立电源架有望被引入,以满足更高的可靠性和功率需求。GB300的电源单元将支持10kW和12kW,适用于60kW和72kW的电源架,具体取决于机架兼容性、生产验证和可靠性测试。

4.ODM(原始设计制造商)的价值将有所提升。与GB200相比,英伟达将在GB300的机械组件设计中减少参与度,这将赋予ODM更多设计空间。ODM可以为超大规模客户(hyperscalers)提供定制化设计服务,潜在地提升其利润率。

5.NVIDIA将取消其Blackwell芯片与GraceCPU、NVLink和NVSwitch的捆绑销售,这意味着新的GB300设计可以采用x86CPU和Broadcom的PCIe交换机。同时,将提供参考设计,但允许CSPs/ODMs进行更多定制。

6.互联方面,英伟达将在GB300服务器上导入新一代ConnectX-8SuperNIC和理论带宽翻倍的1.6Tbps光模块。

7.GB300AI服务器液冷散热需求更强。据此前报道,新一代GB300AI服务器将采用“BlackwellUltra”架构,由于性能显著提升,导致功耗也大幅增加,因此将采用全液冷散热方案。不过来自WccfTech的消息源称,全液冷方案也推高了服务器成本,预计GB300服务器的顶配价格将远超目前约300万美元(当前约2196.6万元人民币)的GB200NVL72服务器。

8.超级电容具有成为服务器主流电源方案的优势。与传统的带电池的UPS系统相比,超级电容在调频、弥补电力缺口、负载平衡和能量回收等方面具有显著优势。这些特性使其在断电或负载高峰期间能够快速释放能量,保证不间断供电,并提高能源效率。

9.另外,英伟达GB300的外部存储器采用LPCAMM模块,替代了GB200中焊接的LPR5X。

在GB200时代,NVIDIA选择了直接焊接在Bianca板上的512GBLPR5X作为主存方案。然而在GB300的设计中,为了提高灵活性并降低成本,NVIDIA决定二级内存采用可插拔式的LPCAMM模块替代传统的焊接内存,美光或将成为主要供应商。

随着GB300的铺开,存储器这块将有巨大增量!

GB300升级带来的投资机会,主要体现在光模块、散热、电源、铜连接、测试、交换机、PCB、存储器等环节。

部分相关受益公司梳理如下:

光模块:新易盛、中际旭创、天孚通信、光迅科技;

液冷:英维克、高澜股份、申菱环境;

电源:麦格米特;

AEC有望在ScaleUp兴起的趋势下获得越来越多的市场空间:瑞可达、兆龙互连、博创科技、中际旭创、澜起科技;

铜缆/线材提供商:沃尔核材、神宇股份、兆龙互连、精达股份。

测试:淳中科技。

交换机:紫光股份、中兴通讯、锐捷网络、盛科通信

PCB:胜宏科技、景旺电子、沪电股份、胜宏科技、生益电子

服务器及零部件:工业富联、英维克、高澜股份、麦格米特

超级电容:江海股份

存储器:兆易创新、江波龙、聚辰股份

选自金融梦想家