水晶球APP 高手云集的股票社区
下载、打开
X

推荐关注更多

柴孝伟

买进就值,越来越值,时享价...


邢星

邢 星 党员,国...


石建军

笔名:石天方。中国第一代投...


揭幕者

名博


洪榕

原上海大智慧执行总裁


小黎飞刀

黎仕禹,名博


启明

私募基金经理,职业投资人


李大霄

英大首席


桂浩明

申万证券研究所首席分析师


宋清辉

著名经济学家宋清辉官方账号...


banner

banner

思纪尼   / 2023-11-10 12:21 发布

对比H100/H800有以下变化 HBM增加一颗,有16*5=80GB增加至16*6=96GB,成本增加240美金 FP16稠密算力为H100 15%,H20需要额外增加软件人员适配成本 NVLINK由400GB/s升级至900GB/s,因此互联速率会有较大升级 H100/H800通过IB网络组网是目前最大集群的主流实践方案
H100理论极限在5万张卡集群,NV测试实践有4万卡以上,5万*2P=10万P H800实践集群在2~3万张卡,2万*2P=4万P
A100最大实践集群为1.6万张卡,1.6万*0.6P=9600P
H20集群0.148P*5万=7400P H20算力与通信均衡度来预估,H20集群规模远达不到H100的理论规模,因此合理按3000P中性预估

缩水太多了……