英伟达 H200 芯片是英伟达发布的人工智能（AI）芯片，于 2023 年 11 月 13 日正式发布。它是 H100 的升级产品，基于 NVIDIA Hopper 架构，其针对于超大规模的大模型训练和推理，可增强生成式 AI 和高性能计算（HPC）工作负载。
H200 的主要特点和优势包括：
• 大内存和高带宽：拥有 141GB HBM3e 内存和 4.8TB/秒的带宽，内存几乎是 A100 和 H100 最高 80GB 内存的 2 倍，带宽是 A100 的 2.4 倍，也显著高于 H100 的 3.35TB/秒。
• 性能提升：在大模型 Llama 2、GPT-3.5 的输出速度上分别是 H100 的 1.9 倍和 1.6 倍，而在高性能计算 HPC 方面的速度则达到了双核 x86 CPU 的 110 倍。在处理 Llama2 等大语言模型时，其推理速度比 H100 提高了近 1 倍；对于模拟、科学研究和人工智能等内存密集型 HPC 应用，H200 更高的内存带宽可确保高效地访问和操作数据，与 CPU 相比，获得结果的时间最多可加快 110 倍。在处理高性能计算的应用程序上也有 20%以上的提升，并且推理能耗相比 H100 降低了一半。
• 兼容性：与上一代产品 H100 兼容，对于已经使用 H100 的企业来说，无需进行任何调整，可以直接进行更换。H200 和 H100 芯片基于相同的 Hopper 架构，它们的 FP64 矢量计算能力为 33.5TFlops，FP64 张量计算能力为 66.9TFlops。
• 硬件加速：采用了先进的 7 纳米制程工艺，拥有超过 1000 亿个晶体管，整个芯片的面积达到 1526 平方毫米。H200 芯片将应用于具有四路和八路配置的 NVIDIA HGX H200 服务器主板，这些主板与 HGX H100 系统的硬件和软件兼容，也可用于采用 HBM3e 内存的 NVIDIA GH200 Grace Hopper 超级芯片。八路配置的 HGX H200 主板提供超过 32 petaflops 的 FP8 深度学习计算能力和 1.1TB 的聚合高带宽内存。

超微 H200 32台-128台可售

Supermicro/Inspur/Asus/Quanta/Gigabyte/xFusion这些品牌都行。 2*P8468, 2TB RAM, 8x H100 SXM 要4台这种配置的显卡服务器