Supermicro推出可立即部署式液冷型AI数据中心

1U-MGX-Rack_front4U-Delta-Next8U-Superblade-DLC8U-Delta-Next



Supermicro, Inc.为AI、云计算、存储和5G/边缘领域的全方位IT解决方案制造商，推出可立即部署式液冷型AI数据中心。此数据中心专为云计算原生解决方案而设计，通过SuperCluster加速各界企业对生成式AI的运用，并针对NVIDIA AI Enterprise软件平台优化，适用于生成式AI的开发与部署。

通过Supermicro的4U液冷技术，NVIDIA近期推出的Blackwell GPU能在单一GPU上充分发挥20 PetaFLOPS的AI性能，且与较早的GPU相比，能提供4倍的AI训练性能与30倍的推论性能，并节省额外成本。

配合此率先上市的策略，Supermicro近期推出基于NVIDIA Blackwell架构的完善产品系列，支持新型NVIDIA HGXB100、B200和GB200 Grace Blackwell Superchip。

Supermicro总裁暨首席执行官梁见后表示：“Supermicro在打造与部署具有机柜级液冷技术的AI解决方案方面持续领先业界。数据中心的液冷配置设计可几近免费，并通过能持续降低用电量的优势为客户提供额外价值。我们的解决方案针对NVIDIA AI Enterprise软件优化，满足各行各业的客户需求，并提供世界规模级效率的全球制造产能。



因此我们得以缩短交付时间，更快提供搭配NVIDIA HGX H100和H200，以及即将推出的B100、B200和GB200解决方案的可立即使用型液冷或气冷运算集群。从液冷板到CDU乃至冷却塔，我们的机柜级全方位液冷解决方案最大可以降低数据中心40%的持续用电量。”

在台北国际计算机展（COMPUTEX 2024）上，Supermicro展示了即将推出，并针对NVIDIA Blackwell GPU优化的系统，包括基于NVIDIA HGX B200的10U气冷系统和4U液冷系统。



此外，Supermicro也将提供8U气冷型NVIDIA HGX B100系统、NVIDIA GB200 NVL72机柜（具有72个通过NVIDIA NVLink交换机互联的GPU）与新型NVIDIA MGX系统（支持NVIDIA H200 NVL PCIe GPU与最新发布的NVIDIA GB200 NVL2架构）。





NVIDIA创办人暨首席执行官黄仁勋表示：“生成式AI正在推动整个运算堆栈的重置，新的数据中心将会通过GPU进行运算加速，并针对AI优化。Supermicro设计了顶尖的NVIDIA加速运算和网络解决方案，使价值数兆美元的全球数据中心能够针对AI时代优化。”

随着大型语言模型（Large Language Model，LLM）的快速发展以及Meta的Llama-3和Mistral的Mixtral 8x22B等开源模型不断推出，企业更容易取得并使用当今最先进的AI模型。简化AI基础设施并以最具成本效益的方式提供访问能力，对于支持目前的快速AI变革至关重要。

Supermicro云计算原生AI SuperCluster使即时访问的云计算便利性和可携性之间得以连接，并通过NVIDIA AI Enterprise让任何规模的AI项目，从评估测试阶段顺畅地进行到实际作业阶段。这提供了能在任何地方运行并安全管理数据的灵活性，包括自架系统或地端大型数据中心。

随着各界企业快速进行生成式AI的实验性使用，Supermicro与NVIDIA密切合作，确保完善且灵活地从AI应用的实验和评估试行推动至作业部署和大规模数据中心AI。此顺畅流程是借由NVIDIA AI Enterprise软件平台的机柜、集群级优化而实现，能使从初步探索至可扩展AI落地的过程更流畅无阻。

托管服务涉及基础架构的选择、数据共享和生成式AI策略管控。NVIDIA NIM微服务作为NVIDIA AI Enterprise的一部分，可在无缺陷情况下提供托管生成式AI和开源部署优势。其多功能推论运行环境通过微服务，可加速从开源模型到NVIDIA基础模型等各类型生成式AI的部署。

此外，NVIDIA NeMo可实现通过数据庋用、高端自订和检索增强生成（Retrieval-Augmented Generation，RAG）的定制模型开发，以实现企业级解决方案。与搭配NVIDIA AI Enterprise的Supermicro SuperCluster集成后，NVIDIA NIM能为可扩展、加速型生成式AI作业的部署提供最快途径。

Supermicro目前的生成式AI SuperCluster产品包括：

Supermicro的SuperCluster支持NVIDIA AI Enterprise，其中包括NVIDIA NIM微服务和NVIDIA NeMo平台，能实现端对端生成式AI定制，并针对NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s网速的新型NVIDIA Spectrum-X以太网络平台优化，可扩展到具有数万个GPU的大型运算集群。

Supermicro即将推出的SuperCluster包括：

Supermicro的SuperCluster解决方案针对LLM训练、深度学习以及大规模与大批量推论优化。Supermicro的L11和L12验证测试及现场部署服务可为客户提供无缝顺畅体验。客户收到即插即用的可扩展单元后即可在数据中心轻松部署，进而更缓存得效益。

感谢楼主分享