[PRNewswire] 슈퍼마이크로의 액체 냉각식 슈퍼클러스터, 새로운 파라다임 제공

-- 엔비디아 GB200 NVL72와 엔비디아 HGX B200 시스템이 구동하는 AI 데이터센터에 적용
-- 하나의 랙에서 에너지 효율적인 엑사스케일 컴퓨팅을 위한 엔비디아 GB200 NVL72 플랫폼으로 구동
-- 슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션들은 업계로 하여금 엔비디아 블랙웰 플랫폼을 통해 지속 가능한 AI 데이터센터로 전환하도록 견인

산호세, 캘리포니아주 2024년 10월 17일 /PRNewswire=연합뉴스/ -- AI, 클라우드, 스토리지 및 5G/엣지를 공급하는 토탈 IT 솔루션 공급업체 슈퍼마이크로(Supermicro, Inc.)(나스닥: SMCI)는 새로운 AI 인프라의 폭발적으로 늘어나는 에너지 수요에 새로운 파라다임의 에너지 효율을 구현하기 위해 엔비디아 블랙웰 플랫폼을 통해 업계의 액체 냉각식 데이터센터로의 전환을 가속하고 있다.

슈퍼마이크로의 업계 최고의 엔드투엔드 액체 냉각식 솔루션들은 하나의 랙에서 엑사스케일 컴퓨팅을 위한 엔비디아 GB200 NVL72 플랫폼으로 구동되며, 4분기 말 본격 생산을 위한 고객을 선정하기 위해 샘플링을 시작했다. 또한 최근 발표된 슈퍼마이크로 X14 및 H14 4U 액체 냉각식 시스템과 10U 공냉식 시스템은 엔비디아 HGX B200 8GPU 시스템을 위한 생산 준비가 되어 있다.

슈퍼마이크로의 사장 겸 CEO인 찰스 량(Charles Liang)은 "우리는 지속 가능한 AI 컴퓨팅의 미래를 견인하고 있으며, 우리의 액체 냉각식 AI 솔루션들은 2024년 6월 이후 출하된 2천개 이상의 액체 냉각식 랙들을 통해 전 세계에서 가장 야심찬 몇몇 AI 인프라 프로젝트들이 빠르게 채택하고 있다"면서 "슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션은 엔비디아 블랙웰 플랫폼을 통해 하나의 랙에 들어 있는 엑사스케일 컴퓨터인 엔비디아 GB200 NVL72의 일부인 차세대 GPU의 연산 능력, 비용 효율 및 에너지 효율을 높인다. 액체 냉각식 AI 인프라와 종합적인 현장 서비스,관리 소프트웨어와 글로벌 제조 역량을 구축하면서 쌓아온 슈퍼마이크로의 폭넓은 경험은 고객들에게 가장 강력하고 지속 가능한 AI 솔루션들을 통해 데이터센터를 혁신하는 데 있어 확실한 이점을 제공한다"고 말했다.

https://www.supermicro.com/en/solutions/ai-supercluster

엔비디아 GB200 NVL72 플랫폼을 위한 슈퍼마이크로의 액체 냉각식 슈퍼클러스터(SuperClusters)는 새로운 첨단 인랙 또는 인로우 냉각액 분배 장치(CDU)와 1U 폼 팩터에 두 개의 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 수용하는 컴퓨팅 트레이용으로 설계된 맞춤형 콜드 플레이트를 갖추고 있다. 슈퍼마이크로의 엔비디아 GB200 NVL72는 슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션이 탑재된 하나의 랙에 엑사스케일 AI 컴퓨팅 기능을 제공한다. 이 랙 솔루션에는 72개의 엔비디아 블랙웰 GPU와 32개의 엔비디아 그레이스 CPU가 적용되어 있으며, 엔비디아의 5세대 NV링크 네트워크로 상호 연결되어 있다. 엔비디아 NV링크 스위치 시스템은 극도로 짧은 지연 시간을 통해 초당 130테라바이트(TB/s)의 총 GPU 통신을 실현하여 AI와 고성능 컴퓨팅(HPC) 워크로드의 성과를 향상시킨다. 이 외에도 슈퍼마이크로는 최근 발표된 엔비디아 GB200 NVL2 플랫폼, 두 개의 엔비디아 블랙웰 GPU와 두 개의 엔비디아 그레이스 CPU가 타이트하게 결합되고 대규모 LLM 추론, RAG, 데이터 처리, HPC 애플리케이션과 같은 다양한 워크로드에 쉽게 전개할 수 있는 2U 공냉식 시스템을 지원한다.

슈퍼마이크로 최고의 4U 액체 냉각식 시스템과 새로운 10U 공냉식 시스템은 이제 엔비디아 HGX B200 8-GPU 시스템을 지원하며 생산 준비가 완료되었다. 새로 개발된 콜드 플레이트와 250kW 용량의 인랙 냉각액 분배 장치는 8GPU 시스템의 성능과 효율을 극대화하여 하나의 48U 랙에 64개의 1000W 엔비디아 블랙웰 GPU와 16개의 500W CPU를 제공한다. 새로운 10U 공냉식 시스템 최대 4개까지를 하나의 랙에 설치하여 완전히 통합할 수 있는데 이는 이전 세대와 동일한 밀도이면서도 최대 15배의 추론과 3배의 훈련 성능을 제공한다.

슈퍼마이크로의 종합적인 데이터센터 관리 플랫폼인 슈퍼클라우드 컴포저(SuperCloud Composer) 소프트웨어는 압력, 습도, 펌프 및 밸브 상태 등 액체 냉각식 시스템과 랙, 냉각액 분배 장치, 냉각 타워에 대한 핵심 정보를 모니터링할 수 있는 강력한 도구를 제공한다. 슈퍼클라우드 컴포저의 액체 냉각식 컨설트 모듈(LCCM)은 운영 비용을 최적화하고 액체 냉각식 데이터센터들의 무결성을 관리한다.

수 조 단위의 매개변수 AI 모델을 위해 인프라를 확장하는 슈퍼마이크로는 엔비디아 블루필드 (BlueField®)-3 슈퍼NIC와 400Gb/s의 엔비디아 커넥트X(ConnectX®)-7, 엔비디아 커넥트X®-8, 스펙트럼(Spectrum™)-4, 엔비디아 퀀텀(Quantum)-3을 포함하여 인피니밴드와 이더넷 모두에 네트워킹 혁신을 채택하는 데 앞장서서 엔비디아 블랙웰 플랫폼을 위한 800Gb/s의 네트워킹을 구현한다. 슈퍼마이크로의 4U 액체 냉각식 및 8U 공냉식 엔비디아 HGX H100과 H200 시스템 클러스터가 탑재된 엔비디아 스펙트럼-X™ 이더넷은 이제 현재까지 전개된 최대의 AI 중 하나를 구동한다.

슈퍼마이크로는 개념 증명(PoC)부터 본격적인 전개에 이르기까지 필요한 모든 기술, 액체 냉각, 네트워킹 솔루션, 현장 설치 서비스를 제공하는 원스톱 숍이다. 슈퍼마이크로는 다양한 GPU, CPU, 메모리 모듈에 최적화된 맞춤형 콜드 플레이트와 복수의 CDU 폼 팩터 및 용량, 매니폴드, 호스, 커넥터, 냉각 타워, 모니터링 및 관리 소프트웨어를 모두 아우르는 종합적인 자체 설계 액체 냉각 생태계를 구현한다. 이 엔드투엔드 솔루션은 랙 수준의 구성에 원활하게 통합되어 시스템 효율을 크게 높이고 시스템 과열 현상을 완화하며, 이와 동시에 AI 시대에 데이터센터 운영에 들어가는 총소유비용(TCO)과 환경 영향 둘 모두를 줄인다.

2024 OCP 글로벌 서밋에 전시한 슈퍼마이크로 시스템

- 엔비디아 HGX B200 8-GPU 시스템이 탑재된 새로운 X14 4U 액체 냉각식 시스템
- 슈퍼마이크로의 슈퍼클러스터 엔비디아 GB200 NVL72 플랫폼 4
- 엔비디아 HGX H200 8-GPU 시스템이 탑재된 H13 4U 액체 냉각식 시스템
- X14 JBOF 시스템
- OCP DC-MHS 설계가 적용된 X14 1U 클라우드 DC

2024 년 10월 15-17일에 캘리포니아 산호세에서 열리는 OCP 글로벌 서밋 부스 #21에서 상세 정보를 입수하기 바란다.

슈퍼마이크로컴퓨터

슈퍼마이크로 (나스닥: SMCI)는 애플리케이션에 최적화된 토탈 IT 솔루션 분야 글로벌 리더이다. 캘리포니아 산호세에서 설립되어 운영되고 있는 슈퍼마이크로는 엔터프라이즈, 클라우드, AI 및 5G 통신사/엣지 IT 인프라를 위한 혁신 제품을 최초로 출시하고자 하는 의지를 갖고 있다. 당사는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어와 지원 서비스를 공급하는 토탈 IT 솔루션 공급업체이다. 슈퍼마이크의 마더보드, 전원 및 섀시 설계 전문 지식은 또한 당사의 개발 및 생산을 가능하게 하며 전세계 고객들을 위해 클라우드에서 엣지에 이르는 차세대 혁신을 실현한다. 당사 제품들은 사내(미국, 아시아 및 네덜란드)에서 설계 및 제조되며 규모와 효율성을 위해 글로벌 운영을 활용하고 TCO를 개선하고 환경 영향을 줄이도록 최적화되었다(그린 컴퓨팅). 고객들은 수상 경력이 있는 서버 빌딩 블록 솔루션즈(Server Building Block Solutions®)포트폴리오를 통해 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워킹, 전력 및 냉각 솔루션(에어컨, 프리 공냉 또는 액체 냉각)의 종합 세트를 지원하는 당사의 유연하고 재사용 가능한 빌딩 블록으로 구축된 다양한 시스템 제품군 중에서 선택함으로써 자신들의 정확한 워크로드와 애플리케이션을 최적화할 수 있다.

Supermicro, Server Building Block Solutions와 We Keep IT Green은 슈퍼마이크로컴퓨터 주식회사의 상표 및 /혹은 등록 상표이다.

기타 모든 브랜드, 명칭과 상표들은 그들 각 소유자들의 재산이다.

사진 - //mma.prnewswire.com/media/2531103/Supermicro_Nvidia_Blackwell_AI.jpg
Nvidia Blackwell AI End-to-End Solutions

로고 - //mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg

출처: Super Micro Computer, Inc.

Supermicro's Liquid-Cooled SuperClusters for AI Data Centers Powered by NVIDIA GB200 NVL72 and NVIDIA HGX B200 Systems, Deliver a New Paradigm of Energy-Efficient Exascale Computing

-- Supermicro's End-to-End Liquid-Cooled Solutions Propel Industry's Transition to Sustainable AI Data Centers with the NVIDIA Blackwell Platform

SAN JOSE, Calif., Oct. 17, 2024 /PRNewswire/ -- Supermicro, Inc. (NASDAQ: SMCI), a Total IT Solution Provider for AI, Cloud, Storage, and 5G/Edge, is accelerating the industry's transition to liquid-cooled data centers with the NVIDIA Blackwell platform to deliver a new paradigm of energy-efficiency for the rapidly heightened energy demand of new AI infrastructures. Supermicro's industry-leading end-to-end liquid-cooling solutions are powered by the NVIDIA GB200 NVL72 platform for exascale computing in a single rack and have started sampling to select customers for full-scale production in late Q4. In addition, the recently announced Supermicro X14 and H14 4U liquid-cooled systems and 10U air-cooled systems are production-ready for the NVIDIA HGX B200 8-GPU system.

"We're driving the future of sustainable AI computing, and our liquid-cooled AI solutions are rapidly being adopted by some of the most ambitious AI Infrastructure projects in the world with over 2000 liquid-cooled racks shipped since June 2024," said Charles Liang, president and CEO of Supermicro. "Supermicro's end-to-end liquid-cooling solution, with the NVIDIA Blackwell platform, unlocks the computational power, cost-effectiveness, and energy-efficiency of the next generation of GPUs, such as those that are part of the NVIDIA GB200 NVL72, an exascale computer contained in a single rack. Supermicro's extensive experience in deploying liquid-cooled AI infrastructure, along with comprehensive on-site services, management software, and global manufacturing capacity, provides customers a distinct advantage in transforming data centers with the most powerful and sustainable AI solutions."

https://www.supermicro.com/en/solutions/ai-supercluster

Supermicro's liquid-cooled SuperClusters for NVIDIA GB200 NVL72 platform-based systems feature the new advanced in-rack or in-row coolant distribution units (CDUs), and custom cold plates designed for the compute tray housing two NVIDIA GB200 Grace Blackwell Superchips in a 1U form factor. Supermicro's NVIDIA GB200 NVL72 delivers exascale AI computing capabilities in a single rack with Supermicro's end-to-end liquid-cooling solution. The rack solution incorporates 72 NVIDIA Blackwell GPUs and 32 NVIDIA Grace CPUs, interconnected by NVIDIA's fifth generation NVLink network. The NVIDIA NVLink Switch system facilitates 130 terabytes per second (TB/s) of total GPU communication with extremely low latency, enhancing performance for AI and high-performance computing (HPC) workloads. In addition, Supermicro supports recently announced NVIDIA GB200 NVL2 platform, 2U air-cooled system featuring tightly coupled two NVIDIA Blackwell GPUs and two NVIDIA Grace CPUs that is suited for easy deployment with diverse workloads such as large LLM inference, RAG, data processing, and HPC applications.

Supermicro's leading 4U liquid-cooled systems and the new 10U air-cooled systems now support the NVIDIA HGX B200 8-GPU system and are ready for production. The newly developed cold plates and the 250kW capacity in-rack coolant distribution unit maximize the performance and efficiency of the 8-GPU systems, providing 64x 1000W NVIDIA Blackwell GPUs and 16x 500W CPUs in a single 48U rack. Up to 4 of the new 10U air-cooled systems can be installed and fully integrated in a rack, the same density as the previous generation, while providing up to 15x inference and 3x training performance.

SuperCloud Composer software, Supermicro's comprehensive data center management platform, provides powerful tools to monitor vital information on liquid-cooled systems and racks, coolant distribution units, and cooling towers, including pressure, humidity, pump and valve conditions, and more. SuperCloud Composer's Liquid Cooling Consult Module (LCCM) optimizes the operational cost and manages the integrity of liquid-cooled data centers.

Scaling the infrastructure for multi-trillion parameter AI models, Supermicro is at the forefront of adopting networking innovations for both InfiniBand and Ethernet, including NVIDIA BlueField®-3 SuperNICs and NVIDIA ConnectX®-7 at 400Gb/s, NVIDIA ConnectX®-8, Spectrum™-4, and NVIDIA Quantum-3 to enable 800Gb/s networking for the NVIDIA Blackwell platform. The NVIDIA Spectrum-X™ Ethernet with Supermicro's 4U liquid-cooled and 8U air-cooled NVIDIA HGX H100 and H200 system clusters now powers one of the largest AI deployments to date.

From proof-of-concept (PoC) to full-scale deployment, Supermicro is a one-stop shop, providing all necessary technologies, liquid-cooling, networking solutions, and onsite installation services. Supermicro delivers a comprehensive, in-house-designed liquid-cooling ecosystem, encompassing custom-designed cold plates optimized for various GPUs, CPUs, and memory modules, along with multiple CDU form factors and capacity, manifolds, hoses, connectors, cooling towers, and monitoring and management software. This end-to-end solution seamlessly integrates into rack-level configurations, significantly boosting system efficiency, mitigating thermal throttling, and simultaneously reducing both the Total Cost of Ownership (TCO) and environmental impact of data center operations for the era of AI.

Supermicro at 2024 OCP Global Summit

- New X14 4U liquid-cooled system with NVIDIA HGX B200 8-GPU system
- Supermicro's SuperCluster NVIDIA GB200 NVL72 Platform 4
- H13 4U liquid-cooled system with NVIDIA HGX H200 8-GPU system
- X14 JBOF system
- X14 1U CloudDC with OCP DC-MHS design

Learn more at OCP Global Summit Booth #21, San Jose, California, October 15-17, 2024.

About Super Micro Computer, Inc.

Supermicro (NASDAQ: SMCI) is a global leader in Application-Optimized Total IT Solutions. Founded and operating in San Jose, California, Supermicro is committed to delivering first to market innovation for Enterprise, Cloud, AI, and 5G Telco/Edge IT Infrastructure. We are a Total IT Solutions provider with server, AI, storage, IoT, switch systems, software, and support services. Supermicro's motherboard, power, and chassis design expertise further enable our development and production, enabling next generation innovation from cloud to edge for our global customers. Our products are designed and manufactured in-house (in the US, Asia, and the Netherlands), leveraging global operations for scale and efficiency and optimized to improve TCO and reduce environmental impact (Green Computing). The award-winning portfolio of Server Building Block Solutions® allows customers to optimize for their exact workload and application by selecting from a broad family of systems built from our flexible and reusable building blocks that support a comprehensive set of form factors, processors, memory, GPUs, storage, networking, power, and cooling solutions (air-conditioned, free air cooling or liquid cooling).

Supermicro, Server Building Block Solutions, and We Keep IT Green are trademarks and/or registered trademarks of Super Micro Computer, Inc.

All other brands, names, and trademarks are the property of their respective owners.

Photo - //mma.prnewswire.com/media/2531103/Supermicro_Nvidia_Blackwell_AI.jpg
Nvidia Blackwell AI End-to-End Solutions

Logo - //mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg

Source: Super Micro Computer, Inc.

출처 : PRN 보도자료