生成AIのニュースでは、NVIDIAのGPUが注目されがちです。しかし、GPUを買うだけではAIは動きません。
GPUをAIサーバーに組み込み、ラックに並べ、電源を供給し、熱を冷やし、GPU同士やサーバー同士を高速ネットワークでつなぐ必要があります。
今回は、Supermicro、Dell、HPEのようなサーバーメーカー、FoxconnやQuantaなどのODM企業、そしてスイッチ、NIC、光トランシーバーといったネットワーク機器の役割を整理します。
AIサーバーは、GPUやメモリなどの半導体だけでなく、ネットワーク、冷却、電源、ラック設計が組み合わさって成り立つ複雑な産業製品です。
AIインフラの競争は、GPU単体の性能競争から、サーバー、ラック、冷却、電力、ネットワークを含めたシステム全体の競争へ広がっています。
出典一覧・IDC, “Artificial Intelligence Infrastructure Spending to Reach $758Bn by 2029”・IDC, “Artificial Intelligence Infrastructure Spending to Surpass the $100 Billion Mark by 2028”・NVIDIA, “GB200 NVL72”・NVIDIA, “NVIDIA Partners with World’s Top Server Manufacturers to Advance AI Cloud Computing”・NVIDIA, “Spectrum-X Ethernet Platform for AI Networking”・Supermicro, “NVIDIA GB200 NVL72 SuperCluster”・Dell Technologies, “Dell Technologies Expands Dell AI Factory with NVIDIA to Turbocharge AI Adoption”・HPE, “AI Compute NVIDIA GB300 NVL72 by HPE / NVIDIA GB200 NVL72 by HPE”・QCT, “QCT Announces First Shipment of its NVIDIA GB200 NVL72 System”・Omdia, “Omdia projects Foxconn to become the world’s largest server vendor”