廣達 AI 伺服器怎麼做？QCT、GB200 NVL72、液冷與 ODM Direct

廣達 AI 伺服器怎麼做？QCT、GB200 NVL72、液冷與 ODM Direct

廣達的 AI 伺服器競爭力，不只在把 GPU 裝進伺服器，而在 QCT 把 Compute、Network、Power、Rack、Liquid Cooling 與管理軟體組成可以真正部署的資料中心系統。AI 時代提高的不是單一機器規格，而是整櫃交付、驗證、散熱、網路與維修的複雜度。

Quanta Cloud Technology（QCT）是廣達體系的資料中心解決方案平台。它把廣達長期累積的 ODM 工程與全球製造能力，延伸到 Hyperscale Data Center、AI／HPC、Storage、Network Switch 與 Rack-level Infrastructure。這篇只處理技術與供應鏈，不再重複林百里的創業生平與接班議題。

實體索引｜AI 硬體、伺服器與品牌實體

• 公司、產品與技術：廣達AI伺服器怎麼做？QCT、GB200 NVL72、液冷與ODM Direct；核對廣達／QCT／華碩、AI 伺服器、GB200 NVL72、液冷、ODM Direct、主機板／ROG／AI PC、客戶與年份。
• 原文錨點：廣達的 AI 伺服器競爭力，不只在把 GPU 裝進伺服器，而在 QCT 把 Compute、Network、Power、Rack、Liquid Cooling 與管理軟體組成可以真正部署的資料中心系統。 AI 時代提高的不是單一機器規格，而是整櫃交付、驗證、散熱、網路與維修的複雜度。 Quanta Cloud Technology（QCT）是廣達體系的資料中心解決方案平台。它把廣達長期累積的 ODM 工程與全球製造能力，延伸到 Hyperscale Data Center、A
• 技術脈絡：把 GPU／伺服器、機櫃、液冷、主機板、品牌、供應鏈、客戶驗證與交付連回硬體系統。
• 編輯界線：區分規格、公司定位、供應鏈推估與市場宣稱；「全球」或「品牌戰」需標明產品與時間。

重點快讀

• AI Server 不是單一 GPU 產品，而是 Compute、Network、Power、Cooling、Rack 與 Software 的共同系統。
• QCT 提供 Server、Storage、Switch、Integrated Rack 與 Management Software，位置比單純組裝更靠近資料中心系統整合。
• NVIDIA GB200 NVL72 是 Rack-level AI System，需要 Compute Tray、NVLink、Power 與液冷共同工作。
• QCT 已公開 GB200 NVL72 direct-to-chip liquid cooling 方案，官方資料顯示單櫃冷卻需求已進入數十 kW 等級。
• ODM Direct 讓製造商更直接服務 Hyperscaler 與企業資料中心，同時也提高客戶集中、驗收、支援與營運資金風險。
• AI Server 單價更高，不代表毛利一定更高；高價 GPU、HBM、Switch 與液冷設備也會放大存貨與現金需求。

QCT和傳統伺服器代工有什麼不同？

傳統代工可以從一台伺服器的主機板、機構、電源與組裝理解。QCT 面對的問題更接近資料中心：客戶要部署的通常不是一台機器，而是一批 Server、Storage、Network Switch、Rack 與 Software Management。

因此 QCT 的產品線包含 QuantaGrid Server、QuantaPlex Multi-node System、Storage、QuantaMesh Network Switch、Integrated Rack 與管理工具。競爭單位從單機 BOM 擴大到整個 Infrastructure Stack。

ODM Direct為什麼在雲端時代變重要？

大型 Cloud Service Provider 不一定需要傳統品牌伺服器的零售通路與外觀設計，它們更在意 Energy Efficiency、Serviceability、Rack Density、Open Architecture 與 Total Cost of Ownership。

ODM Direct 讓資料中心客戶直接和設計製造商合作，減少中間層，也讓供應商更早參與機構、散熱、電源、韌體與 Rack Design。代價是製造商必須直接承擔更多驗證、支援與客戶集中責任。

AI Server到底多了哪些系統層？

系統層	主要元件	整合難點
Compute	GPU、CPU、HBM、NVLink／PCIe	高功率、訊號完整性、Firmware、組裝與測試
Network	NIC、SuperNIC、Switch、Optics	頻寬、延遲、拓撲、Cable Management
Power	Power Shelf、Busbar、PSU、Backup	瞬時負載、效率、安全與冗餘
Cooling	Cold Plate、Manifold、CDU、管路	漏液、流量、溫度、水質與維修
Rack	Compute Tray、Switch Tray、Power、Cable	重量、安裝、Serviceability與現場部署
Cluster	Management、Scheduler、Monitoring	跨節點穩定、故障隔離與資源利用率

GB200 NVL72為什麼不是「一台伺服器」？

NVIDIA GB200 NVL72 是 Rack-level Architecture。QCT 公開資料顯示，系統以多個 Compute Tray 與 NVLink 架構組成，並使用 direct-to-chip liquid cooling。這種產品的交付單位已經從單台 Server 往完整 Rack 移動。

這會改變供應鏈風險。只要 GPU、Switch、Power、Connector、Cold Plate 或其他關鍵元件其中一項延遲，整個 Rack 都可能無法完成驗收。單案價值提高，缺料造成的營收遞延也會更大。

液冷為什麼從選配變成核心工程？

GPU 功耗與 Rack Density 持續提高後，傳統風冷能處理的熱通量逐漸逼近極限。Direct-to-chip liquid cooling 會用 Cold Plate 直接帶走 CPU／GPU 熱量，再透過 Manifold、Coolant Loop 與 CDU 把熱排出。

QCT 的 GB200 NVL72 QoolRack 技術資料顯示，GB200 Tray 採 direct-to-chip liquid cooling；相關 Stand-alone Cooling System 可處理高達 75 kW 的熱量，單 Rack 流量需求最高可達約 130 LPM。這已經不是「替伺服器多裝一條水管」，而是資料中心機電系統的一部分。

液冷可以提高運算密度並降低部分 Fan Power，但會增加 Leak Detection、Connector Reliability、水質、維修程序與 Data Center Plumbing 的複雜度。任何一個環節失效，都可能直接影響昂貴 GPU System。

Network為什麼和GPU一樣重要？

大型 AI Training 不只需要單顆 GPU 快，而是大量 Accelerator 能快速交換資料。Network Topology、Switch Bandwidth、NIC、Optics 與 Cabling 會直接影響 GPU Utilization。

QCT 的 Data Center Portfolio 同時涵蓋 Server 與 QuantaMesh Switch，反映 AI Infrastructure 的競爭正在從「單台算力」轉成「整個 Cluster 能不能有效率地工作」。如果 Network 成為瓶頸，再昂貴的 GPU 也可能長時間等待資料。

Power為什麼成為AI機櫃的新瓶頸？

AI Rack 的功率需求已遠高於傳統 Enterprise Server。高密度系統需要重新設計 Power Shelf、Busbar、Redundancy、Conversion Efficiency 與機房配電。電力問題不只存在資料中心外部，也一路延伸到 Rack 內部。

因此 AI Server ODM 必須同時理解 IT Hardware 與 Data Center Physical Infrastructure。這也是 Rack-level Solution 比單台 Server 更難複製的原因之一。

整櫃交付如何改變製造流程？

單台伺服器可以在工廠測試後裝箱出貨；完整 AI Rack 則需要在出貨前處理更多 Cable、Firmware、Network、Power、Liquid Loop 與 System-level Burn-in。

產品越接近完整 Rack，工廠就越需要大型測試空間、高功率電力、冷卻設備與更複雜的故障追蹤。這會提高進入門檻，也會提高資本支出與產能利用率風險。

AI伺服器高單價，為什麼不等於高毛利？

• GPU、HBM 與 Network Component 本身價值高，但很多關鍵技術與定價不由 ODM 控制。
• Hyperscaler 採購規模巨大，通常也具有很強議價能力。
• 高價零件會同步放大 Inventory、Accounts Receivable 與 Working Capital。
• 新品切換速度快，一旦驗收延遲，庫存風險也更高。
• 液冷與整櫃服務增加工程價值，也增加 Warranty 與現場支援責任。

所以判斷 AI Server 供應商，不能只看營收與出貨台數。更需要看產品組合、營業利益、現金流、存貨、客戶集中與整櫃服務能不能形成持續附加價值。

QCT真正要證明的是什麼？

QCT 已經能展示 Server、Switch、Integrated Rack 與 Liquid Cooling。下一步真正重要的是這些能力能不能在不同 GPU Generation、不同 Cloud Customer 與不同 Data Center 持續複製。

AI 基礎設施的技術週期很短。今天的 Blackwell Architecture 很快就會進入下一代平台，因此真正的護城河不是一個型號，而是 NPI、Validation、Supply Chain、Factory、Rack Integration 與 Field Support 能不能持續跟著架構更新。

常見問題

QCT和廣達是什麼關係？

QCT（Quanta Cloud Technology）是廣達體系的資料中心與雲端解決方案平台，提供 Server、Storage、Network Switch、Integrated Rack 與管理軟體。

GB200 NVL72是一台伺服器嗎？

更準確地說，它是 Rack-level AI System，由多個 Compute／Switch 元件、Power、Network 與 Liquid Cooling 共同組成。

AI Server一定要液冷嗎？

不是所有 AI Server 都必須液冷，但當 GPU 功耗與 Rack Density 提高，direct-to-chip liquid cooling 會成為高密度架構的重要方案。實際採用仍取決於 Platform、Power Density 與 Data Center Design。

ODM Direct是什麼？

ODM Direct 指大型資料中心客戶更直接和設計製造商合作，降低傳統品牌伺服器中間層。它能提高共同設計程度，也提高供應商對支援、驗收與客戶集中的直接曝險。

想了解林百里本人，應該看哪篇？

林百里的創業、梁次震分工、持股、董事會與接班議題，另見〈林百里是誰？從筆電ODM、QCT雲端伺服器到AI Factory〉。本篇只處理廣達／QCT的AI Server技術與供應鏈。

資料來源

• QCT：NVIDIA Blackwell、GB200 NVL72與液冷系統
• QCT：GB200 NVL72 QoolRack液冷技術資料
• QCT：Data Center Management Tools
• QCT：Data Center Networking產品