NVIDIA Rubin平台登場：AI資料中心進入「機櫃即晶片」時代
GTC大會與Rubin平台發布
GTC 向來是 AI 與 GPU 技術的年度重頭戲。
今年最大亮點，無疑是 Rubin 運算平台。
市場之所以高度期待，原因很簡單：AI 計算需求正以驚人的速度成長。
大型 AI 模型、生成式 AI、推論服務，都需要龐大的運算能力。
因此整個產業正在尋找新的運算架構。
AI五層蛋糕架構
黃仁勳提出一個相當形象的概念——AI 五層蛋糕。
| 層級 | 內容 | 說明 |
|---|
| 能源 | 電力供應 | AI需要巨大電力 |
| 晶片 | CPU與GPU | AI運算核心 |
| 基礎設施 | 資料中心 | 整體計算平台 |
| 模型 | AI演算法 | 訓練與推論 |
| 應用 | AI服務 | 生成式AI、搜尋、機器人 |
這個模型的重點是：AI發展不只是晶片競賽。
整個基礎建設都要同步升級。
Rubin平台核心晶片
Rubin平台由多款新晶片組成。
| 晶片 | 用途 | 特色 |
|---|
| Vera CPU | AI運算 | 88個Arm核心 |
| Rubin GPU | AI訓練 | 3奈米製程 |
| NVLink 6 | 高速互連 | 260TB頻寬 |
| BlueField-4 | DPU | 資料處理 |
| Rubin CPX | AI推論 | GDDR7記憶體 |
其中 GPU 仍由的先進製程製造。
AI資料中心架構改變
AI資料中心的架構正在快速演變。
過去資料中心的核心是伺服器。
但現在情況不同。
GPU集群已經變成主要運算核心。
機櫃即晶片
輝達提出一個新的概念：
「Rack is the new chip」
意思是說，未來運算單位不再只是單顆晶片。
而是一整個機櫃。
AI工廠與液冷技術
AI資料中心的另一個關鍵問題是散熱。
因此新一代資料中心開始導入液冷技術。
| 散熱方式 | 優點 | 缺點 |
|---|
| 風冷 | 成本低 | 效率有限 |
| 液冷 | 散熱效率高 | 成本較高 |
未來AI基礎建設趨勢
結論
Rubin平台的推出，象徵 AI 基礎建設進入新的階段。
從晶片、網路到資料中心設計，整個產業都在重新定義運算架構。
而在這個過程中，台灣供應鏈仍然扮演不可或缺的角色。
未來幾年，AI資料中心投資規模可能持續擴大。
這不只是科技產業的機會，也可能是全球產業結構的一次重大轉變。