NVIDIA · NVIDIA HGX AI 運算平台 · AI 伺服器與 GPU 運算
NVIDIA HGX H100
NVIDIA HGX H100 屬於 NVIDIA HGX AI 運算平台，定位為AI 伺服器與 GPU 運算。NVIDIA HGX 為多 GPU 基板平台，透過 NVLink 與 NVSwitch 連接多顆資料中心 GPU，供伺服器廠商打造高密度訓練與推論機型，是大規模 AI 叢集的基礎模組。 上伊美企業網通以企業網路建置為主，規劃 NVIDIA HGX H100 時會先算使用人數與連線設備數，再決定規格，避免上線後頻寬或連接埠不夠。
NVIDIA HGX H100 主要規格
| GPU 數量與型號 | 8 顆 NVIDIA H100 SXM（另有 4 GPU 版本） |
|---|---|
| GPU 記憶體總量 | 640GB HBM3（每顆 80GB） |
| 記憶體頻寬 | 每顆 3.35TB/s，合計 26.8TB/s |
| 互連 | 第三代 NVSwitch＋第四代 NVLink，GPU 間 900GB/s，總頻寬 7.2TB/s |
| 單顆 GPU 功耗 | 最高 700W（可設定） |
| PCIe | 每片基板 8 條 Gen5 x16 |
| 建議處理器 | 至少 2 顆，Intel Xeon 或 AMD EPYC，每顆至少 48 核心 |
| 建議網路 | 每台 8 張 BlueField-3 SuperNIC（最高 400Gbps）＋1 張 BlueField-3 DPU |
規格整理自原廠公開資料：NVIDIA HGX AI Factory Reference Architecture。實際可選配置依原廠與報價為準。
由伺服器廠商整合成 AI 伺服器，適合大型模型訓練、推論與高效能運算。
NVIDIA HGX H100 是什麼機種
NVIDIA HGX H100 是 NVIDIA HGX 產品線 NVIDIA HGX AI 運算平台 的機種，主要用於AI 伺服器與 GPU 運算。NVIDIA HGX 為多 GPU 基板平台，透過 NVLink 與 NVSwitch 連接多顆資料中心 GPU，供伺服器廠商打造高密度訓練與推論機型，是大規模 AI 叢集的基礎模組。
HGX H100 依使用人數的規劃方式
伺服器的使用人數會影響同時連線數與儲存空間：檔案伺服器依每人平均資料量估算容量，並預留成長空間；伺服器應接在速度較高的交換器埠。
網路建置與採購
上伊美企業網通由上伊美有限公司（統編 22446126）經營，可依使用人數與空間提供設備配置建議與報價，並開立統一發票；實際規格以原廠資料為準。
相關機種與企業採購
NVIDIA HGX AI 運算平台 其他機種
常見問題
NVIDIA HGX H100 適合多少人使用？
依使用情境與同時連線數而定，提供人數與使用方式後可建議配置。
可以一起規劃網路與電腦設備嗎？
可以，電腦、伺服器與網通設備可以一起規劃與報價。
可以開統一發票嗎？
可以，上伊美有限公司統編 22446126。
為何向上伊美採購
- 依使用人數規劃配置
- 電腦、伺服器與網通一起報價
- 在政府電子採購網得標 77 案
- 電話 (02)2733-0720 與 LINE 詢價
要採購 NVIDIA HGX H100 或其他企業伺服器與儲存？來電 (02)2733-0720 或加 LINE，上伊美企業網通提供採購諮詢與供應。
資料整理：上伊美企業網通（上伊美有限公司（SUN FIRST MAY COMPANY LIMITED），統編 22446126）。機種規格請以原廠公告為準，內容供採購參考。