近日，NVIDIA宣布推出了下一代 AI 超級計算機芯片，該芯片可能會在深度學習和大型語言模型 (LLM)（例如OpenAI 的 GPT-4 ）的未來突破中發揮重要作用。該技術代表了上一代技術的重大飛躍，有望用于數據中心和超級計算機——處理天氣和氣候預測、藥物發現、量子計算等任務。

據鉍讀網了解，其關鍵產品是基于 NVIDIA“Hopper”架構的 HGX H200 GPU，它是流行的 H100 GPU的替代品。這是該公司首款使用 HBM3e 內存的芯片，速度更快、容量更大，因此更適合大型語言模型。該公司寫道：“借助 HBM3e，NVIDIA H200 以每秒 4.8 TB 的速度提供 141GB 內存，與前身 NVIDIA A100 相比，容量幾乎增加了一倍，帶寬增加了 2.4 倍�！�

就人工智能的優勢而言，NVIDIA 表示，與 H100 相比，HGX H200 在 Llama 2（一個 700 億參數的 LLM）上的推理速度提高了一倍。它將提供 4 路和 8 路配置，與 H100 系統中的軟件和硬件兼容。它將適用于各種類型的數據中心（本地、云、混合云和邊緣），并可由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等進行部署。它預計于 2024 年第二季度上市。

NVIDIA 的另一個關鍵產品是 GH200 Grace Hopper“超級芯片”，它使用該公司的 NVLink-C2C 互連將 HGX H200 GPU 和基于 Arm 的 NVIDIA Grace CPU 結合在一起。NVIDIA 寫道，它專為超級計算機而設計，可讓“科學家和研究人員通過加速運行 TB 數據的復雜 AI 和 HPC 應用程序來解決世界上最具挑戰性的問題”。

該公司表示，GH200 將用于“全球研究中心、系統制造商和云提供商的 40 多臺人工智能超級計算機”，其中包括戴爾、Eviden、惠普企業 (HPE)、聯想、QCT 和 Supermicro。其中值得注意的是 HPE 的 Cray EX2500 超級計算機，它將使用四顆 GH200，可擴展到數萬個 Grace Hopper Superchip 節點。

也許最大的 Grace Hopper 超級計算機將是位于德國于利希工廠的 JUPITER，該計算機將于 2024 年安裝后成為“世界上最強大的人工智能系統”。它采用液冷架構，“帶有由近24,000 個 NVIDIA GH200 超級芯片與 NVIDIA Quantum-2 InfiniBand 網絡平臺互連�！�

NVIDIA表示，JUPITER 將有助于在氣候和天氣預報等多個領域取得科學突破，通過交互式可視化生成高分辨率的氣候和天氣模擬。它還將用于藥物發現、量子計算和工業工程。其中許多領域都使用定制的 NVIDIA 軟件解決方案，以簡化開發，但也使超級計算團隊依賴 NVIDIA 硬件。

新技術對于NVIDIA來說至關重要，該公司目前的大部分收入來自人工智能和數據中心領域。上季度，該公司僅在該領域就實現了創紀錄的 103.2 億美元收入（總收入為 135.1 億美元），比去年同期增長 171%。毫無疑問，它希望新的 GPU 和超級芯片將有助于延續這一趨勢。就在上周，NVIDIA使用較舊的 H100 技術打破了自己的人工智能訓練基準記錄，因此其新技術應該有助于它在已經占據主導地位的領域擴大對競爭對手的領先優勢。