欧美三级不卡/成人97视频/四虎成人精品永久免费av九九 /国产一区二区精品91 - 成人三级在线播放

英偉達展示 Blackwell GPU 在 AI 訓練中的強大性能 比 Hopper 快 2.2 倍

2024-11-14 10:25:12   |   探索者   |   1430

近日,據科技媒體報道,英偉達(NVIDIA)于 11 月 13 日首次公布了其新一代 Blackwell GPU 在 MLPerf v4.1 AI 訓練工作負載中的成績,結果令人印象深刻。Blackwell GPU 在訓練 Llama 2 70B(微調)模型時,相比上一代 Hopper H100 GPU,表現出 2.2 倍的性能提升,標志著英偉達在 AI 加速領域的一次重大飛躍。

隨著人工智能領域對計算能力需求的指數級增長,AI 模型的訓練和推理性能已成為衡量硬件加速器的重要標準。英偉達在此次發布的基準測試中展示了 Blackwell GPU 在多個常見 AI 訓練工作負載中的卓越表現。主要的測試模型包括:Llama 2 70B(大規模語言模型微調)、Stable Diffusion(文本到圖像生成)、DLRMv2(推薦系統)、BERT(自然語言處理)、RetinaNet(目標檢測)、GPT-3 175B(大規模語言模型預訓練)、R-GAT(圖神經網絡)。

根據英偉達的官方聲明,Blackwell GPU 采用了一系列設計創新,旨在大幅提升每個 GPU 的計算吞吐量。特別是,Blackwell 配備了更大更快的高帶寬內存,這使其在不降低性能的情況下,能夠在更少的 GPU 數量上運行更復雜的 AI 模型。例如,在 GPT-3 175B 基準測試中,64 張 Blackwell GPU 的性能可以媲美 256 張 Hopper GPU。

這一技術優勢使得 Blackwell 在多個關鍵性能指標上超越了 Hopper H100 GPU,尤其是在處理大規模 AI 模型訓練時,其效率和性能優勢十分明顯。英偉達指出,這一進步對于數據中心級別的應用至關重要,能夠顯著提升 AI 訓練的速度和成本效益。

雖然 Blackwell GPU 的表現令人矚目,但英偉達的 Hopper H100 GPU 也在持續優化中取得了顯著進展。自發布以來,Hopper GPU 在多次軟件更新中提升了性能,尤其是在大規模語言模型(LLM)預訓練任務中,H100 GPU 在 GPT-3 訓練中的表現提升了約 70%。英偉達還利用 11616 個 H100 GPU 提交了 MLPerf 的最大規模基準測試,進一步驗證了其在大規模 AI 訓練中的強大能力。

特別提醒:本網信息來自于互聯網,目的在于傳遞更多信息,并不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字、圖片等內容的真實性、完整性、及時性本站不作任何保證或承諾,請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益,請及時發送相關信息至bireading@163.com,本站將會在48小時內處理完畢。

英偉達展示 Blackwell GPU 在 AI 訓練中的強大性能 比 Hopper 快 2.2 倍

2024-11-14 10:25:12 瀏覽量: 1430 作者: 探索者

近日,據科技媒體報道,英偉達(NVIDIA)于 11 月 13 日首次公布了其新一代 Blackwell GPU 在 MLPerf v4.1 AI 訓練工作負載中的成績,結果令人印象深刻。Blackwell GPU 在訓練 Llama 2 70B(微調)模型時,相比上一代 Hopper H100 GPU,表現出 2.2 倍的性能提升,標志著英偉達在 AI 加速領域的一次重大飛躍。

隨著人工智能領域對計算能力需求的指數級增長,AI 模型的訓練和推理性能已成為衡量硬件加速器的重要標準。英偉達在此次發布的基準測試中展示了 Blackwell GPU 在多個常見 AI 訓練工作負載中的卓越表現。主要的測試模型包括:Llama 2 70B(大規模語言模型微調)、Stable Diffusion(文本到圖像生成)、DLRMv2(推薦系統)、BERT(自然語言處理)、RetinaNet(目標檢測)、GPT-3 175B(大規模語言模型預訓練)、R-GAT(圖神經網絡)。

根據英偉達的官方聲明,Blackwell GPU 采用了一系列設計創新,旨在大幅提升每個 GPU 的計算吞吐量。特別是,Blackwell 配備了更大更快的高帶寬內存,這使其在不降低性能的情況下,能夠在更少的 GPU 數量上運行更復雜的 AI 模型。例如,在 GPT-3 175B 基準測試中,64 張 Blackwell GPU 的性能可以媲美 256 張 Hopper GPU。

這一技術優勢使得 Blackwell 在多個關鍵性能指標上超越了 Hopper H100 GPU,尤其是在處理大規模 AI 模型訓練時,其效率和性能優勢十分明顯。英偉達指出,這一進步對于數據中心級別的應用至關重要,能夠顯著提升 AI 訓練的速度和成本效益。

雖然 Blackwell GPU 的表現令人矚目,但英偉達的 Hopper H100 GPU 也在持續優化中取得了顯著進展。自發布以來,Hopper GPU 在多次軟件更新中提升了性能,尤其是在大規模語言模型(LLM)預訓練任務中,H100 GPU 在 GPT-3 訓練中的表現提升了約 70%。英偉達還利用 11616 個 H100 GPU 提交了 MLPerf 的最大規模基準測試,進一步驗證了其在大規模 AI 訓練中的強大能力。

,

Copyright ©2018 鉍讀網 All Rights Reserved.

京ICP備18051707號

京公網安備 11011302001633號