deepseek公布大語言模型部署方法專利
天眼查App顯示,近日,deepseek關聯公司杭州深度求索人工智能基礎技術研究有限公司申請的“一種大語言模型的部署方法及系統”專利公布。
摘要顯示,該發明涉及人工智能領域,有益效果在于將預填充階段和解碼階段分別部署在高性能計算能力和大內存的機器上,均衡負載任務,實現最大化的硬件利用,減少閑置算力,降低整體延遲,提高吞吐量,增強系統的擴展性和容錯性。
天眼查App顯示,近日,deepseek關聯公司杭州深度求索人工智能基礎技術研究有限公司申請的“一種大語言模型的部署方法及系統”專利公布。
摘要顯示,該發明涉及人工智能領域,有益效果在于將預填充階段和解碼階段分別部署在高性能計算能力和大內存的機器上,均衡負載任務,實現最大化的硬件利用,減少閑置算力,降低整體延遲,提高吞吐量,增強系統的擴展性和容錯性。
deepseek公布大語言模型部署方法專利
2025-08-01 17:41:33 瀏覽量: 49 作者: 棠糖
天眼查App顯示,近日,deepseek關聯公司杭州深度求索人工智能基礎技術研究有限公司申請的“一種大語言模型的部署方法及系統”專利公布。
摘要顯示,該發明涉及人工智能領域,有益效果在于將預填充階段和解碼階段分別部署在高性能計算能力和大內存的機器上,均衡負載任務,實現最大化的硬件利用,減少閑置算力,降低整體延遲,提高吞吐量,增強系統的擴展性和容錯性。
Copyright ©2018 鉍讀網 All Rights Reserved.
京ICP備18051707號 京公網安備 11011302001633號