騰訊云AIGC存儲解決方案全面升級 搭載自研引擎讓研發效率翻倍
隨著人工智能技術的飛速發展，大規模模型已成為推動AI應用領域進步的關鍵。4月8日，騰訊云宣布云存儲解決方案面向AIGC場景全面升級，能夠針對AI大模型數據采集清洗、訓練、推理、數據治理全流程提供全面、高效的云存儲支持。數據顯示，采用騰訊云AIGC云存儲解決方案，可將大模型的數據清洗和訓練效率均提升一倍，需要的時間縮短一半。
騰訊集團副總裁、騰訊云與智慧產業事業群COO兼騰訊云總裁邱躍鵬曾經表示，大模型將開創下一代云服務，騰訊云致力于打造“最適合大模型的云”。目前，已經有80%的頭部大模型企業選擇了騰訊云AIGC云存儲解決方案，包括百川智能、智譜、元象等明星大模型企業。
剖析騰訊云的AI云存儲解決方案產品組成
騰訊云AIGC云存儲解決方案主要由多款產品組成，包括對象存儲COS、高性能并行文件存儲CFS Turbo、數據加速器GooseFS和數據萬象CI等。其中，COS支持百EB級別的存儲規模，提供多種協議支持，滿足大規模數據采集需求；而CFS Turbo在模型訓練環節，通過自研技術實現了每秒總讀寫吞吐達到TiB/s級別的性能，極大地提升了訓練效率。
AI大規模模型的研發生產流程面臨著諸多挑戰，包括數據采集清洗、模型訓練和推理等多個環節。針對這些難題，騰訊云提出了一系列解決方案。例如，在數據清洗環節，通過自研的數據加速器GooseFS，實現了高達數TBps的讀取帶寬，極大地提升了數據清洗效率。在模型訓練環節，CFS Turbo的優化更是將3TB checkpoint寫入時間從10分鐘縮短至10秒內，有效提高了訓練效率。
其中，騰訊云對象存儲COS支持單集群管理百 EB 級別存儲規模，提供便捷、高效的數據公網接入能力，并支持多種協議，充分支持大模型PB級別的海量數據采集。在數據清洗環節，大數據引擎需要快速地讀取并過濾出有效數據，COS通過自研數據加速器GooseFS提升數據訪問性能，可實現高達數TBps的讀取帶寬，支撐計算高速運行，大大提升數據清洗效率。
在模型訓練環節，通常需要每2-4小時保存一次訓練成果，以便能在GPU故障時時能回滾，因此快速地讀寫checkpoint（檢查點）文件也成了能否高效利用算力資源、提高訓練效率的關鍵。
騰訊云自主研發并行文件存儲CFS Turbo ，面向AIGC訓練場景的進行了專門優化，每秒總讀寫吞吐達到TiB/s級別，每秒元數據性能高達百萬OPS，均為業界第一。3TB checkpoint 寫入時間從10分鐘，縮短至10秒內，使大模型訓練效率大幅提升。
大模型推理場景對數據安全與可追溯性提出更高要求。騰訊云數據萬象CI為此提供圖片隱式水印、AIGC內容審核、智能數據檢索MetaInsight等能力，為數據生產從“用戶輸入——預處理——內容審核——版權保護——安全分發——信息檢索“業務全流程提供有力支撐，優化AIGC內容生產與管理模式，順應監管導向，拓寬存儲邊界。
同時，隨著訓練數據和推理數據的增長，需要提供低成本的存儲能力，減少存儲開銷。對象存儲服務提供了高達 12 個 9 的數據持久性和 99.995% 的數據可用性，能夠為業務提供持續可用的存儲服務。
起底騰訊云自主研發存儲引擎
騰訊云的卓越性能得益于自主研發的存儲引擎與技術。作為國內唯一實現存儲引擎全面自研的云存儲解決方案，騰訊云憑借其分布式對象存儲引擎YottaStore和并行文件存儲系統CFS Turbo等自研技術，在性能、可靠性和成本等方面都具備了顯著優勢。
騰訊云自研的分布式對象存儲引擎YottaStore，支持任意多副本及糾刪碼冗余模式并存，在大幅提升可用性、可靠性及性能的同時大幅降低成本�；赮ottaStore，騰訊云對象存儲服務COS作為統一的數據存儲池，支持單集群1萬臺服務器，單集群百EB級的存儲。
在數據清洗環節中，數據加速器GooseFS可根據數據的使用頻率，將數據智能存儲至內存、計算集群的本地盤、或可用區的全閃存儲集群等不同級別的緩存中，低成本縮短IO路徑，提升數據訪問性能。相比起從對象存儲COS中直接讀取，GooseFS可以提供亞毫秒級的數據訪問延遲、百萬級的IOPS和Tbps級別的吞吐能力，有效提升數據清洗效率。
面向模型訓練場景的CFS Turbo，則是目前業內唯一自研的并行文件存儲系統。
基于自研分布式高性能存儲引擎Histor，CFS Turbo底層通過自研用戶態協議棧和RDMA等技術，減少數據的多次拷貝與虛擬化消耗，大幅降低了存儲時延、提升吞吐性能；在應用側，CFS Turbo自研并行文件傳輸協議，實現了多鏈路并行訪問，大大提升了吞吐效率。原來的文件存儲受限于傳統NFS協議，單客戶端只能單鏈路訪問，也導致吞吐存在性能瓶頸。
此外，針對AIGC的checkpoint記錄、大視頻文件讀寫、小圖片讀寫等場景，騰訊云CFS Turbo還自研了分級緩存、自適應條帶化、分布式元數據的技術，大幅提升了AIGC場景下的讀寫性能。除了大模型企業以外，CFS Turbo也被廣泛應用于自動駕駛與工業仿真場景，包括博世汽車、蔚來等自動駕駛廠商，上海電氣、深勢等仿真場景，墨鏡天合、追光等影視特效場景。
寫在最后：
在人工智能時代的浪潮中，大規模模型已成為推動科技創新和產業發展的核心引擎。有數據機構表示，在2023年中國云存儲解決方案市場報告中，騰訊云存儲入選“領導者”陣營，位列第一。隨著AI時代的到來，騰訊云不斷迭代優化自身產品，服務最新場景需求，助力企業把握時代紅利。
作為中國領先的云計算服務提供商，騰訊云以自主研發的先進技術和全面的解決方案，為AI時代的到來鋪設了堅實的基礎，為企業的創新和發展注入了新的活力與動力。未來，隨著人工智能技術的不斷發展，騰訊云將繼續致力于打造更適合大規模模型的云服務，為AI應用的發展提供持續支持。
