小鵬汽車(chē)公布大語(yǔ)言模型訓(xùn)練方法專利 可降低模型訓(xùn)練成本
天眼查財(cái)產(chǎn)線索信息顯示,5月30日,廣州小鵬汽車(chē)科技有限公司申請(qǐng)的“大語(yǔ)言模型的訓(xùn)練方法、語(yǔ)音交互方法和服務(wù)器”專利公布。
摘要顯示,本申請(qǐng)公開(kāi)了一種用于車(chē)輛語(yǔ)音交互的大語(yǔ)言模型的訓(xùn)練方法、語(yǔ)音交互方法、服務(wù)器和計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。方法包括:獲取車(chē)輛知識(shí)信息,車(chē)輛知識(shí)信息包括車(chē)輛功能點(diǎn)的功能點(diǎn)信息及車(chē)輛功能點(diǎn)之間的關(guān)聯(lián)信息。基于預(yù)設(shè)掩碼語(yǔ)言模型,根據(jù)車(chē)輛知識(shí)信息,生成第一訓(xùn)練數(shù)據(jù)。根據(jù)第一訓(xùn)練數(shù)據(jù)對(duì)基座模型進(jìn)行訓(xùn)練,以得到大語(yǔ)言模型。如此,根據(jù)生成的第一訓(xùn)練數(shù)據(jù)對(duì)基座模型進(jìn)行增量預(yù)訓(xùn)練,提升大語(yǔ)言模型理解能力,使模型無(wú)需標(biāo)注數(shù)據(jù),也能準(zhǔn)確地理解用戶指令為用戶提供智能便捷的交互體驗(yàn),從而降低模型訓(xùn)練的成本。