【字節攻克MoE關鍵瓶頸,訓練成本節省40%】3月10日訊,

【字節攻克MoE關鍵瓶頸,訓練成本節省40%】3月10日訊,3月10日,字節豆包大模型團隊官宣開源一項針對MoE架構的關鍵優化技術,可將大模型訓練效率提升1.7倍,成本節省40%。據悉,該技術已實際應用於字節的萬卡集羣訓練,累計幫助節省了數百萬GPU小時訓練算力。(e公司)
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。