【DeepSeek推出NSA,用於超快速的長上下文訓練和推理

【DeepSeek推出NSA,用於超快速的長上下文訓練和推理】2月18日訊,DeepSeek推出NSA。DeepSeek稱,NSA是一種與硬件一致且本機可訓練的稀疏注意力機制,用於超快速的長上下文訓練和推理。通過針對現代硬件的優化設計,NSA加快了推理速度,同時降低了預訓練成本,而不會影響性能。在一般基準測試、長上下文任務和基於指令的推理上,它的表現與完全注意力模型相當甚至更好。
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。