【谷歌提出Titans:突破算力限制,擴展上下文】2月25日

【谷歌提出Titans:突破算力限制,擴展上下文】2月25日訊,谷歌研究院發佈一項新的研究Titans。通過引入全新的神經長期記憶模塊,三頭協同架構與硬件優化設計等模塊,在算力僅增加1.8倍的情況下,將大模型的上下文窗口擴展至200萬token。Titans不僅解決了Transformer模型在長上下文處理中的算力瓶頸,更通過仿生學設計模擬人類記憶系統的分層機制,首次實現了200萬token超長上下文的精準推理。(AIGC開放社區)
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。