晶心科攜手Fractile 打造AI推理加速器

(中央社記者張建中新竹2024年10月25日電)矽智財
(IP)廠晶心科(6533)宣布,與Fractile策略合作,
開發加速人工智慧(AI)推理的全新晶片,目標讓運
行大語言模型時更快速、成本更低。

晶心科發布新聞稿表示,Fractile向晶心科取得
AX45MPV RISC-V向量處理器授權,結合ACE自動化
工具和資料庫,並計劃將向量處理單元整合到第1代
的資料中心AI推理加速器中。

晶心科指出,Fractile透過記憶體運算架構,這樣就
不需要將模型參數往返於處理器晶片上,能夠瞬間產
生答案,相較採用當前硬體需要數秒才能完成快速。

晶心科表示,Fractile整合雙方的優勢,克服傳統運
算方式的限制,突破記憶體瓶頸,將可提供快速且經
濟高效的人工智慧推理系統。

Fractile是一家AI硬體公司,2022年在倫敦成立,致
力透過使神經網路運行更快、更有效率,增強集體人
工智慧能力,已自北約創新基金等投資者籌集1750萬
美元。
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。