Marvell 8月4日推出AI基礎設施存儲內存方案

針對代理式AI推理規模擴大，Marvell發佈新存儲內存技術，旨在通過降低延遲提升硬件利用率與Token處理效率。

據 Woofun AI 消息，數據基礎設施半導體制造商 Marvell Technology 宣佈，將於 8 月 4 日至 6 日期間推出專爲人工智能基礎設施設計的存儲與內存解決方案。Marvell 指出，隨着代理式 AI 推理規模擴大，內存容量、帶寬及數據連接能力的重要性已等同於算力。大型模型、長上下文窗口及日益增長的 KV 緩存需求，正給 AI 系統內存資源帶來巨大壓力。

Marvell 表示，其新技術通過將數據更靠近算力處理單元並降低延遲，可幫助客戶提升硬件利用率與 token 處理效率，從而在性能、能耗與成本間取得更好平衡。隨着 AI 模型規模增長，傳統以算力芯片爲核心的架構正轉向算力、內存與互連設施協同優化，CXL、高速存儲及光互連等有望成爲下一階段 AI 數據中心建設的核心技術方向。