Marvell 8月4日推出AI基础设施存储内存方案

针对代理式AI推理规模扩大，Marvell发布新存储内存技术，旨在通过降低延迟提升硬件利用率与Token处理效率。

据 Woofun AI 消息，数据基础设施半导体制造商 Marvell Technology 宣布，将于 8 月 4 日至 6 日期间推出专为人工智能基础设施设计的存储与内存解决方案。Marvell 指出，随着代理式 AI 推理规模扩大，内存容量、带宽及数据连接能力的重要性已等同于算力。大型模型、长上下文窗口及日益增长的 KV 缓存需求，正给 AI 系统内存资源带来巨大压力。

Marvell 表示，其新技术通过将数据更靠近算力处理单元并降低延迟，可帮助客户提升硬件利用率与 token 处理效率，从而在性能、能耗与成本间取得更好平衡。随着 AI 模型规模增长，传统以算力芯片为核心的架构正转向算力、内存与互连设施协同优化，CXL、高速存储及光互连等有望成为下一阶段 AI 数据中心建设的核心技术方向。