利好
阶跃星辰沙箱平台分钟级创建 3 万个实例
14:47
据 Woofun AI 消息,大模型公司发布旗舰开源模型 ,该模型总参数 600B、激活参数 27B,采用稀疏 MoE,最长上下文窗口 1M,可处理文本、图像与视频。发布当日,宣布完成 DAY0 适配,基于芯片、超节点实例与模型联合推理优化,由灵骏超节点提供推理算力。阶跃星辰自研智能体强化学习训练平台,沙箱平台交由阿里云管理。
方案基于阿里云智能体沙箱 与容器服务 Kubernetes 版,面向训练态弹性算力,称可单分钟创建上万沙箱、最高百万级并发,兼容 API,并提供 Kubernetes 原生接口。通过多级镜像缓存、智能预调度和管控链路优化,实现毫秒级申请、分钟级创建 3 万个沙箱,沙箱生命周期由阿里云后端统一管理。存储方面,每个 Pod 从 15GB 免费临时存储起步,使用率超过 70% 时每次自动增加 30GB,最高至 300GB。
存储方面,每个 Pod 起步 15GB 免费临时存储,使用率超 70% 时自动扩容,最高达 300GB。安全层面默认采用 MicroVM 级隔离,覆盖计算、网络、存储和权限,并以零信任方式访问云产品与大模型接口。安全上默认采用 MicroVM 级隔离,覆盖计算、网络、存储和权限,并以零信任方式访问云产品与大模型接口。文章给出的结果包括:镜像启动时间缩短 90%,模型评估周期从周级压缩至天级,EBS 存储费用平均节省约 40%;依托 ,最高可支撑几十万规模沙箱同时稳定运行。
WOOFUN AI
影响力评估 · 一键速读
阿里云深度介入阶跃星辰算力基础设施,通过沙箱平台优化显著提升了模型评估效率并降低了存储成本。分钟级创建数万沙箱的能力大幅缩短了研发迭代周期,若该架构被行业广泛采纳,可能推动大模型训练与推理的规模化落地。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论