阶跃开放 Step 5 Preview 权重,技术博客详解面向长程 Agent 的架构与训练设计

阶跃星辰宣布正式开放 Step 5 Preview 权重,包括 BF16 与 FP8 两个版本、技术博客、配套开源开发工具及部署指南。模型权重已上线 Hugging Face 和 ModelScope。

据介绍,Step 5 Preview 面向长程 Agent 任务设计,采用稀疏 MoE 架构,总参数量为 600B,每 token 激活参数为 27B,支持 100 万 token 上下文窗口,原生支持文本与视觉输入,面向软件工程、专业知识工作及金融等应用场景。

此次发布的技术博客介绍了 Step 5 Preview 的设计思路,包括 92 层窄深架构、Sparse GQA、训练稳定性优化、百万级可验证环境及长程任务强化学习等。其中,模型将上下文压缩纳入端到端策略训练,支持 Agent 整理任务状态并继续执行。

部署方面,Step 5 Preview 提供面向多种芯片平台和推理框架的适配支持。开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,也可使用 Transformers 进行离线推理,接入自有数据、工具与系统。在开发者使用方面,根据 OpenRouter 截至 2026 年 10 月 15 日的数据,Step 5 Preview 位列该平台 Token 用量周榜及日榜全球第二。

Frontiers
Frontiers
文章: 537