阶跃星辰正式释放新一代旗舰模型Step 5 Preview的模型权重,同步公开技术博客与配套开源开发工具。本次开放包含BF16与FP8两种精度权重,开发者已可在Hugging Face和ModelScope下载。
PChome 10月15日消息,阶跃星辰正式释放新一代旗舰模型Step 5 Preview的模型权重,同步公开技术博客与配套开源开发工具。本次开放包含BF16与FP8两种精度权重,开发者已可在Hugging Face和ModelScope下载。

Step 5 Preview面向长程Agent任务设计,采用稀疏MoE架构,总参数量600B,单token激活参数仅27B,上下文窗口扩展到100万token,原生支持文本与视觉输入。 换句话说,模型保留了大参数规模的知识容量,推理时又只唤醒一小部分专家,把每次生成的计算压力压到中等体量模型的水平。

模型用了92层“窄而深”的Transformer结构,给多跳推理留出更长的计算路径;注意力部分引入Sparse GQA,配合8 token块级索引,把索引与top-k选择开销降到原先的1/8左右。 训练上在关键状态保留FP32,并做细粒度梯度裁剪,缓解深层网络的激活异常;长程任务则把上下文压缩放进强化学习回路,让Agent学会自己整理状态再继续跑。
部署方面,官方给出vLLM、SGLang兼容OpenAI接口的方案,也支持Transformers离线推理。 不过600B权重仍需多卡集群承载,个人玩家更现实的入口还是API或推理平台。