跳到主要内容

MiniCPM-SALA

MiniCPM 文本系列

MiniCPM-SALA 是面向超长文本处理的 9B 参数模型,采用稀疏与线性混合注意力架构,支持最高百万 token 级上下文。

下载 MiniCPM-SALA 权重,并结合部署指南准备对应的运行环境。长上下文运行的资源需求会随实际配置变化,请同时检查硬件与推理参数。

核心特性​

  • 百万 token 上下文:支持最高 1M token 的超长上下文
  • 混合注意力:25% InfLLM-V2 稀疏注意力 + 75% Lightning 线性注意力
  • HyPE 位置编码:高效处理超长序列
  • 2.5x TTFT 加速:相比全注意力模型,首 token 延迟降低 60%

模型下载​

HuggingFaceModelScope
MiniCPM-SALAMiniCPM-SALA

开发者精选

查看全部 →