MiniCPM4
MiniCPM4 面向边缘设备,对模型架构、训练方法、数据和推理系统进行了优化;具体吞吐量、延迟和对照结果见技术报告。
技术亮点
- :MiniCPM4 使用 32K 长文本进行预训练,并通过 YaRN 技术实现长度扩展。在 128K 长文本的大海捞针(RULER-NIAH)任务中,于各深度与各长度位置均保持满分表现,展现出色的长上下文检索能力。
- :在 Jetson AGX Orin 与 RTX 4090 两款典型终端芯片上,MiniCPM4 在长文本处理任务中显著快于同尺寸模型,且文本越长效率优势越明显。在 Jetson AGX Orin 平台上,相较 Qwen3-8B,MiniCPM4 的解码速度提升约 7 倍。
模型表现
* 数据取自官方技术报告