MiniCPM-V 4.6
MiniCPM-V 4.6 为 1.3B 参数模型,支持 4× 和 16× 视觉 Token 压缩;与 Qwen3.5-0.8B 在标准图像输入对比测试下,视觉编码 FLOPs 降低超过 50%,token 吞吐量约为 Qwen3.5-0.8B 的 1.5 倍。
核心亮点
- 基座与多模态能力评测结果:在 Artificial Analysis Intelligence Index 4.0 基准中取得 13 分,超越 Qwen3.5-0.8B(10 分,token 成本降低 19×)与 Qwen3.5-0.8B-Thinking(11 分,成本降低 43×),Ministral 3 3B 得 11 分;多模态方面在 OpenCompass、RefCOCO、HallusionBench、MUIRBench、OCRBench 等基准上达到 Qwen3.5 2B 级别能力。
- 端侧架构:基于 LLaVA-UHD v4 ,视觉编码计算 FLOPs 降低 50% 以上,token 吞吐量约为 Qwen3.5-0.8B 的 1.5 倍;支持混合 4×/16× 视觉 token 压缩率,可在精度与速度之间灵活切换,轻松运行于端侧设备。
- 全平台覆盖与开发者友好:可一键部署至 iOS、Android、HarmonyOS 三大移动平台,边缘适配代码全部开源;同时适配 vLLM、SGLang、llama.cpp、Ollama 等推理框架与 SWIFT、LLaMA-Factory 微调生态,并提供 GGUF / BNB / AWQ / GPTQ 多种量化版本。
技术亮点
- 混合 4×/16× 视觉 Token 压缩:引入可切换的混合视觉 token 压缩技术,支持 4× 高精度与 16× 高效率两档压缩率,开发者可按场景在识别精度与推理速度之间灵活权衡;单图、多图与视频统一编码,使能力与知识在三种输入形态间保持一致。
- LLaVA-UHD v4 视觉架构:基于 LLaVA-UHD v4,将视觉编码计算 FLOPs 降低 50% 以上,使 1.3B 模型的 token 吞吐量达到 Qwen3.5-0.8B 的约 1.5 倍。
- 强基座驱动的多模态能力:基于 SigLIP2-400M 与 Qwen3.5-0.8B 构建,继承 MiniCPM-V 系列单图、多图、视频理解能力;在 Artificial Analysis Intelligence Index 取得 13 分,并在 OpenCompass、OCRBench、HallusionBench、MUIRBench 等基准上达到 Qwen3.5 2B 级别表现。
模型表现
- 通用能力
- STEM 推理
- 文档
- 视觉定位
- 多图理解
- 幻觉
- GUI
- 视频理解
- 推理效率·吞吐量
* 准确率为官方报告或基于官方权重的本地复现评测,均在 instruct 模式下评测;推理效率基于 vLLM @ NVIDIA RTX 4090,MiniCPM-V 4.6 采用 16× 压缩(默认设置)。