MiniCPM-2B
MiniCPM-2B 是由面壁智能(ModelBest Inc.)与清华大学 NLP 实验室联合开发的端侧大型语言模型,参数量仅 24 亿(不含词嵌入)。
技术亮点
- :经过 SFT 后,综合性能超越 Llama2-13B、MPT-30B、Falcon-40B 等更大参数模型,中文、数学、代码能力优于 Mistral-7B。
- :经过 DPO 对齐后,在 MTBench 评测中超越 Llama2-70B-Chat、Vicuna-33B 等主流对话模型。
- :MiniCPM-V 在同规模多模态模型中达到最佳性能,部分任务可比肩 9.6B 参数的 Qwen-VL-Chat。
- :MiniCPM 支持在智能手机上部署与推理,流式输出速度超越人类语速。
- :MiniCPM-V 是业界首款可在智能手机端运行的多模态大模型,突破端侧多模态应用瓶颈。
- :参数高效微调(PEFT)仅需单张 1080/2080 级别 GPU。
- :全参数微调仅需单张 3090/4090 级别 GPU,大幅降低模型定制与迭代的硬件成本。
模型表现
* 数据取自官方评测