下一个创作起点
开发者精选
查看全部 →MiniCPM 文本EdgeHome Harness用 Rust 为 1B 端侧小模型构建可回放、可评测的本地控制链路MiniCPM 文本榨干 NAS！接入 WorkBuddyN150 CPU 跑本地 AI，分享一些真实用法和踩坑经验MiniCPM 文本当猫娘学会思考，手机也能部署这个模型难道真的是为了猫娘而生的吗？端侧部署实测MiniCPM 文本让 1B 小模型当好数学 AgentTeXada 的 MiniCPM 端侧实践与方法沉淀MiniCPM-o 全模态我让 Agent 从零微调了一个多模态模型68 分钟后它交了一份可直接跑的方案VoxCPM 语音开源 300G 猫娘音频数据集：NekoAudio-80K快让你的猫娘开口吧！TTS 训练走起！PilotDeck 智能体PilotDeck 开发在线智能数据系统基于 PilotDeck 构建智能数据管理系统的实践分享MiniCPM 文本BMB Agent：由 MiniCPM 驱动的个人助手让 2B 端侧模型接管日程与待办，.funcall 协议实战与踩坑记录MiniCPM 文本猫娘大模型的自进化：OPSD 涌现推理能力不请教师、不换底座，让猫娘在自我蒸馏中涌现数学推理PilotDeck 智能体PilotDeck 数据分析：考勤、报销与资产盘点三个高频办 公场景：从原始记录一键生成统计报表与审计结论PilotDeck 智能体PilotDeck Word 文件生成与编辑批量生成合同文稿、按审阅意见逐条修改，修订可追溯PilotDeck 智能体PilotDeck PPT 制作一句话到一份大纲、模板、逐页成稿的完整 PPT 生产线PilotDeck 智能体PilotDeck 千图百炼：AI 生图监工让 Agent 盯着文生图模型干活，自动评图、重试直到达标PilotDeck 智能体Later：长期生活记忆 Agent基于 PilotDeck App 的私人管家，跨会话记住你的生活偏好
社区动态
查看全部 →常见问题 FAQ
查看全部 →端侧大模型部署与使用中的高频问题与解答。
我应该从哪个模型开始？先按任务模态和设备资源选择：文本与工具调用选 MiniCPM 文本系列，图像视频理解选 MiniCPM-V，实时交互选 MiniCPM-o，语音生成选 VoxCPM。如何判断自己的设备能否运行某个模型？重点看参数量、量化方式、上下文长度和推理框架开销，可参考「显存与性能」中的估算公式与速查表。显存不足或出现 OOM，应该先做什么？缩短上下文、降低批大小或并发，改用 INT8 / INT4 / GGUF 等量化版本，或换用参数量更小的模型。为什么支持长上下文，我的设备却跑不起来？上下文越长 KV Cache 越大，实际可用长度取决于架构、精度、并发与设备内存，建议从短上下文逐步增加。
- 我应该从哪个模型开始？先按任务模态和设备资源选择：文本与工具调用选 MiniCPM 文本系列，图像视频理解选 MiniCPM-V，实时交互选 MiniCPM-o，语音生成选 VoxCPM。
- 如何判断自己的设备能 否运行某个模型？重点看参数量、量化方式、上下文长度和推理框架开销，可参考「显存与性能」中的估算公式与速查表。
- 显存不足或出现 OOM，应该先做什么？缩短上下文、降低批大小或并发，改用 INT8 / INT4 / GGUF 等量化版本，或换用参数量更小的模型。
- 为什么支持长上下文，我的设备却跑不起来？上下文越长 KV Cache 越大，实际可用长度取决于架构、精度、并发与设备内存，建议从短上下文逐步增加。
- 量化会带来什么影响？通常能显著降低显存与磁盘占用，代价可能是质量、速度或框架兼容性的变化，建议用真实任务评测。
- 下载模型很慢或中途失败怎么办？确认磁盘空间、网络和目录权限，查看仓库是否提供镜像或手动下载说明，并核对文件完整性。
- 安装或启动失败，提问要带哪些信息？模型与版本、运行环境、硬件配置、复现步骤，以及从异常开始到结束的完整日志。
- 如何贡献案例、教程或问题修复？欢迎分享项目、部署脚本、复现记录与落地经验，写清适用模型、环境版本、复现步骤与限制。
如果你的问题没有找到答案，欢迎在 AMA 提问，我们会定期整理并作答。去 AMA 提问 →