下一个创作起点
开发者精选
查看全部 →ESP32 塔台雷达：AI 语音播报航班圆屏塔台雷达，用克隆管制员音色播报航班猫娘大模型的自进化：OPSD 涌现推理能力不请教师、不换底座，让猫娘在自我蒸馏中涌现数学推理ReJev：轻量决策模型后训练LoRA 后训练 MiniCPM5-2B，留出集准确率 51.1% → 80.5%BMB Agent：由 MiniCPM 驱动的个人助手让 2B 端侧模型接管日程与待办，.funcall 协议实战与踩坑记录MetaCog：小裁判引导推理推理时元认知循环，多路径打分择优作答MiniCPM News Desk：本地新闻简报本地小模型挑选原文段落，生成每日新闻汇总PilotDeck 千图百炼：AI 生图监工让 Agent 盯着文生图模型干活，自动评图、重试直到达标Later：长期生活记忆 Agent基于 PilotDeck App 的私人管家，跨会话记住你的生活偏好Booking Desk：全双工语音预约状态机+裁判驱动的零微调全双工预约前台VoxWeft：Mac 端侧同声传译VoxCPM2 移植 MLX，本机流式同传，首包音频约 170 msWebGPU Pi：浏览器本地编程 AgentMiniCPM5-2B 经 WebGPU 在浏览器本地运行的编程 AgentGander：边聊边执行全双工全模态智能体，对话中调度 Codex 任务Kahya TTS：土耳其语声音克隆基于 VoxCPM2 微调的土耳其语 TTS，支持参考音色克隆MiniCPM5-1B Tool-Use：离线函数调用SFT + GRPO 的 1B 函数调用模型，CPU 离线运行VoiceMem：流式双脑语音记忆流式双脑记忆架构，为语音模型提供低延迟情感记忆YouDub：开源视频本地化工作台视频识别、翻译、逐句原声克隆，一键生成字幕与配音deku：本地可信任务助手代码负责规划、模型只做简短补全的本地问答 AgentMiniCPM5-1B：端侧部署与多语评测INT8 LiteRT-LM 端侧包，附西语等四种语言评测MiniCPM Agent Gateway：端云协同网关本地 MiniCPM 判断数据策略，敏感请求不出本机ToneBridge：情境化中文纠错按场景语气小幅修改中文句子，附拼音与发音我让 Agent 从零微调了一个多模态模型68 分钟后它交了一份可直接跑的方案TyloQuant：MiniCPM-o 4.5 混合精度量化用 MFQ 混合精度量化压缩 MiniCPM-o 4.5MiniCPM5-1B FP8：GPU 推理加速RTX 3060 解码 248 tok/s，比 BF16 快 1.5 倍AUGURY：从杂草读懂土壤通过杂草物种推断土壤状况，可在手机端运行gmgn-minicpm：本地链上研究 Agent1B 模型本地驱动的只读 GMGN 链上研究助手爷爷的睡前故事：看图讲述WebXR 睡前故事书，语音问答照片里的世界Lost & Found Desk：小模型失物招领MiniCPM-V 描述物品、MiniCPM5 引导问询，人工确认归还AI 贾维斯：屏幕感知桌宠Windows 本地运行、看懂屏幕的桌面助手CoreAI Model Zoo：MiniCPM 原生上 iPhoneMiniCPM5、MiniCPM-V 4.6 转换为 Core AI 原生运行baby mynah：9 种英语口音变形每种口音一个 LoRA，权重空间插值混合口音Viva Mais：WhatsApp 本地 CRM把旅行社的 WhatsApp 聊天整理成本地 CRM天问：1B 模型解八字周易用 1B 模型把八字与周易变成自我反思WanderLust：按心情规划步行按心情规划从 A 到 B 的探索式步行路线NIGHTWAVE：1B 模型深夜电台由 1B 模型主持、可现场来电的复古电台6ixPulse：多伦多租房地图多智能体比较多伦多街区，结论都标注数据来源华尔街 AI：小模型交易公司四个小模型智能体在像素办公室里自主炒股Hackathon Advisor：选题地图顾问用创意地图评估黑客松选题的原创性LLM Cinema：AI 导演 ASCII 电影小模型自编自导 ASCII 动画短片tiny-llm：纯 Rust 推理引擎纯 Rust 手写、仅用 CPU 的 MiniCPM5-1B 推理引擎YRobot：全双工视听机器人让 Reachy Mini 边听边看边说，可随时打断Aranya：看懂植物、讲出故事微调 MiniCPM-V 4.6 识别植物、诊断病害并语音讲述Talk to 峰哥：实时语音 AI 分身和峰哥 AI 分身实时语音通话，音色与性格高度还原PilotDeck 开发在线智能数据系统基于 PilotDeck 构建智能数据管理系统的实践分享Document Field Agent：文档字段抽取批量文档 OCR 与结构化字段抽取工作台Whispera：Windows 本地实时语音对话VAD、SenseVoice、本地 LLM 与 VoxCPM 流式 TTS 全本地对话当猫娘学会思考，手机也能部署这个模型难道真的是为了猫娘而生的吗？端侧部署实测让 1B 小模型当好数学 AgentTeXada 的 MiniCPM 端侧实践与方法沉淀开源 300G 猫娘音频数据集：NekoAudio-80K快让你的猫娘开口吧！TTS 训练走起！VoxCPM CLI：本地语音合成命令行OpenVINO 本地推理，JSON 输出，附 Agent SkillORG-2：Coding Agent 工作台统一编排与管理多个编程 Agent 的组织工作台EdgeHome Harness用 Rust 为 1B 端侧小模型构建可回放、可评测的本地控制链路榨干 NAS！接入 WorkBuddyN150 CPU 跑本地 AI，分享一些真实用法和踩坑经验PilotDeck 数据分析：考勤、报销与资产盘点三个高频办公场景：从原始记录一键生成统计报表与审计结论PilotDeck Word 文件生成与编辑批量生成合同文稿、按审阅意见逐条修改，修订可追溯PilotDeck PPT 制作一句话到一份大纲、模板、逐页成稿的完整 PPT 生产线对账工作台：财报 OCR 勾稽校验MiniCPM-V 读财报，确定性引擎抓出 OCR 数字错误
社区动态
查看全部 →常见问题 FAQ
查看全部 →端侧大模型部署与使用中的高频问题与解答。
我应该从哪个模型开始？先按任务模态和设备资源选择：文本与工具调用选 MiniCPM 文本系列，图像视频理解选 MiniCPM-V，实时交互选 MiniCPM-o，语音生成选 VoxCPM。如何判断自己的设备能否运行某个模型？重点看参数量、量化方式、上下文长度和推理框架开销，可参考「显存与性能」中的估算公式与速查表。显存不足或出现 OOM，应该先做什么？缩短上下文、降低批大小或并发，改用 INT8 / INT4 / GGUF 等量化版本，或换用参数量更小的模型。为什么支持长上下文，我的设备却跑不起来？上下文越长 KV Cache 越大，实际可用长度取决于架构、精度、并发与设备内存，建议从短上下文逐步增加。
- 我应该从哪个模型开始？先按任务模态和设备资源选择：文本与工具调用选 MiniCPM 文本系列，图像视频理解选 MiniCPM-V，实时交互选 MiniCPM-o，语音生成选 VoxCPM。
- 如何判断自己的设备能 否运行某个模型？重点看参数量、量化方式、上下文长度和推理框架开销，可参考「显存与性能」中的估算公式与速查表。
- 显存不足或出现 OOM，应该先做什么？缩短上下文、降低批大小或并发，改用 INT8 / INT4 / GGUF 等量化版本，或换用参数量更小的模型。
- 为什么支持长上下文，我的设备却跑不起来？上下文越长 KV Cache 越大，实际可用长度取决于架构、精度、并发与设备内存，建议从短上下文逐步增加。
- 量化会带来什么影响？通常能显著降低显存与磁盘占用，代价可能是质量、速度或框架兼容性的变化，建议用真实任务评测。
- 下载模型很慢或中途失败怎么办？确认磁盘空间、网络和目录权限，查看仓库是否提供镜像或手动下载说明，并核对文件完整性。
- 安装或启动失败，提问要带哪些信息？模型与版本、运行环境、硬件配置、复现步骤，以及从异常开始到结束的完整日志。
- 如何贡献案例、教程或问题修复？欢迎分享项目、部署脚本、复现记录与落地经验，写清适用模型、环境版本、复现步骤与限制。
如果你的问题没有找到答案，欢迎在 AMA 提问，我们会定期整理并作答。去 AMA 提问 →