6 场分享、40 万奖金、1 场挑战赛：MiniCPM × 昇腾 Meetup 北京站全回顾
7 月 26 日下午，昇腾 AI 框架 Meetup·北京站 在北京 AI 原点社区举行。
这场活动围绕 MiniCPM 与昇腾生态展开，但讨论的内容并不只停留在模型本身。从 MiniCPM-o 4.5 的全双工全模态交互，到昇腾超节点分布式并行；从 Agent 的自动构建与自进化，到语音模型的推理性能优化，再到一台真正会看、会听、会被打断的情感陪伴机器人——几场分享串起了大模型从能力、系统到应用落地的完整路径。
活动现场还对 MiniCPM × 昇腾推理性能优化和应用创新挑战赛 进行了系统解读，并在分享结束后安排了两个小时的深度交流与动手实践。
活动开场，OpenBMB 社区负责人井晨哲 代表社区致辞。他简要介绍了 OpenBMB 社区的发展历程与生态布局——作为面向大模型全栈的开源社区，OpenBMB 始终致力于降低大模型开发与应用的门槛，推动大模型技术的普惠与落地。
井晨哲还对本次 MiniCPM × 昇腾推理性能优化和应用创新挑战赛 进行了整体介绍，本次大赛由面壁智能、OpenBMB 联合昇腾、昇思 MindSpore 发起，围绕 MiniCPM-o 4.5 设置了「高性能推理优化」和「创新应用」两大赛道，奖金池共计 40 万元。并鼓励在场开发者积极参与，共同探索大模型在昇腾生态中的更多可能。
从一道真实的工程题开始
活动首先围绕 MiniCPM × 昇腾挑战赛展开。
面壁智能蔡天驰从 MiniCPM-V / o 系列的演进讲起：MiniCPM-V 沿着模型轻量化和端侧部署持续推进，MiniCPM-o 则重点解决真实多模态交互中的「时间问题」。
MiniCPM-o 4.5 的变化，不只是增加了一种输入模态。它通过 Omni-Flow 将视觉、音频和文本放到同一条时间轴上，让模型能够同时听、看、说。在模型回复过程中，新的声音、画面和用户打断依然可以继续进入模型，当前回复也能够随环境变化及时调整。
过去的半双工交互通常是「用户说完—模型理解—模型回答—用户再说」，同一时刻只能进行输入或输出；全双工则意味着模型可以持续感知环境，并自己判断什么时候继续听、什么时候开口。它改变的不是回答速度，而是人与模型之间的交互方式。
对于高性能推理优化赛道，大赛并不是单纯比较一个孤立的性能数字。
参赛方案需要先满足两项准入条件：相对基线的精度降幅不超过 2 个百分点，同时能够稳定接入并运行完整 Demo。在此基础上，再以每个推理 chunk 的 RTF 作为核心指标——RTF 越低，代表系统的实时处理能力越强。
这意味着选手需要面对的，是一条完整的全双工推理链路：模型能不能正确运行、结果是否可靠、Demo 是否稳定，以及用户开口之后，模型究竟需要多久才能做出响应。
创新应用赛道则更关注另一件事：如何把 MiniCPM-o 4.5 的视觉、语音和文本能力，变成一个真正可运行、可展示、可交互的产品。
昇腾AI框架生态进展
随着大模型向长序列、全模态和智能体方向演进，模型规模、序列长度与专家数量持续增长，超节点集群下的通信、并行调优和内存管理也变得更加复杂。昇腾生态经理徐帅围绕 开发一致性、组件化创新与开发者体验，介绍了昇腾 AI 框架的最新建设方向。
在开发一致性方面，昇腾联合 PyTorch 基金会成立 Ascend for PyTorch 社区，推动 API、特性与版本节奏加速对齐，并计划实现 PyTorch 新版本在昇腾上的同步发布。
面向超节点，昇思 MindSpore 持续建设 HyperParallel、AKG 等昇腾亲和组件，强化分布式与图模式能力，同时支持 PyTorch、LlamaFactory 等主流生态复用。
在社区建设方面，昇腾通过开放社区任务、赛事、算力与激励资源，持续完善文档和课程体系，帮助开发者从学习使用逐步走向社区贡献。
大模型进入超节点，编程能不能仍然像单卡一样简单？
随着模型规模、上下文长度和训练任务不断扩大，开发者面对的已经不只是「模型怎么写」，还包括模型如何切分、设备如何编排、通信如何安排，以及显存不够时如何在计算、存储和通信之间做权衡。
在《超节点下的大模型训练：HyperParallel 架构解读》中，华为技术专家常哲睿介绍了昇腾超节点分布式并行加速库 HyperParallel。
HyperParallel 想解决的问题很直接：让开发者尽可能用接近单卡编程的方式，驾驭大规模集群和超节点。
它将「模型在数学上是什么结构」和「模型在硬件上如何执行」分离开来，再通过声明式配置将并行和系统优化注入模型，降低分布式开发过程中大量重复、复杂且容易出错的工程工作。
整个体系可以分为三个层次：
第一层是统一的 Tensor 切分表达，通过 DTensor、DeviceMesh、Placement 和 Redistribute 描述全局张量、设备拓扑及数据分布；第二层叠加 HSDP、TP、CP、EP 和流水并行等模型切分策略；第三层进一步通过激活重计算、Activation Swap、参数及优化器 Offload 等方式降低内存占用。
HyperParallel 还在探索 Agentic 编程：把分布式开发中的代码规范、测试流程、提交方式和常见问题沉淀为 Skills、Commands 与 Rules。开发者负责关键判断，Agent 则按照经过验证的流程完成代码分析、修改、测试与提交，让复杂系统中的工程经验不再只停留在少数人的脑海里。
从模型微调底座，到能够自我改进的 Agent
如果说 LlamaFactory 解决的是如何更低门槛地训练和微调模型，那么 PenguinHarness 关注的，则是如何让 Agent 自动构建 Agent。
LlamaFactory 作者、PrismShadow CTO 郑耀威在现场提出了一个很现实的判断：通用 Agent 的能力已经很强，但真正进入生产环境的，往往不是一个无所不能的「万能 Agent」，而是一组围绕具体业务构建、权限可控、成本可算、能够持续迭代的定制 Agent。
PenguinHarness 将 Agent 的生命周期概括为一条闭环：
Build → Run → Evaluate → Evolve
用户可以用一句自然语言描述需求，由系统自动完成 Agent 的构建；Agent 运行之后，再通过评测器和优化器分析执行结果，将反馈转化为 Prompt、Skills 和配置的修改。
不过，自进化并不意味着 Agent 可以任意修改自己。PenguinHarness 通过固定执行规则、隔离评测标准、限制可修改范围、记录完整 Trace，以及快照和回滚机制，为进化划定边界：能力可以持续增长，但权限、规则和审计边界不能随之漂移。
分享中还展示了自动构建带引用的 RAG 配置专家，以及多个 Agent 协作完成评测与优化的过程。
语音模型推理，瓶颈往往不只在模型
全模态模型要进入实时交互场景，模型能力只是第一步。
语音生成通常需要经历 Thinker、Talker、Code2Wav 等多个阶段。不同阶段的计算特征、批处理方式和延迟瓶颈并不相同，任何一个阶段堵住，都会直接影响用户听到第一段声音的时间。
在《基于 vLLM-Omni 的语音模型推理性能优化及 NPU 实践》中，vLLM-Omni 社区从语音模型支持矩阵讲起，介绍了 Omni 理解与生成、TTS 语音合成、音乐与音效生成等不同类型模型的推理路径，以及 MiniCPM-o 4.5 在 GPU 与昇腾 NPU 上的支持进展。
针对多阶段语音模型，vLLM-Omni 给出了一套逐层推进的优化方法，包括阶段拆分、批处理、Graph、异步 Chunk、异步输出、阶段副本扩展以及热点路径清理。每一层优化都对应一个具体瓶颈，而不是简单套用一套「万能参数」。
以分享中的并发测试为例，多项优化叠加后，系统吞吐由 2.2 req/s 提升至 11.7 req/s，首段音频时间从约 5884 毫秒下降至约 632 毫秒，RTF 从 1.15 降至 0.47。
对于 MiniCPM-o 4.5，vLLM-Omni 已经完成三阶段拆分、批量 Code2Wav、异步 Chunk、分块流式声码器及昇腾 NPU 支持，全双工运行时也已经打通。后续还将继续推进算子融合、异步输出、阶段副本和热点算子替换等优化。
这些工作也与挑战赛的目标直接对应：优化的不只是单个算子，而是从用户声音进入模型，到第一段语音真正播放出来的完整链路。
情绪不只写在文字里
当天最后一场主题分享，把视角从推理系统带到了真实的机器人交互。
心言集团高级算法工程师颜鑫带来了基于 MiniCPM-o 4.5 的情感陪伴机器人 YRobot。
分享从一句很普通的话开始：
“我没事。”
当这句话被 ASR 转写为文字之后，系统只能得到三个字。但人在真实交流中，会同时观察语速、停顿、气声、目光、表情和身体动作。同一句「我没事」，可能意味着真的没事，也可能意味着暂时不想说，甚至是在掩饰已经持续很久的压力。
一旦系统先把语音压缩成文字，再交给语言模型，语调、停顿、哭腔和目光变化等信息就已经不可逆地丢失。原生全模态模型则可以让视觉帧、音频帧和语义共享同一条时间轴，在同一个模型内部共同参与理解和生成。
颜鑫在分享中用一句话概括了全双工交互的意义：
「全双工不是更快的轮次，是没有轮次。」
真实的陪伴经常发生在双方声音重叠的时刻。用户可能在机器人说话时叹气、摇头或者突然改口，而传统轮次制系统根本无法表示这些变化。
但让机器人「像活的」，并不只是接入一个模型。
YRobot 在 Reachy Mini 硬件上整合了麦克风阵列、广角相机、扬声器、声源定位和六自由度头部，并针对真实环境中的多个问题进行了工程处理：机器人不能被自己的声音打断；用户从侧后方说话时，它需要先判断声源方向，再平滑转头；用户中途改口时，旧回答必须立即停止；呼吸、注视和随机扫视也不能像机械开关一样突然跳变。
现场 Demo 展示了三个细节：用户说到一半改口，机器人会立刻停下；从侧后方呼唤，它会先转头再回答；即使机器人正在说话和运动，也不会把自己的声音和电机噪声误认为用户打断。
模型、硬件和代码均已开源。分享最终落在一个很朴素的目标上：把共情做成可复现的工程。
从「听分享」到真正动手
主题分享结束后，活动进入深度互动环节。
现场围绕 HyperParallel、vLLM-Omni、MiniCPM-o 4.5、LlamaFactory 和 PenguinHarness 等项目展开实操与交流。开发者可以直接与项目成员讨论模型适配、推理优化、分布式训练和 Agent 构建中的具体问题，也可以现场体验相关工具和 Demo。
回看整场活动，从 MiniCPM-o 4.5 的全双工架构，到昇腾 NPU 上的性能优化；从超节点分布式并行，到 Agent 自动构建与自进化，再到一台能够看、听、说和行动的机器人，讨论的其实是同一个问题：
如何让大模型能力真正进入工程系统，并最终变成用户可以感知的体验。
这也是 MiniCPM × 昇腾挑战赛希望与开发者共同探索的方向。
无论你更擅长模型推理与系统优化，还是希望利用视觉、语音和文本能力打造新的应用，都可以在这场比赛中找到适合自己的赛道。
40 万元奖金池，不设限界想象力。期待看到更多在昇腾 NPU 上跑起来、跑得快，也真正有人愿意使用的 MiniCPM 项目。