把 350 亿参数模型装进手机?现场看看还能怎么玩

把350亿参数多模态MoE模型装进手机,让设备理解画面、回应问题,会是一种怎样的体验?

在今年的 GOTC,我们将带来端侧多模态模型演示、模型体验 App,以及面向 GitHub 开发者的趣味互动。欢迎来到展位,亲手体验模型能力,与我们交流从模型部署到应用开发的实际问题。

无论你正在开发端侧 AI 应用、探索智能硬件,还是想了解 OpenBMB 的开源项目,都可以在这里找到值得看看、试试、聊聊的内容。

展位亮点一:MiniCPM-V 4.7,在 iPhone 上现场体验

当多模态大模型走进手机,镜头里的画面就有了新的交互方式。这次 GOTC,我们将带来 MiniCPM-V 4.7 × iPhone Duo 的现场演示。欢迎来到展位,看看模型如何理解画面、回应问题,感受多模态能力与手机设备结合后的交互体验。

对于关注端侧 AI 的开发者,这场演示也提供了一个观察模型落地的具体切口:从获取画面到模型回应,交互过程是否流畅?模型的表现能否满足应用需求?当设备资源有限时,应该怎样安排模型与应用的资源使用?这些问题,往往会直接影响一项模型能力能否成为用户愿意反复使用的产品功能。

现场,我们也希望与你交流演示背后的技术实践:如何根据设备条件选择模型,如何考虑内存占用与推理效率,以及如何把多模态能力接入实际应用。如果你正在为手机、IoT 设备或机器人探索 AI 能力,欢迎带着自己的设备条件和应用场景来聊。从一次现场演示出发,一起讨论你的项目下一步可以怎样推进。

图1:MiniCPM-V 4.7 × iPhone Duo,多模态模型现场演示

展位亮点二:一个 App,体验所有模型能力

了解一个模型,最直接的方式就是上手试试。面对不同类型的任务,亲自体验也有助于判断:哪些能力适合自己的应用,哪些地方还需要进一步验证。这次,我们将带来集成 OpenBMB 全部模型的 App,通过统一入口展示语言、多模态、语音和文档识别等方向的能力,让你在展位上集中体验社区的模型成果。你可以从自己最关心的方向开始:看看语言模型的回应,感受多模态交互,体验语音相关能力,或了解文档识别的表现。也可以在不同方向之间切换,为正在构思的应用寻找更多可能。

对于已经有明确需求的开发者,欢迎把体验与自己的业务场景联系起来:模型输出是否符合预期?交互形式是否适合目标用户?如果接入现有产品,还需要怎样的适配与开发工作?对于刚开始探索 AI 应用的朋友,这个统一入口也能帮助你建立更直观的认识,找到值得继续尝试的方向。

我们同样期待听到你的反馈。哪些能力让你想进一步了解?哪些体验还有改进空间?你希望开源社区补充哪些工具或支持?欢迎在现场与我们交流,让一次试用成为更具体的开发讨论。

图2:通过统一 App 入口,体验 OpenBMB 的模型能力

展位亮点三:测测你的 GitHub 开源足迹是什么段位

平时在 GitHub 上留下的公开开源足迹,如果交给 AI 来解读,会得到怎样一份报告?来 OpenBMB 展位,试试开源 GitHub 开发者评分引擎 ghfind。输入账号,等待约 30 秒至 1 分钟,就能获得公开开源足迹评分、对应段位,以及一段 AI 趣味锐评,还可以生成可分享的卡片。

看看报告怎样呈现你的公开贡献,读读 AI 的评价,再判断它有没有说到点子上。你也可以和同行朋友一起体验,分享各自的卡片,让开源经历成为现场交流的话题。没有 GitHub 账号也可以参与:选择一个知名开发者账号,看看你熟悉的开源贡献会被怎样理解。

趣味体验背后,ghfind 也展示了一种结合规则计算与模型理解的应用方式:评分由公开数据与规则计算,MiniCPM-V-4.7-35B-A3B 负责理解贡献证据并生成报告。

对开发者来说,除了领取卡片,也可以进一步聊聊这类应用如何组织证据、生成报告,以及怎样让结果更容易理解。

带着好奇心来测一测,看看你的开源足迹是什么段位,也欢迎把你对报告的看法和建议带给我们。

图3:测一测、晒一晒,让 AI 为你的公开开源足迹写一段锐评

关于 OpenBMB

OpenBMB 是由 清华大学自然语言处理实验室(THUNLP)联合面壁智能发起的开源社区,致力于让轻量、高效的大模型走进端侧设备与智能硬件,让开发者更容易将模型能力转化为实际应用。

社区以 MiniCPM 系列端侧大模型为核心,覆盖语言、多模态、文档识别和语音等方向,同时开源 ChatDev、PilotDeck、UltraRAG 等智能体项目,以及模型训练、压缩、量化、推理优化和数据评测工具,构建从模型研发到端侧部署的全栈开源生态。

目前,OpenBMB 模型累计下载量超过 7000 万次,GitHub Stars 超过 17 万,Hugging Face Likes 超过 2.2 万;MiniCPM 系列多次登顶 GitHub 和 Hugging Face 趋势榜单,吸引全球开发者共同使用、探索和贡献。

“让大模型飞入千家万户”,是 OpenBMB 的愿景,也是我们持续开源的动力。

欢迎来展位,聊聊你的应用场景

在 GOTC,我们期待见到关注端侧 AI、多模态模型、文档识别和智能体应用的开发者,也期待与智能硬件厂商、开源维护者和潜在贡献者面对面交流。

有限内存下如何选择模型?量化后怎样平衡效果与速度?多模态能力如何接入现有设备?端侧与云端如何分工?开源项目怎样降低使用和贡献门槛?这些问题,都欢迎带到 OpenBMB 展位。

无论你已经在部署 MiniCPM,还是刚开始探索端侧 AI,都欢迎来看看演示、体验应用,与我们聊聊你的设备、项目和想法。

GOTC C21 展台现场见,一起把模型能力变成更多真实应用。

⏰ 11 月 14 日(周六)10:00-17:00

📍 北京・通明湖会展中心