AGENT PULSESJCPal Special EditionAI Industry Evidence & Trends
Sep 10, 2026 · MiniCPM

docs: LiteRT-LM cookbook and Agent Skill for MiniCPM5-2B / MiniCPM5-1...

What Happened

OpenBMB 的 MiniCPM 仓库提交了一份文档更新,为 MiniCPM5-2B / MiniCPM5-1B 增加 LiteRT-LM cookbook 与配套 Agent Skill,覆盖 Android、iOS 与桌面端。文档描述 litert-lm CLI 的下载、CPU/GPU、thinking 开关与预算、采样等用法,Android 侧通过 AI Edge Gallery 应用与 Kotlin API,并附 litert-community 卡片上的实测表格与注意事项。提交称所有命令在 litert-lm 0.17.0 上运行,Kotlin 路径在 Galaxy S26 上使用 litertlm-android 0.17.0。同时新增 skills/minicpm5-deploy-litert/SKILL.md,并更新部署表、路由列表与后端数量。

EVENT STORY

Development

  1. First Reportdocs: LiteRT-LM cookbook and Agent Skill for MiniCPM5-2B / MiniCPM5-1...OpenBMB MiniCPM Repository Updates
  2. Current Assessment把 LiteRT-LM 纳入部署矩阵并把后端计数从 7 提到 8,反映开源模型项目正把「多运行时可选」当作分发策略的一部分:同一权重同时面向 MLX 与 LiteRT 等不同栈,降低开发者在端侧选型的迁移成本。判断层面,这更像生态位补位而非能力跃迁;可验证信号是后续提交是否继续增加后端,或是否出现针对某一运行时的专门优化说明。Agent Pulse · analysis
What Changed

MiniCPM 仓库的一次文档提交把 MiniCPM5-2B / MiniCPM5-1B 的 LiteRT-LM 部署路径写成可复现的 cookbook:litert-lm CLI 支持从 Hub 下载、CPU/GPU 选择、thinking 开/关/预算与采样参数;Android 走 AI Edge Gallery 应用和 Kotlin API,iOS 只给指针,桌面端一并覆盖。提交声明每条命令都在 litert-lm 0.17.0 上跑过,Kotlin 路径在 Galaxy S26 配 litertlm-android 0.17.0 验证。配套新增 minicpm5-deploy-litert Agent Skill,与已有的 minicpm5-deploy-mlx 同形;部署表、决策矩阵、默认选择与 sanity check 各补一行,README 部署表加行,路由列表加入 litert,后端计数从 7 变为 8。

How the Capability Boundary Shifted

从证据看,这次变化的核心是把端侧推理的运行时选择做成文档化、可复现的路径,而非新模型能力:CLI 参数面(thinking 预算、采样、CPU/GPU)与 Kotlin API 被并列描述,说明同一 checkpoint 需要跨 CLI 与移动端 SDK 两条接入方式。可验证的下一信号是 litert-community 卡片上的实测表格是否随版本更新,以及 0.17.0 之外版本是否仍被文档覆盖。

Why It Matters

把 LiteRT-LM 纳入部署矩阵并把后端计数从 7 提到 8,反映开源模型项目正把「多运行时可选」当作分发策略的一部分:同一权重同时面向 MLX 与 LiteRT 等不同栈,降低开发者在端侧选型的迁移成本。判断层面,这更像生态位补位而非能力跃迁;可验证信号是后续提交是否继续增加后端,或是否出现针对某一运行时的专门优化说明。

Who It Affects

对采用端侧模型的团队,这类 cookbook 降低的是集成与验证成本:命令与版本被写死,Android 路径有具体设备与 SDK 版本可对照,便于在选型阶段快速判断可行性。其价值取决于文档与实测表格能否随运行时版本持续维护;若维护滞后,参考价值会快速衰减。

What to Watch Next

若该模式延续,MiniCPM 的部署文档可能继续以「每运行时一份 cookbook + 一个 Agent Skill」的粒度扩张,后端计数继续上升。可验证的下一信号是仓库是否发布与 0.17.0 不同的 litert-lm 版本适配说明,或 iOS 侧从指针升级为完整步骤。