2026年8月5日 · llama.cpp
b10285
llama.cpp 发布 b10285 版本，为 deepseek-ocr 增加多行批处理支持，将多行合并为一次处理而非逐行处理。
EVENT STORY
发展脉络
- 首次出现b10285llama.cpp
- 当前判断llama.cpp 持续优化多模态模型支持，反映开源社区对 OCR 等实用能力的重视。可验证的下一信号是其他多模态模型获得类似优化。Agent Pulse · 分析
llama.cpp 在 b10285 版本中为 deepseek-ocr 引入了多行批处理支持，将多行合并为一次处理而非逐行处理。该版本同时提供了广泛的平台支持，包括 macOS、iOS、Linux、Android、Windows 和 openEuler 等。
多行批处理可能减少 OCR 推理时的调度开销，提升吞吐量。可验证的下一信号是基准测试中吞吐量或延迟的改善。
llama.cpp 持续优化多模态模型支持，反映开源社区对 OCR 等实用能力的重视。可验证的下一信号是其他多模态模型获得类似优化。
对于依赖本地 OCR 的应用，此优化可能降低推理成本，提升用户体验。可验证的下一信号是相关应用采用此版本并报告性能提升。
未来可能看到更多针对多模态模型的批处理优化，以及 OCR 在边缘设备上的更广泛应用。