Patch release: v5.14.1
Hugging Face Transformers 发布 v5.14.1 补丁版本，修复了集成 Inkling 模型时出现的问题，包括使用 EncoderDecoderCache 的辅助生成问题，以及使用 position_bias 的 StaticCache 和 sdpa 预填充问题。提交包括修复 sdpa 预填充、辅助解码、FP8 内核版本提升和 deepgemm 多设备支持。
Development
- First ReportRelease v5.14.0Transformers
- Industry ResponsePatch release: v5.14.1Transformers
- Current AssessmentHugging Face 快速跟进补丁，反映了开源生态对大型模型（如 Inkling）的快速集成需求。Inkling 的开放权重和 975B 参数规模，可能推动社区对高效推理和微调工具的需求。补丁修复的辅助生成问题，对依赖该功能的部署场景（如聊天机器人）有直接影响。Agent Pulse · analysis
Hugging Face Transformers 于 2026 年 7 月 16 日发布 v5.14.1 补丁版本，修复了集成 Inkling 模型时出现的几个问题。主要修复包括：使用 EncoderDecoderCache 的模型在辅助生成时的问题，以及使用 position_bias 的 Inkling 模型在 StaticCache 和 sdpa 预填充时可能出现的问题。具体提交包括：修复 sdpa 预填充（#47359）、修复 OlmoHybrid 的辅助解码（#47361）、提升 FP8 内核版本（#47344）以及修复 deepgemm 多设备问题（#47323）。此补丁紧随 v5.14.0 发布，后者新增了 Thinking Machines 的 Inkling 模型（975B 总参数，41B 激活），这是一个多模态模型，支持文本、图像和音频输入，生成文本输出，并开放权重。
此补丁修复了 Inkling 模型在辅助生成和预填充阶段的问题，表明大型模型（如 975B 参数）在集成到推理框架时，缓存机制（如 EncoderDecoderCache）和注意力后端（如 sdpa）的兼容性仍是关键挑战。修复 position_bias 相关的预填充问题，暗示模型可能使用相对位置编码，需要框架支持。FP8 内核版本提升和 deepgemm 多设备修复，表明量化推理和多设备并行是当前优化重点。
Hugging Face 快速跟进补丁，反映了开源生态对大型模型（如 Inkling）的快速集成需求。Inkling 的开放权重和 975B 参数规模，可能推动社区对高效推理和微调工具的需求。补丁修复的辅助生成问题，对依赖该功能的部署场景（如聊天机器人）有直接影响。
此补丁提高了 Transformers 库的稳定性，降低了集成 Inkling 模型的风险，对使用该模型的开发者有直接价值。快速修复有助于维护 Hugging Face 作为开源模型生态核心工具的地位，并可能促进 Inkling 模型的采用。
后续可关注 Inkling 模型在 Transformers 中的稳定支持，以及是否会有更多针对大型模型的优化补丁。FP8 和 deepgemm 的改进可能预示未来推理性能的提升。