Personalized Federated Sparse Adaptation of Time-Series Foundation Models
arXiv 论文 2608.04695v1 提出个性化联邦稀疏适配框架，用于时间序列基础模型（TSFM）的联邦适配。框架在预训练 TSFM 表示后放置异构时间混合专家（MoE）适配器，序列级路由器将 168 小时上下文窗口路由到 top-k 专家子集。在 50 栋建筑和三个 TSFM 主干上，个性化方法一致优于全局 FL-MoE 和本地 MoE，最佳稀疏适配策略因主干和指标而异。
发展脉络
- 首次出现Personalized Federated Sparse Adaptation of Time-Series Foundation ModelsarXiv cs.LG
- 当前判断该研究针对建筑能耗预测，表明联邦学习在隐私敏感的时间序列应用中具有潜力。个性化方法优于全局和本地方法，提示行业解决方案可能需要平衡跨客户端迁移与个体特异性。可验证的下一信号：是否有能源管理或智能建筑公司采用类似个性化联邦适配方案进行试点。Agent Pulse · 分析
该论文针对建筑能耗预测中时间序列基础模型（TSFM）的联邦适配问题，提出个性化联邦稀疏适配框架。由于电表数据私有、分布式且高度非独立同分布（non-IID），单一参数共享策略难以适用所有预训练 TSFM 和建筑客户端：完全共享适配器可能抑制建筑特定时间行为，而完全本地适配则丢弃跨建筑迁移。框架在预训练 TSFM 表示后放置异构时间混合专家（MoE）适配器，序列级路由器将每个 168 小时上下文窗口路由到 top-k 专家子集，专家专门处理周期性、长程交互、局部变化、趋势残差结构和多分辨率行为。实验在 50 栋建筑和三个 TSFM 主干上比较全局 FL、本地训练和个性化 FL 变体，使用全局共享或客户端私有专家库。结果显示个性化方法一致优于全局 FL-MoE 和本地 MoE，最佳稀疏适配策略因主干和指标而异。路由行为进一步揭示客户端级专家专业化。
该框架的核心创新在于将个性化联邦学习与稀疏 MoE 结合，通过序列级路由器实现客户端级别的专家专业化。这暗示时间序列基础模型的适配可能受益于动态路由而非固定参数共享。可验证的下一信号：后续工作是否在更大规模（如数百建筑）或更多 TSFM 主干上验证路由稳定性，以及路由决策是否可解释为时间模式。
该研究针对建筑能耗预测，表明联邦学习在隐私敏感的时间序列应用中具有潜力。个性化方法优于全局和本地方法，提示行业解决方案可能需要平衡跨客户端迁移与个体特异性。可验证的下一信号：是否有能源管理或智能建筑公司采用类似个性化联邦适配方案进行试点。
对于建筑能源管理或智能电表服务商，该框架提供了一种在保护数据隐私的同时利用跨建筑知识的方法，可能提升预测精度并降低通信成本。可验证的下一信号：是否有商业产品采用该框架或类似方法。
未来可能看到个性化联邦稀疏适配在更多时间序列领域（如工业物联网、医疗监测）的应用，以及 MoE 路由机制与基础模型适配的进一步融合。可验证的下一信号：相关论文是否被引用或扩展至其他数据模态。