Intention Inference Under Execution Noise: Separating Aleatoric and Epistemic Uncertainty in Social Dilemmas
arXiv 论文 2608.02440v1 提出在嘈杂社会困境中，将对手意图编码为潜在状态、执行动作作为噪声观测的 POMDP 公式，并在主动推理框架下求解，成本函数分解为认知和实用部分。在对称噪声的迭代囚徒困境中，推导出合作崩溃的临界噪声阈值，实验显示 POMDP 对条件合作对手有优势，但相互意图推断在足够噪声下会导致信念驱动的崩溃。
发展脉络
- 首次出现Intention Inference Under Execution Noise: Separating Aleatoric and Epistemic Uncertainty in Social DilemmasarXiv cs.LG
- 当前判断该研究可能影响多智能体系统设计，尤其是在需要鲁棒合作的场景（如自动驾驶、机器人协作）。区分认知和偶然不确定性有助于构建更可靠的协作系统。可验证信号是相关应用是否采用 POMDP 建模意图。Agent Pulse · 分析
该论文针对嘈杂社会困境中的意图推断问题，指出标准 MDP 将执行动作视为状态，无法区分敌意意图与动作误差，导致过度报复。作者提出 POMDP 公式，将对手意图作为潜在状态，执行动作作为噪声观测，并在主动推理框架下求解，成本函数分解为认知（推断当前意图）和实用（学习意图演化）部分。在对称噪声的迭代囚徒困境中，推导出合作崩溃的临界噪声阈值，与学习先验的固定点条件相关。实验表明，意图推断的价值依赖于情境：POMDP 对条件合作对手有一致优势，但相互意图推断在足够噪声下会产生相关的信念驱动崩溃。该优势特定于意图归因可解耦的游戏。
该工作将社会困境中的意图推断形式化为 POMDP，而非 MDP，这为多智能体交互中的不确定性建模提供了新视角。主动推理框架下的成本分解（认知+实用）可能启发新的探索-利用平衡机制。临界噪声阈值的推导为合作崩溃提供了理论预测，可验证信号是后续工作是否在更复杂博弈中复现该阈值。
该研究可能影响多智能体系统设计，尤其是在需要鲁棒合作的场景（如自动驾驶、机器人协作）。区分认知和偶然不确定性有助于构建更可靠的协作系统。可验证信号是相关应用是否采用 POMDP 建模意图。
对于开发多智能体协作系统的公司，该研究提供了理论框架来改进意图推断，可能提升系统在噪声环境下的合作效率。可验证信号是相关产品是否采用类似方法。
未来可能将 POMDP 意图推断扩展到更复杂的博弈和真实世界场景，并探索如何缓解相互推断导致的崩溃。可验证信号是后续论文是否提出缓解策略或扩展实验。