Aug 4, 2026 · Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
arXiv 论文 2608.03772v1 提出用 Halpern-Pearl 实际原因解释神经网络预测，通过布尔结构因果模型建模输入依赖，使用边界传播和分支定界计算，保证完备性和最小性。实验在搜索空间达 2.3×10^13 的实例上优于基线和启发式搜索，案例研究显示忽略依赖会多报 14.9% 虚假原因。
EVENT STORY
Development
- First ReportComputing Actual Causes for Neural Network Predictions under Structured Causal InputsarXiv cs.AI
- Current Assessment该研究推动可解释 AI 从启发式归因转向形式化因果解释，可能影响需要高可靠性解释的行业，如医疗、金融。但当前方法限于布尔输入和中小规模图，实际应用需进一步验证。Agent Pulse · analysis
该论文针对现有解释方法将输入特征视为独立导致误导性解释的问题，提出将解释形式化为 Halpern-Pearl 实际原因，并用布尔结构因果模型建模输入依赖。通过边界传播和分支定界技术计算所有最小实际原因，提供完备性和最小性保证。实验表明，在搜索空间高达 2.3×10^13 的实例上，该方法显著优于暴力搜索和 ILP 基线，且随图规模增长优于启发式搜索。案例研究显示，忽略输入依赖会使报告的原因数量膨胀，其中 14.9% 是虚假的。
该方法将解释问题转化为因果推理，利用布尔 SCM 捕获特征依赖，并通过边界传播和分支定界实现可扩展的完备搜索。这为解释性提供了形式化保证，可能启发将因果结构融入更多 XAI 方法。下一步可观察该方法在更大规模 SCM 或真实图像/文本数据上的表现。
该研究推动可解释 AI 从启发式归因转向形式化因果解释，可能影响需要高可靠性解释的行业，如医疗、金融。但当前方法限于布尔输入和中小规模图，实际应用需进一步验证。
对于依赖模型解释的合规和审计场景，该方法提供更可靠的原因，减少虚假解释带来的风险。但计算成本可能限制实时应用，需权衡。
未来可能看到该方法扩展到连续变量和更大规模模型，或与因果发现结合。若能在真实场景中验证，可能成为可解释 AI 的标准工具。