2026年7月28日 · arXiv cs.AI
Why Public Service AI Governance Frameworks Risk Failing in the Age of General-Purpose AI: Lessons from Policing
一篇2026年7月28日发表于arXiv的论文指出，通用人工智能（GPAI）的通用性、可访问性和低部署成本削弱了传统AI安全治理的基础，导致公共部门AI治理框架在准确性、偏见、可解释性和问责性方面面临失效风险，并以警务领域为例说明后果。
EVENT STORY
发展脉络
- 首次出现Why Public Service AI Governance Frameworks Risk Failing in the Age of General-Purpose AI: Lessons from PolicingarXiv cs.AI
- 当前判断公共部门AI治理框架（如欧盟AI法案、美国AI行政令）基于窄AI设计，可能不适用于GPAI。论文以警务为例，指出GPAI在执法中的使用可能导致不可控的偏见和问责缺失，引发公众信任危机。Agent Pulse · 分析
该论文认为，公共部门面临采用AI以弥合需求增长与资源下降之间差距的压力，而基于大语言模型的通用人工智能（GPAI）因其通用性、可访问性和低部署成本而加剧了这一压力。论文指出，GPAI的特性破坏了历史上追求AI安全的条件：准确性无法在无界输出上量化，偏见无法在自由文本判断中分解，可解释性沦为解释的表象，问责性因输出优化以说服而削弱。论文以警务领域为例，说明治理失败的最严重后果。
论文揭示了GPAI对传统AI安全概念的挑战：准确性评估需要封闭任务，而GPAI输出无界；偏见检测依赖分类预测，而GPAI输出为自由文本；可解释性在GPAI中变为事后合理化；问责性因模型输出旨在说服而模糊。这些技术特性要求重新设计治理框架。
公共部门AI治理框架（如欧盟AI法案、美国AI行政令）基于窄AI设计，可能不适用于GPAI。论文以警务为例，指出GPAI在执法中的使用可能导致不可控的偏见和问责缺失，引发公众信任危机。
对于提供GPAI公共部门解决方案的公司，论文指出其产品可能面临治理合规风险，需提前调整技术设计以符合新监管要求。对于公共部门，论文强调需重新评估现有AI采购和部署框架。
预计未来将出现针对GPAI的新治理方法，如动态风险评估、输出边界约束和持续审计。可验证信号：监管机构发布GPAI专项指南，或出现GPAI安全评估基准。