F(AI)2R: Who Did What, and Who Checked? Verifiable AI Provenance as an Executable Skill
F(AI)2R 论文提出 aiprov 扩展(PROV-O 扩展),用于记录 AI 参与生成的人工制品的来源信息,并作为可执行技能打包,由 AI 代理自行操作。该技能要求人类操作员提供 ORCID ID,从公共注册表解析身份,并搭建持续集成,每次推送都需通过图一致性检查并发布当前构建。论文本身作为案例研究,其制作过程中的每个活动、声明和来源都记录在仓库的来源图中,遵循两个不变式:无父声明,以及只有人类才能授予的验证层级。
Development
- First ReportF(AI)2R: Who Did What, and Who Checked? Verifiable AI Provenance as an Executable SkillarXiv cs.AI
- Current Assessment该工作展示了 AI 来源记录从学术实验向可部署技能的转变,可能推动 AI 生成内容审计的标准化。对于依赖 AI 生成代码、文档或研究的团队,这种可验证来源模型有助于满足合规和可追溯性要求。Agent Pulse · analysis
F(AI)2R 论文提出 aiprov 扩展(PROV-O 扩展),用于记录 AI 参与生成的人工制品的来源信息,并作为可执行技能打包,由 AI 代理自行操作。该技能要求人类操作员提供 ORCID ID,从公共注册表解析身份,并搭建持续集成,每次推送都需通过图一致性检查并发布当前构建。论文本身作为案例研究,其制作过程中的每个活动、声明和来源都记录在仓库的来源图中,遵循两个不变式:无父声明,以及只有人类才能授予的验证层级。
aiprov 扩展基于 PROV-O,为 AI 参与生成的人工制品提供可验证的来源模型。其可执行技能设计将来源记录自动化,通过持续集成强制图一致性,确保每次推送都符合来源图约束。这种设计使得 AI 代理能够自主操作来源记录流程,同时保留人类对关键验证层级的控制。
该工作展示了 AI 来源记录从学术实验向可部署技能的转变,可能推动 AI 生成内容审计的标准化。对于依赖 AI 生成代码、文档或研究的团队,这种可验证来源模型有助于满足合规和可追溯性要求。
对于使用 AI 辅助开发的企业,可验证来源模型降低了审计成本,提高了对 AI 生成内容的信任度。该技能可集成到 CI/CD 流水线中,为 AI 生成代码提供自动化的来源追踪,有助于满足合规要求。
未来可能看到更多 AI 代理将来源记录作为内置技能,形成行业标准。可验证来源图可能成为 AI 生成制品的必要组成部分,尤其是在监管严格的领域。