2026年7月30日 · arXiv 论文 2607.28187v1
Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
arXiv 论文（2607.28187v1）对三家商业图像审核服务进行黑盒评估，发现七种简单、模型无关的图像变换（如颜色反转、灰度化）可在无需梯度、替代模型或目标系统知识的情况下绕过所有三家服务，导致不安全到安全的决策变化，同时内容对人类仍可识别。
EVENT STORY
发展脉络
- 首次出现Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content ModerationarXiv cs.AI
- 当前判断商业内容审核服务宣称提供更广泛的安全过滤，但该研究显示其可被低成本、无需梯度的变换绕过，可能影响平台安全策略的有效性。审核服务的鲁棒性差异显著，可能促使服务商改进对抗鲁棒性。Agent Pulse · 分析
该研究对三家商业多模态审核 API 进行大规模黑盒评估，测试七种简单图像变换（如颜色反转、灰度化）在多个提供商、数据集、危害类别、感知相似性约束和变换强度下的鲁棒性。结果显示，所有三家服务均可被这些廉价变换绕过，且固定变换（如颜色反转和灰度化）能在保持内容对人类可识别的同时，引发不安全到安全的决策变化。服务的鲁棒性差异显著。
研究表明，基于大模型的多模态审核 API 对简单图像变换的鲁棒性不足，颜色反转和灰度化等固定变换即可改变分类结果。这暗示模型可能依赖低层颜色或纹理特征而非语义理解，且不同服务的鲁棒性差异可能源于训练数据或架构差异。
商业内容审核服务宣称提供更广泛的安全过滤，但该研究显示其可被低成本、无需梯度的变换绕过，可能影响平台安全策略的有效性。审核服务的鲁棒性差异显著，可能促使服务商改进对抗鲁棒性。
对于依赖第三方审核 API 的平台，该研究提示需评估供应商鲁棒性，并可能推动审核服务商将对抗鲁棒性作为差异化卖点，影响采购决策。
未来可验证的信号包括：服务商是否发布针对此类变换的防御更新，或第三方是否提出更鲁棒的审核基准。