MOSAIC: Masked Outsourcing of Secure AI Computations
MOSAIC 是一种用于安全外包 AI 计算的协议，允许可信但计算能力弱的客户端将输入和模型外包给不可信但强大的服务器，而服务器无法学习到输入或模型。其核心是一种新颖的矩阵乘法掩码协议，可扩展到远大于先前工作的矩阵，支持大型 transformer 推理。通过引入少量噪声放松正确性，MOSAIC 实现了最优的渐近客户端开销，具体运行时间比先前工作快数个数量级。其安全性基于决策 LWE 和 LPN 假设。由于噪声在 transformer 的许多层中累积，MOSAIC 使用基于随机 Hadamard 旋转的误差缩放机制来限制误差增长。在大型 70B transformer 模型上，MOSAIC 的困惑度与流行的量化方法相当，在 HumanEval 上甚至匹配全精度 BF16 推理。
Development
- First ReportMOSAIC: Masked Outsourcing of Secure AI ComputationsarXiv cs.AI
- Current AssessmentMOSAIC 的出现可能推动安全外包 AI 计算从理论走向实际应用，为计算能力受限的客户端提供了一种高效且安全的方式，以利用强大的服务器进行大型模型推理。这可能对隐私保护机器学习领域产生重要影响，尤其是在医疗、金融等对数据隐私要求极高的行业。然而，其实际部署仍需考虑噪声对模型质量的影响以及安全假设的适用性。Agent Pulse · analysis
MOSAIC 提出了一种新的矩阵乘法掩码协议，用于安全外包 AI 计算，使客户端可以将输入和模型外包给不可信服务器，同时服务器无法学习到任何信息。该协议通过引入少量噪声放松正确性，实现了最优的渐近客户端开销，具体运行时间比先前工作快数个数量级。其安全性基于决策 LWE 和 LPN 假设。由于噪声在 transformer 的许多层中累积，MOSAIC 使用基于随机 Hadamard 旋转的误差缩放机制来限制误差增长。在大型 70B transformer 模型上，MOSAIC 的困惑度与流行的量化方法相当，在 HumanEval 上甚至匹配全精度 BF16 推理。
MOSAIC 的核心创新在于其矩阵乘法掩码协议，该协议通过引入噪声放松正确性，从而实现了最优的渐近客户端开销，并显著提升了具体运行时间。其安全性基于决策 LWE 和 LPN 假设，为安全外包提供了坚实的密码学基础。针对 transformer 多层结构中噪声累积的问题，MOSAIC 设计了基于随机 Hadamard 旋转的误差缩放机制，有效限制了误差增长。在 70B 模型上的实验表明，其困惑度与量化方法相当，在 HumanEval 上甚至匹配全精度 BF16 推理，证明了其在实际大规模模型上的可行性。
MOSAIC 的出现可能推动安全外包 AI 计算从理论走向实际应用，为计算能力受限的客户端提供了一种高效且安全的方式，以利用强大的服务器进行大型模型推理。这可能对隐私保护机器学习领域产生重要影响，尤其是在医疗、金融等对数据隐私要求极高的行业。然而，其实际部署仍需考虑噪声对模型质量的影响以及安全假设的适用性。
MOSAIC 为计算能力受限的客户端提供了一种高效的安全外包方案，可能降低大型模型推理的硬件门槛，使更多组织能够利用强大的计算资源而不必担心数据泄露。这可能催生新的商业模式，如安全推理服务，并推动隐私保护 AI 的产业化。
未来，MOSAIC 可能进一步优化其误差缩放机制，以支持更深层的模型和更广泛的任务。其安全假设的强度也可能被进一步分析，以评估其在现实世界中的适用性。此外，该协议可能被集成到现有的机器学习框架中，为开发者提供易于使用的安全外包工具。