议题名称:
面向大模型隐私推理的安全协议-MPC与ZK的角色分工
(PPT:https://xz.aliyun.com/news/92061)
议题简介:
随着大模型在医疗、金融、代码生成等场景中的广泛应用,用户输入、模型参数和推理过程中的中间状态都面临隐私泄露与可信性不足的风险。如何在保证模型能力的同时,实现数据隐私保护、模型机密性维护和推理结果可验证,已成为大模型安全部署中的重要问题。本报告聚焦大模型隐私推理场景,讨论多方安全计算(MPC)与零知识证明(ZK)在其中的角色分工。报告首先分析大模型推理面临的主要隐私风险与安全需求,随后介绍MPC如何支持在不泄露用户数据和模型参数的前提下完成协同推理计算,并讨论其在计算与通信开销上的挑战。进一步地,报告将介绍ZK如何为推理过程提供正确性证明与可验证性增强,从而提升模型服务的可信性。最后,报告将结合当前研究趋势,讨论密码技术在高效安全推理、可信模型服务与隐私保护人工智能系统中的潜在发展前景。
嘉宾简介:
张然,电子科技大学网络空间安全专业博士研究生。