← 返回列表

阿里云欧阳欣:重塑Agentic时代的安全体系

单站 数说安全 发布 Wed, 23 Sep 2026 11:31:00 +0800 入库 2026-11-18T16:52:03

阿里云安全 2026-09-23 11:31 辽宁

当攻击进入AI Speed,安全防御应该如何跟上?

9月22日,2026年杭州云栖大会技术主论坛上,阿里云智能集团研发副总裁、云安全产品线负责人欧阳欣发表主题演讲,分享在Agent开始自主规划、调用工具、执行任务的时代里,安全应如何在AI速度前坚守防线,并保障Agent全生命周期安全这两个核心问题:

以AI速度防护攻击全栈安全Agentic化

今年4月,Mythos,能自主挖掘0 day漏洞的大模型发布后,引起安全行业的震动。据官方数据统计,8月,全球高危漏洞数量同比增长314%,在CrowdStrike的报告中,当漏洞利用方法公开后,24小时内即有攻击者发起针对性攻击。与此同时,AI也在被攻击者利用,在Anthropic 9月披露的案例中,攻击者借助AI能力,利用已盗取的凭证,约3小时即实现了管理员权限提权。而GreyNoise披露的PaperCut攻击,直接把时间缩短到了分钟和秒:一家机构从初始入侵到域管理员权限失守,仅用了7分钟;在批量攻击阶段,26秒内就有至少11家组织遭到入侵。

在这样的攻击速度下,传统靠人+静态规则的防御模式将面临失效。“当攻击进入AI Speed时代,我们的防御体系还能跟得上吗?”

从开发到运行的持续验证

应对AI Speed攻击,第一步是在开发阶段就发现和修复风险。

早在1979年Glenford Myers的经典著作《The Art of Software Testing》中就首次提出了安全左移的雏形,在2010年代随着DevSecOps兴起并广泛传播,强调安全应成为开发流程中的内置能力。

但实际上,传统的Coding流程里,安全左移难以实现,AI Coding的发展彻底改变了编码的工作模式,一方面代码的生成与变更速度大幅提升,难以依赖上线前集中扫描;另一方面,编码方式和模型能力的迭代,让真正的安全左移成为可能。阿里云今年全新发布Agentic代码安全产品,与Qoder原生集成,并覆盖IDE和CLI环境,将代码安全能力原生嵌入AI编码流程,在代码生成、修改和提交阶段实时识别安全风险,形成“编码-检测-修复-验证”的闭环。

进入运行阶段后,阿里云同样为运行时提供7x24小时的持续安全验证。阿里云今年全新发布Agentic BAS产品基于AI能力进行持续渗透测试,通过侦查、渗透、验证和报告四类Agent协同,理解业务上下文、自主规划验证任务,并根据执行反馈动态调整策略,结合资产和攻击路径,持续发现并验证真实风险。

风险确认后,联动阿里云安全各类产品能力,实现漏洞、基线修复和暴露面管理;其中涉及代码的问题还可以重新反馈到开发侧,形成从开发到运行、再到修复的持续安全闭环。

全栈安全能力升级,让防御也乘上AI速度

为应对AI Speed攻击,阿里云安全对原有安全产品能力进行Agentic升级,基于千问大模型,完成十余款安全产品能力的全面迭代,覆盖:主机、网络、数据、应用到安全运营,为客户提供全面的防御力。

“攻击以AI速度来,我们以AI速度防”阿里云安全产品线负责人欧阳欣总结道。

Agent 安全升级 

防护与管控并举 

AI时代的第二个安全命题,来自Agent自身。

一方面,AI资产正在成为新的攻击面。数据统计,65%的受访组织在过去一年曾经发生过Agent安全事件,导致数据泄露或业务中断。在Google Research收录的一项研究中,哪怕加入安全提示,针对Agent的提示词注入和工具滥用攻击的成功率仍达到46.88%。

另一方面,Agent受控运行也非常重要。在HuggingFace事件中,Agent呈现出和传统应用完全不同的行动逻辑,它可以自主理解目标、规划任务、调用工具和访问数据,为了完成测评任务,在短短4.5天内,700个左右Agent发起了约1.76万次攻击行为,涉及侦查、提权、横向移动和数据外传。

这意味着,Agent的安全防护要双管齐下:既要保障Agent自身在构建、运行时的全流程安全,又要确认其自身行为始终受控,即:不被打穿+不越边界。

Agent防护,是体系化工程

Agent自身的安全防护,从来不是单点产品能解决的,而是体系化工程。阿里云围绕Agent构建了一套贯穿开发态与运行态,覆盖AI Infra、模型层和应用层的纵深防御体系:

在产品方面,阿里云为客户提供三大核心产品:Agent安全中心覆盖生产环境的全链路防护与检测响应,Agent办公安全覆盖办公终端的准入管控与数据防泄露,Agent Identity以统一身份横向打通两个场景,贯穿从基础设施到应用的全栈安全治理。

Agent Identity:为每一个Agent颁发可信身份证

当Agent开始代表员工执行任务,企业需要知道“它是谁、代表谁、能做什么?”阿里云推出Agent Identity产品,为每一个Agent颁发一张可管理的“身份证”。

借助云原生的优势,Agent Identity默认支持10种身份源与多云统一纳管,并可快速接入Agent,实现身份与审计覆盖。身份可管,权限可控,行为可查,是企业规模化使用Agent的基础。

Agent安全中心:一体化Agent防护平台

如果说Agent Identity解决了Agent是谁以及它的权限边界,那Agent安全中心则是进一步覆盖Agent资产发现与实际运行的过程,当Agent从“回答问题”,走向“自主规划、调用工具、执行任务”,安全面对的就不再只是一次模型输入,而是一条完整的执行链路。这条链路里,任何一个环节失控,都可能把一次提示词风险,放大成真实的业务影响。阿里云Agent安全中心,为Agent贯穿事前、运行时和相应处置的全链路一体化安全防护。

Agent安全不能被只看成一个孤立动作,它的背后包含任务目标、上下文、调用轨迹等等,阿里云Agent安全中心会分析Agent全链路上下文,并系统关联Agent的任务目标、执行过程中获得的角色和权限、调用过的工具,以及对模型作出的关键决策,并这些信息进行综合风险研判:哪怕一个看起来完全正常的工具调用行为,如果偏离了原始任务目标,或超过了权限等级,依旧需要被及时拦截。

识别风险后,基于AgentLoop的上下文关联能力,Agent安全中心会根据风险等级执行放行、告警、阻断或降权,并保留完整的关键证据,实现攻击链路阻断、风险影响限制和事后追溯,现已覆盖OWASP Agent Top 10中90%以上的风险项。

“Agent安全不能只保护模型。企业需要看见Agent资产、理解Agent上下文、约束Agent执行,并在风险真正影响业务之前及时响应。”阿里云安全产品线负责人欧阳欣在会上说道。

Agent办公安全:准入与数据防泄漏管控

Agent的使用场景正在快速扩展到企业办公。

去年Agent还更多用于编程,而当下产品、销售、采购、财务等不同岗位都开始通过Agent处理数据并完成复杂任务,新的问题随之而来:员工的办公电脑里到底跑着多少Agent,触碰了哪些数据,又外发了什么?

针对Agent办公场景,阿里云构建了准入管控与全链路防护体系:

目前,该体系已经支持40+主流Agent,可识别和阻断380多种敏感信息外发场景以及40多种提示词攻击。只有实现Agent的风险可控,才能更多规模地释放Agent的生产力。

阿里云安全与你同行与AI同频进化

目前,阿里云安全的全栈AI防护能力已经在物流、金融、零售、汽车、制造等多个行业落地,从API安全、机器身份治理,到智能安全运营、运行时模型保护和自动化分析响应,不同行业面对的业务场景并不相同,但背后的安全逻辑趋于一致:AI正在改变攻击速度,安全必须与AI同频进化。

面向已经到来的AI时代,阿里云安全将持续进行安全能力的Agentic进化,提升风险发现、研判、修复和响应速度,并让Agent始终运行在可控的边界之内。让企业在与攻击者的对抗中获得速度优势,也让每一个Agent在安全、可信、可控的边界内释放生产力。

(2026.09.23数说安全发布)

原文链接:https://mp.weixin.qq.com/s?__biz=MzkzMDE5MDI5Mg==&mid=2247512125&idx=2&sn=3337590fd1ff2079f6884e298a230580