← 返回列表

长亭发布AI安全新品驭元(Sentra),构建Agent安全治理闭环

单站 长亭科技 发布 Fri, 16 Oct 2026 17:01:00 +0800 入库 2026-11-18T09:14:09

原创 夺旗猫 2026-10-16 17:01 北京

Agent时代的第一道安全闸

2026年9月,全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》,将智能体安全风险单独列出,并围绕权限滥用、工具调用、数据泄露等问题提出治理建议。

与此同时,《智能体应用安全基本要求》与《数据安全技术 智能体数据处理安全要求》两项国家标准正在制定中,分别围绕智能体的权限与操作安全、数据处理全过程的安全保护细化要求。

对企业而言,随着 AI 从回答问题走向执行任务,安全治理也进一步延伸到它实际做了什么、如何完成任务。Agent 已经开始接入生产与业务流程,在提升效率的同时,带来了全新的安全风险:

为此,长亭科技正式发布 驭元(Sentra ),一款面向企业 AI Agent 使用场景的 AIDR(AI Agent Detection & Response,AI Agent 检测与响应)产品。

驭元 以“以 AI 治理 AI”为理念,让安全 Agent 理解任务上下文,实时识别业务 Agent 执行中的风险。

Agent 资产与工具扩展带来管理盲区

未知 Agent 带来的资产盲区

个人 Agent 的运行环境正从员工电脑延伸到服务器与云端。以Grok bot 为例,用户可以将其部署在云服务器上,通过电脑或手机远程使用。员工自行搭建、按岗位定制的 Agent,让企业需要管理的对象从一批标准化 AI 应用,扩展为分散部署、持续运行的个人与业务助手。

这些 Agent 的名称、代码和部署方式各不相同,仅凭已知应用清单,难以完整掌握实际使用情况。未被发现的 Agent 仍可能持有业务凭据、读取敏感数据并调用外部工具;其接入的 MCP 服务、Skill、定时任务和模型服务也会持续变化。资产不可见,意味着企业难以确认谁在使用 Agent、它接触了哪些资源,以及是否已纳入安全管控。

针对 Agent 形态多样、部署分散与配置持续变化的问题,驭元将已知资产发现与基于行为特征的未知 Agent 发现相结合,帮助安全团队识别未被现有资产清单覆盖的Agent。结合扩展组件梳理、风险扫描与周期核查,持续掌握 Agent 的使用范围及相关风险。

模型中转服务的接入风险

当员工为降低调用成本或方便接入,将 Agent 的模型接口配置为未经审核的中转站时,提交给 AI 的源代码、客户合同、经营报表,以及工具自动读取的内部文档,都可能先经过中转站运营方,再被转发至模型服务。界面上显示的模型名称,并不能说明请求实际经过了哪些服务、由谁接收和处理。

如果中转站记录请求或留存内容,企业的敏感数据就可能形成一份不受自身控制的外部副本。谁能访问、保存多久、是否继续转发,企业可能无从确认;一旦发生泄露,也难以还原完整的数据流转过程。一次未经审核的接口配置,可能让日常 AI 使用成为持续向不可信第三方传递业务数据的通道。

针对未经审核的模型中转服务带来的数据暴露风险,驭元从 Agent 实际接入的模型服务入手,将服务发现、访问控制与数据去向分析结合起来。重点关注未经审核的接入地址,并将接收方信息纳入会话与数据内容的关联分析,帮助企业落实模型服务的使用范围。

Skill 恶意指令与代码风险

Skill 中的指令、脚本及附带文件会影响 Agent 的执行行为。来源不明的 Skill 可能包含恶意指令或可疑代码,将风险引入任务执行过程。

针对 Skill 的安全风险,驭元结合大模型分析、静态检测与云沙箱动态检测,从指令意图、文件特征和实际运行行为评估风险,为企业核查和使用 Skill 提供依据。

MCP 工具滥用风险

MCP 服务扩展了 Agent 可调用的工具与数据接口。未经批准或存在风险的服务接入,可能使 Agent 接触不应使用的资源,或将业务数据传递给未经审核的服务方。

针对这类接入与使用风险,驭元提供 MCP 禁用与网关接入管控,帮助企业明确可使用的工具服务范围,并将访问要求落实到工具调用过程。

正常操作背后的违规风险

Agent 单个操作符合权限要求,并不意味着整个任务过程合规。业务 Agent 可能在合法身份和正常授权下,通过连续的数据读取、文件操作与工具调用,形成敏感信息泄露风险,员工也未必意识到其中的问题。

例如,HR Agent 为完成薪资分析读取员工薪资记录,属于正常业务操作;如果随后将这些数据写入 U 盘,或发送给未经批准的外部 MCP 服务,就可能违反企业的数据保护要求。判断这类风险,需要关联前面读取了什么、后面准备做什么,以及数据将流向哪里。

场景示意:薪资读取与后续传递,需要结合任务上下文及企业策略评估风险

针对这类跨步骤形成的风险,驭元由 安全 Agent 持续分析任务上下文,将前序行为、数据内容与后续操作关联起来,依据企业策略评估风险,让防护判断随任务推进持续更新。结合文件访问防护、高危命令检测与会话审计,驭元进一步支持对具体风险动作的防护和追溯。

上下文风险研判与操作防护

自动化数据流转中的敏感信息保护

敏感信息可能通过用户提交的提示词和文件进入 Agent,也可能由 Agent 调用工具自动读取。代码、日志和文档中的 API 密钥、访问令牌及业务数据,可能随工具返回内容进入后续模型请求,或被继续传递给其他工具和服务。

数据读取权限与数据外发权限需要分别判断。 获准读取的内容仍可能包含不应外发的信息。企业需要覆盖输入、工具返回和后续传递环节,结合数据内容、用途与接收方识别泄露风险。

针对敏感信息在任务执行中被读取和继续传递的风险,驭元在已适配的 Agent 中,将检测覆盖到用户输入和工具返回环节。尤其针对代码、日志和配置中的 API 密钥、访问令牌等凭据,通过内容检测与自动脱敏,降低原始凭据进入后续模型请求或工具调用的风险。

敏感内容检测结果与任务、模型服务及后续动作关联后,可以为 Agent Loop 中的持续安全判断提供依据,使数据保护覆盖任务执行中的多个环节。

通过 Agent 完成安全运营

资产核查、策略配置与风险跟进,也对安全团队的日常管理提出了要求。驭元将 Agent 引入管理侧,辅助管理员梳理资产、构建策略和汇总报告,让“以 AI 治理 AI”进一步落实到日常安全工作中。

控制台围绕这一协作方式设计,接口采用便于 Agent 理解和调用的模型。管理侧帮助企业表达和维护安全要求,运行侧结合任务上下文落实判断与处置。

从 Agent 防护到企业 AI 安全治理

随着 AI 从辅助问答走向执行任务,企业需要同时管理模型资源、保护交互内容,并对 Agent 的实际操作持续落实安全要求。

驭元的发布,进一步将长亭的 AI 安全防护深入到任务执行过程,与 长亭的百智大模型网关、守元等产品共同构成覆盖模型接入、内容交互与 Agent 执行的企业级 AI 安全治理体系。

三者围绕企业 AI 使用过程协同防护,将策略管控、审计追溯与风险处置联动起来,形成统一治理闭环:从明确模型与工具的使用范围,到保护敏感内容、处置风险操作,再到还原任务过程与持续完善策略,让企业看得见 AI 的使用情况、管得住关键操作、追溯得清风险过程。

目前,长亭自身已部署并成功运行这套 AI 安全治理解决方案,将其应用于自身的 AI 使用与安全管理。

基于内部实践,长亭将持续深化“以 AI 驾驭 AI”的能力,让安全判断随任务上下文持续更新,让防护措施落实到实际执行,支撑企业在可控、可追溯的安全边界内规模化使用 AI。

欢迎联系我们,体验驭元,在实际业务中排查 Agent 资产、工具调用与敏感数据外传风险。让企业用清楚、管明白每一个 Agent,让 AI 应用落地更安心。

原文链接:https://mp.weixin.qq.com/s?__biz=MzIwNDA2NDk5OQ==&mid=2651390806&idx=1&sn=6c409b457cba6245c77403f0003d4794