议题名称:
AI Agent 的信任边界:从中转 API 到 Agent Tool Call 的供应链劫持
(PPT:https://xz.aliyun.com/news/92255)
议题简介:
过去对 LLM 中转站的关注,往往集中在“以次充好”“模型冒充”“低价 API 套壳”等商业欺诈问题上。但在AI Agent 场景中,中转 API 的风险远不止于此:当Agent 将模型输出视为可执行决策,并允许模型响应触发本地工具调用时,位于通信链路中的 API 中转服务就可能从“流量代理”升级为“指令注入点”。 本议题将从 Agent 与 LLM API 的信任边界出发,结合 Agent MITM Hijack 与中转钓鱼攻击案例,分析攻击者如何通过诱导用户修改 Base URL、搭建 Fake LLM Server 或恶意中转服务,捕获并篡改 OpenAI / Anthropic 风格的流式响应,从而影响 Agent 的 Tool Call 行为。分享内容将覆盖 OpenCode、Claude Code、OpenClaw、DeepAudit 等不同 Agent 场景下的协议差异、劫持方式与攻击链构造,并进一步延伸到通过注入 Tool 实现限制绕过与持久化的风险。
通过本次分享,希望帮助听众认识到:Agent 安全不只是 Prompt Injection,也不只是模型能力本身的问题,而是贯穿模型供应链、API 中转链路、工具调用协议、本地执行权限与持久化机制的系统性安全问题。最终我们也会讨论此类攻击对 Agent 架构设计、权限隔离、工具调用校验和中转服务信任模型带来的启示。
嘉宾简介:
李秉卓、朱俊逸,北京邮电大学天枢Dubhe战队成员。