← 返回列表

美国发布人工智能安全战略,Anthropic扩大Glasswing防守计划

聚合站 SecWiki新闻 作者 AI安全社 发布 2026年6月4日 08:18 入库 2026-11-17T20:07:33

2026 年 6 月 2 日,白宫发布《促进先进人工智能创新与安全》行政令。同一天,Anthropic 发布关于扩大 Project Glasswing 的官方文章,宣布把面向网络防守的前沿模型能力扩展给更多关键基础设施机构和可信安全团队。

白宫发布总统行政令,把先进 AI 网络安全能力接入国家安全和关键基础设施防护流程。加强政府系统网络防御,建立 AI 网络安全协调机制,设置涉密模型能力评测,建立可信伙伴提前访问框架,打击利用 AI 实施的网络犯罪。

Project Glasswing 则展示了企业侧的落地方式。最初约 50 个初始合作伙伴使用 Claude Mythos Preview 扫描代码库,已经发现超过 1 万个高危或严重安全缺陷。现在,Anthropic 将合作范围扩大到约 150 个新组织,覆盖关键基础设施、开源维护者和可信安全团队。前沿 AI 网络安全能力正在从模型能力展示,转入评估、授权、使用、修复和复盘组成的防守流程。

美国政府发布关于促进先进人工智能创新与安全的行政令


白宫行政令的三条主线

发布依据

根据美国宪法和法律赋予总统的权力,现发布如下命令。

一、目的

先进 AI 能力会带来新的国家安全事项,需要美国行政部门和相关机构协同应对。随着能力继续提升,政府将同产业界合作,把相关技术用于网络安全和国家安全任务。

同私营部门协作,兼顾 AI 创新与安全。推动政府和私营部门信息系统现代化,提高抵御外部威胁的能力。保护创新成果和知识产权,防止被对手利用和窃取,并培养 AI 赋能能力。

二、升级美国系统以适应先进 AI

(一)在本命令发布后 30 天内,国家安全系统委员会(CNSS)应依据本命令目标,迅速采取适当措施,优先加强国家安全系统的网络防御。

(二)在 30 天内,战争部长应依据本命令目标,迅速采取适当措施,优先加强战争部信息系统的网络防御。

(三)在 30 天内,国土安全部长应通过网络安全和基础设施安全局(CISA)主任,并同管理和预算办公室(OMB)主任、总统国家安全事务助理、国家网络总监协商,发布必要的约束性运行指令和其他指导文件,适用于以下三类情况:

  1. 加快并优先推进民用联邦政府信息系统网络防御,保护美国重要职能。

  2. 建立或扩展联邦项目和网络安全服务,强化 AI 赋能防御工具。

  3. 便利各联邦机构、州和地方政府、关键基础设施运营方获取网络安全工具和服务。必要时,这些工具和服务可以包括“纳入范围的前沿模型”,适用对象包括乡村医院、社区银行和地方公用事业单位等关键基础设施运营方。

(四)在 30 天内,财政部长应同国家网络总监、战争部长通过国家安全局(NSA)主任、国土安全部长通过网络安全和基础设施安全局(CISA)主任协商,建立 AI 网络安全协调机制,自愿与人工智能产业及关键基础设施运营商合作成立人工智能网络安全信息中心,负责协调软件漏洞扫描、减少重复扫描,发现并验证漏洞,安排修复优先级,并分发漏洞补丁。

(五)在 30 天内,管理和预算办公室(OMB)主任应同国家网络总监、网络安全和基础设施安全局(CISA)主任协调,梳理现有联邦预算项目中是否有资金可用于支持先进 AI 漏洞检测能力开发。

(六)在 60 天内,人事管理办公室(OPM)主任应扩大美国技术力量项目中的网络安全专家招聘和安置通道。

三、安全部署前沿模型

在本命令发布后 60 天内,财政部长、战争部长通过国家安全局(NSA)主任、国土安全部长通过网络安全和基础设施安全局(CISA)主任,应同白宫办公厅主任通过国家网络总监、总统科技助理、商务部长通过国家标准与技术研究院(NIST)主任协商,并根据需要同其他机构协调,视情况而定:

(一)建立并维护涉密基准测试流程,评估 AI 模型的先进网络能力,并确定模型达到何种能力门槛后应被认定为本命令所称“纳入范围的前沿模型”。必要时,可向 AI 开发者和研究人员共享相关评估。是否作出该认定,由国家安全局(NSA)主任同国家网络总监、总统科技助理、网络安全和基础设施安全局(CISA)主任以及战争部其他适当代表协商后决定。

(二)同 AI 开发者设计自愿框架,使开发者能够开展以下事项。

  1. 同联邦政府接触,判断正在开发的模型是否达到“纳入范围的前沿模型”标准。

  2. 在计划向其他可信伙伴发布这类模型之前,最多提前 30 天向联邦政府提供访问权限。相关访问应受到保密、网络安全、内部人员风险、知识产权保护、使用限制和保密披露要求约束。

3.同联邦政府合作选择可信伙伴,使其能够提前接触纳入范围的前沿模型,以促进安全创新并加强关键基础设施网络安全。

(三)本章任何内容均不得被解释为授权政府设立强制许可、预审或准入要求,也不得据此限制新 AI 模型,包括前沿模型的开发、发布、发行或分发。

四、防范犯罪行为人

司法部长应优先适用相关联邦刑事法律,打击利用 AI 非法访问计算机、未经授权破坏计算机系统,或在非法访问过程中继续借助 AI 实施其他犯罪的行为。相关行为包括入侵公共或私营信息技术系统,或者使用 AI 智能体非法访问数据和信息,并将其用于犯罪或其他违法目的。

五、一般条款

本命令不得解释为损害或影响法律授予任何行政部门、机构或其负责人的权限,也不得影响管理和预算办公室主任在预算、行政或立法建议方面的职能。

本命令应在符合适用法律并受拨款可用性约束的前提下实施。

本命令不创设任何实体性或程序性权利或利益,任何一方不得据此针对美国及其部门、机构、实体、官员、雇员、代理人或其他人员提起法律或衡平法上的强制执行请求。

本命令发布成本由战争部承担。

Anthropic官方宣布扩大Glasswing项目范围


Project Glasswing扩展

Anthropic宣布新增合作组织分布在 15 个以上国家,很多组织还为其他地区提供关键基础设施服务。后续,项目还会继续扩大地域覆盖。此次新增伙伴补上了初始名单中覆盖不足的行业,包括电力、水力、医疗、通信和硬件,涉及约150个机构或公司。还有不少伙伴是供应商、公司或非营利组织,负责维护大量组织依赖的代码库,其中也包括政府部门依赖的代码库。

这些伙伴有一个共同点。一旦其代码库遭到成功攻击,后果可能非常严重。官方估计,对多数伙伴而言,一次重大攻击可能影响超过 1 亿人,并对全球安全和国家安全产生重要影响。

这次扩展延续了 Anthropic 的长期目标,即用 AI 提升软件安全水平,同时帮助行业适应 AI 对网络安全基本假设带来的冲击。

一、Project Glasswing 的角色

Project Glasswing 和 Claude Mythos Preview 已经在软件行业和政府部门引发关于 AI 如何改变网络安全的讨论。这些讨论也推动项目调整扩展方式,并重新界定自身使命。

按官方判断,具备强大网络能力、成本更低、速度更快的 AI 模型正在临近。Project Glasswing 要帮助各类机构提前建立相应的运行规则。

Mythos Preview 延续了 Anthropic 此前多次提示的趋势。未来 6 到 12 个月内,许多 AI 公司预计也会拥有 Mythos 级别模型,并且可能在防滥用措施不足的情况下发布。届时,网络攻击可能更频繁,形式也更难预测。网络防守者需要提前适应。

该项目承担两个角色。

(一)在安全边界内向行业提供更好的模型、工具和通用基础设施,帮助软件行业适应变化。

(二)把支持重点从发现漏洞,逐步转向漏洞披露、修复和补丁部署。

二、支持网络防守者

Project Glasswing 启动后,公司、非营利组织、维护者和研究人员推进很快。初始成员已经大规模使用 Mythos Preview,并同其他伙伴分享信息和实践经验,也同第三方合作,对模型发现结果进行分级研判。

这些组织适应新工具的做法,可以推广到更多容易遭受网络攻击的组织和开发者中。

为此,Anthropic 最近发布了 Claude Security。该产品使用 Claude Opus 4.8 等公开前沿模型扫描代码库,并提出补丁建议。面向可信安全团队,Anthropic 还将按申请提供为 Project Glasswing 伙伴开发的工具,帮助他们更快发现漏洞。

长期目标是支持行业为强大网络模型时代建立新的工作方式、标准和基础设施。

三、加速补丁和其他安全工作

当前网络安全瓶颈已经转向大量漏洞的验证、披露和修补。Mythos 级模型能够暴露更多漏洞,行业也需要提升确认、分级、修复和部署补丁的能力。

Mythos Preview 本身也能参与这些工作。许多 Project Glasswing 伙伴已经用它编写补丁,并在发布前检查代码,防止漏洞带入新版本。类似 Mythos Preview 的模型还可以用于渗透测试、自动化威胁检测和响应、将遗留代码库重构为内存安全语言等防守任务。

官方正在同第三方讨论如何扩大开源软件漏洞审查和修补能力,也在分享漏洞披露方面的做法,目标是让开源维护者更容易判断报告优先级并推进处置。

为应对即将到来的挑战,数十万组织、研究人员和维护者可能都需要获得最先进的网络能力和工具。

Mythos 级能力正在被推向更通用的安全发布方式。要做到这一点,必须先有可靠的防滥用措施,防止模型网络能力被滥用。按照官方说法,Anthropic 和其他 AI 开发者尚未开发出足够成熟的防护措施。网络安全能力既能帮助防守,也可能被用于破坏,因此防护措施既要足够强,也要足够精准。

在此之前,Project Glasswing 会继续扩大,优先覆盖更多关键基础设施提供者、关键开源软件维护者和安全测试人员。后续扩展将继续面向美国和海外组织。Anthropic 还计划扩大 Cyber Verification Program,让更多组织能够在特定网络防御任务中获得 Mythos 级能力。

未来发布前沿模型的风险会继续上升。模型能力会在多个领域持续提升,网络安全尤其具有双重用途,既能赋能攻击者,也能赋能防守者。Project Glasswing 的目标,是在模型跨越重要能力门槛时,为防守者建立长期优势。

解读美国人工智能安全战略


政策与企业实践的连接

白宫行政令处理的是能力入口,包括哪些模型已经具备先进网络能力、谁可以提前访问、访问时需要哪些保密、网络安全、内部人员风险和知识产权约束。Project Glasswing 处理的是能力落地。Mythos 级模型进入可信防守团队后,漏洞发现速度会明显提高,后续工作会迅速压到验证、披露、修复和补丁部署上。

这两条线并不矛盾。前者管“强能力模型怎么进入防守场景”,后者回答“进入之后会改变什么”。当 AI 可以更快扫描代码库、定位漏洞、提出补丁建议,网络安全的短板就会从“发现能力不足”转向“修复体系能否承接”。企业如果只增加扫描工具,而没有同步建设确认、分级、修复、验证和发布机制,告警数量增加反而会放大治理压力。

一、能力先分级,再授权

白宫文件提出涉密基准测试和“纳入范围的前沿模型”概念,本质上是在建立能力门槛。模型分级不能只看通用问答能力,而要看它是否具备改变网络攻防成本结构的能力,例如自动定位漏洞、辅助构造利用路径、生成修复建议,或者在大规模代码库中持续发现高危缺陷。

企业内部也需要类似分级。只做安全知识问答的模型,可以放在较低风险区;能够读取源代码、扫描内网资产、生成攻击载荷、编写补丁或自动修改配置的模型和工具链,应当进入更高等级的审批、隔离和审计流程。这里管的不是“AI 工具”这个总称,而是具体能力对业务系统造成的影响。

二、访问不宜公开扩散,应绑定可信任务

白宫文件强调自愿框架和可信伙伴,Anthropic 也要求新伙伴满足安全要求后才能获得访问。这个设计反映了双重用途技术的基本约束。同一套能力可以帮助防守者修漏洞,也可能帮助攻击者更快找到入口。

Project Glasswing 的做法是把 Mythos 级能力优先交给关键基础设施、开源维护者、安全测试人员和可信安全团队。企业采用类似能力时,也应把访问和任务绑定。谁在使用、扫描什么范围、能否复现漏洞、能否生成补丁、是否允许接触生产凭据、日志如何保留,都应在启用前明确。

三、发现提速以后,修复闭环成为瓶颈

Project Glasswing 披露的数字显示,约 50 个初始伙伴已经发现超过 1 万个高危或严重安全缺陷;扩展后新增约 150 个组织,覆盖 15 个以上国家,涉及电力、水务、医疗、通信、硬件等关键行业。这个量级下,安全团队面对的不是单个漏洞报告,而是一条持续增长的漏洞处理队列。

AI 加入后,疑似漏洞会更多,复现速度会更快,补丁建议也会更快出现。企业的能力建设应放在确认真实存在、判断影响范围、安排修复优先级、验证补丁有效性,以及将修复动作沉淀到研发流程上。否则,模型越强,积压越快。

四、Anthropic后续动作也在补这条链

从公开资料看,Project Glasswing 之后,Anthropic 的动作基本沿着同一条线展开。

首先,Mythos 级能力没有被直接通用开放。官方说法是,通用发布需要足够可靠的防滥用措施,而这类措施目前还不成熟。对不同模型能力做分层发布,把更高风险的网络能力限制在更严格的防守场景中。

其次,Claude Security 把代码库扫描和补丁建议产品化。它使用 Claude Opus 4.8 等公开前沿模型扫描代码库,识别复杂漏洞模式,并给出补丁建议,供人工 review 和修复。这一步对应的是漏洞处理链中的“发现、验证、建议修复”。

再次,Claude Code 的安全能力继续前移。Security Guidance 插件则在 Claude Code 写文件、改文件时提示命令注入、XSS、不安全反序列化等常见风险。前者把安全检查放到代码提交和持续集成环节,后者把提醒前移到代码生成现场。

白宫行政令把高能力模型纳入国家安全和关键基础设施防护流程,Project Glasswing 把 Mythos 级能力放进关键基础设施机构和可信安全团队的漏洞修复实践,Claude Security 和 Claude Code 安全插件则把这种思路继续推向研发流程。

美国正在动用国家力量,联合人工智能企业、联邦政府、其他行业产业构建国家人工智能安全紧密协作机制,应对人工智能时代网络安全风险。

原文链接:https://mp.weixin.qq.com/s/6UMOlUAlCPCTtTf6pLa72Q