← 返回列表

致安全工程师的一封信:长风既起,别故图新

聚合站 SecWiki技术 作者 MY战略 发布 2026年4月29日 16:09 入库 2026-11-18T02:18:45

各位展信安,

安全大势,风雷既作;革故鼎新,正在此时。诸君其勉,毋复迟疑!

DeepSeek V4 这类模型把百万级上下文、工具调用、结构化输出、Agent 编排、复杂代码推理放到工程台面上。Claude Mythos Preview 已被用于发现大量零日漏洞,包括 OpenBSD、FFmpeg、Linux kernel 等关键软件问题,并能在相当程度上自主发现与利用漏洞。Google Project Zero 与 DeepMind 的 Big Sleep 也公开了 AI Agent 在 SQLite 中发现真实可利用内存安全问题的案例。

这些事情合在一起,只说明一句话:安全不再是“人盯代码、眼看告警、3手写报告”的行业,而是“人驾驭机器、机器扩展人”的行业。

1

旧艺可敬,不可守成

从前的手工逆向、人工研判、人工挖洞,当然有价值;就像蒸汽机出现前的织布匠,也曾是手艺人。但珍妮纺纱机、蒸汽机、流水线、电算表格出现后,留下来的不是“最会手算的人”,而是能重组生产流程的人。今日亦是如此。

仍有顽固者,把通用大模型能力包装成所谓“垂直神模”,靠信息差吓唬客户、哄骗同行,是愚蠢,也是危险。大模型已经把大量基础知识、脚本能力、代码阅读、样本初筛、漏洞线索检索平权了。不要说谎!不要说谎!不要说谎!

信息差的墙,已经被算力推倒。未来真正值钱的,不是“我知道一个别人不知道的命令”,而是:我能把知识、工具、数据、流程、验证闭环组织成一套持续运转的安全生产系统。

2

安全公司的“六大新工力”

安全公司要重铸六种能力。

第一,AI 漏洞工程能力。

不是让模型“帮我找洞”这么简单,而是建立代码仓库接入、依赖风险扫描、、模糊测试、崩溃样本归因、PoC 复现、补丁生成、回归测试的流水线。DARPA AIxCC 决赛中,参赛系统发现了 86% 的合成漏洞并修补了 68%,说明漏洞发现与修复正在从专家手工活变成自动化工程体系。

第二,Agent 化安全运营能力。

SOC 不应再只堆告警。要把 EDR、NDR、WAF、IDS、DNS、流量日志、威胁情报统一成证据图谱,由 Agent 自动做告警去重、资产定位、时间线拼接、攻击链还原、处置建议生成,人负责裁决与复核。安全分析师不再是告警搬运工,而是调查流程的导演。

第三,AI 应用安全能力。

企业上大模型,新的攻击面马上出现。OWASP LLM Top 10 已把提示注入、不安全输出处理、训练数据投毒、供应链、敏感信息泄露、插件设计不安全、过度代理、过度依赖、模型窃取等列为关键风险。安全公司必须能测 RAG、测 Agent、测插件、测工具权限、测数据越权、测模型输出到下游系统的执行风险。

第四,动态知识流保护能力。

过去保护的是数据库、文件、服务器;以后更要保护“知识如何流动”:谁把什么数据喂给模型,模型调用了什么工具,生成了什么结论,进入了哪个工单、代码库、邮件和处置系统。数据静止时叫资产,数据流动时叫权力。

第五,安全开发融合能力。

代码生成以后,不要等系统上线后再做安全检查,而是在代码提交、构建、测试、发布的每一步都自动做安全检测。以后优秀安全公司卖的不是扫描器,而是“开发过程中的安全刹车、方向盘和黑匣子”。

第六,人机协同验证能力。

模型会胡说,会误判,会越权。公司必须建立基准集、回放集、红队样本集、误报漏报评估、人工复核门槛、审计日志与责任链。没有验证闭环的 AI 安全能力,只是会写漂亮话的自动化风险源。

3

安全工程师该怎样换骨

各位,最要紧的是你自己要变。不要再问“AI 会不会替代我”,而要问:我今天的工作,有多少能被我自己用 AI 重构掉?

逆向工程师

不要只守着 IDA、Ghidra 一行行看。你要学会批量反编译、函数语义聚类、调用图摘要、恶意行为抽取、配置解密自动化、沙箱行为比对、YARA/Sigma 规则AI辅助生成。模型负责读 80% 的重复函数,你负责判断 20% 的关键路径:持久化、提权、通信、加密、反调试、横向移动。你的交付物也要从“样本报告”升级为“家族画像、规则包、检测逻辑、处置脚本”。你不是AI的奴隶,是AI的指挥官。

安服工程师

不要再靠 checklist 走过场。你要能把一次服务做成持续系统:资产测绘、暴露面扫描、弱口令验证、日志接入、基线对比、风险优先级排序、整改闭环。过去你写 Word,现在你要写 Agent Playbook;过去你截图证明问题,现在你要交付可复现脚本、检测规则和复测流水线。

漏洞研究员

不要迷恋“手感”。新的方法是:先让模型读架构和历史 CVE,抽取 source/sink、权限边界、序列化入口、协议解析器、内存操作热点;再用 CodeQL/Semgrep 写规则,用 fuzzing 造输入,用 Sanitizer 抓崩溃,用 Agent 辅助最小化 PoC,最后让模型辅助补丁差异分析。挖洞不再是撞运气,而是构造假设、批量验证、快速收敛。

安全开发工程师

不要把 AI 当自动补全。你要把需求写成可测试规格,把安全要求写进接口约束,把权限、输入校验、错误处理、审计日志、密钥管理放进代码生成提示和 PR 模板。以后好程序员不是写得最快,而是能让 AI 写得安全、测得充分、改得可控。

测试工程师

不要只做功能回归。你要转向安全验证工程:生成异常输入、并发场景、越权路径、提示注入样本、RAG 污染样本、工具调用越权样本;把测试集放进持续流程,把失败样例变成知识库。测试不是找 bug 的尾灯,而是系统上线前的预言机。

SOC 分析师

不要沉在告警海。你要学会写查询模板、检测规则、调查剧本、处置编排;让 Agent 帮你拉日志、查情报、画时间线、生成假设,你负责证据取舍和决策。未来的 SOC 不是人肉值班室,而是人机协同的战情室。

4

从今日起,重排你的书架

你的新知识体系至少有五层:安全原理、编程自动化、数据工程、模型工程、业务理解。Python、SQL、正则、日志结构、API、向量检索、RAG、Agent、函数调用、权限控制、评估集建设,都要进你的日课。不会写工具的安全工程师,会被会写工具的安全工程师替代;不会驾驭模型的人,会被驾驭模型的人替代。

长风既起,旧舟不可恋。

愿你们记住:安全需求没有变少,反而变多了;只是需求从“守住静态数据”变成了“守住动态知识流动”,从“发现单点漏洞”变成了“守住软件、模型、工具、人员共同组成的新生产系统”。

山河入夜,灯火未熄。愿诸君莫做旧城墙上的守卒,要做新江河上的摆渡人。

手中有剑,心里有图,身旁有机(AI),脚下便是你的路。

往期精彩回顾:

1.边界探针到AI监测:国际网络安全工程40年之变

2.伊斯法罕网络故障事件技术推演与工程求真

3.Mythos是拐点,不是起点:胡服骑射到大模型网络安全

4.从字到卷:一部中国古代“Token 史”

参考文献

[1] DARPA. AI Cyber Challenge marks pivotal inflection point for cyber defense. 2025-08-08.

[2] AI Cyber Challenge. Patching Critical Infrastructure: Announcing the Winners of DARPA’s AI Cyber Challenge. 2025.

[3] Anthropic. Project Glasswing: Securing critical software for the AI era. 2026-04-07.

[4] Anthropic. Project Glasswing. 2026.

[5] Google Project Zero. From Naptime to Big Sleep: Using Large Language Models to Find Vulnerabilities. 2024-11-01.

[6] Google Cloud. Cloud CISO Perspectives: Our Big Sleep agent makes a big leap. 2025-07-17.

[7] OWASP. OWASP Top 10 for Large Language Model Applications.

[8] OWASP Gen AI Security Project. 2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps. 2025.

[9] MeriTalk. DARPA Announces Winners of AI Cyber Challenge. 2025-08-12.

原文链接:https://mp.weixin.qq.com/s/nP63yR371-Dh9PzAW7KGJw