← 返回列表

2026年11月_武天旭_CSDN博客

高级反反爬 security.blog.csdn.net 入库 2026-11-18T02:56:11

AI安全--AI大模型的隐私保护解析 本文围绕 AI 大模型全生命周期的隐私保护展开,按预训练、微调、推理三个阶段梳理关键技术。预训练阶段以数据清理(匿名化、假名化、数据最小化、数据聚合)、联邦学习与差分隐私为核心,并给出基于 Opacus 的 DP-SGD 最小实现;微调阶段重点讨论联邦学习的任务化定位与知识遗忘(梯度更新、模型剪枝、重训练/微调重置);推理阶段则覆盖同态加密、安全多方计算、函数秘密共享(FSS)、推理期差分隐私以及基于检测的泄露识别方法。全文强调在隐私强度与模型效用、计算效率之间取得平衡。

武天旭

资深安全专家
业界专家认证

求更新

IP属地以运营商信息为准,境内显示到省(区、市),境外显示到国家(地区)

了解更多业界专家

武天旭,资深安全专家,CSDN安全博客专家/业界认证专家,全栈安全领域优质创作者,持有注册信息安全认证专家资质(CISSP)。其拥有多年信息安全行业从业经历,具备中大型企业安全架构设计能力,在安全架构、应用安全、隐私合规、数据安全、云原生安全、AI大模型安全、安全开发等多个安全领域具备丰富的理论和实践经验,并多次受邀在国内各大型安全峰会上发表过相关演讲

个人成就

创作历程

成就勋章

TA的专栏

关于博主

博主介绍:

关于博主/关于博客

博主邮箱:security_suiyi@163.com

学习交流/业务合作/职场猎头请加博主微信:

创作活动更多

SoduWork 项目测评创作者招募

面向愿意亲手试用的创作者。下载客户端,选一件需要 Agent 协作的任务,让 SoduWork 参与完成,并记录安装、执行和结果。征文不能只做产品介绍。总奖金池高达 10万+,11月13日-11月29日报名。

搜索 取消

RSS订阅

[AI安全--AI大模型的隐私攻击解析 AI大模型存在被动与主动双重隐私风险。被动泄露源于用户无意暴露敏感信息、上下文积累及偏好推断;主动攻击则包括后门植入、成员推理、模型反转、属性推断与模型窃取,攻击者可利用输出反推训练数据或隐私特征。二者均威胁个人隐私与数据安全,亟需强化防护机制。
原创

        发布博客 2026.11.06 ·
       204 阅读 · 2 点赞 ·](https://security.blog.csdn.net/article/details/170190929)

[AI安全--AI大模型的提示词注入攻击与防御解析 本文系统梳理了提示词注入攻击的概念、方式与原理、检测手段与防御策略。首先说明提示词注入攻击利用大模型对输入提示的高度信任与上下文敏感依赖,以低成本、高隐蔽的方式诱导模型输出违规内容;随后归纳规则覆盖型、上下文伪装型、信息泄露型、编程任务滥用型四类典型注入方式;接着从输入检测、上下文一致性检查、输出行为预测、行为分析四个层面介绍检测思路,并给出输入过滤、生成逻辑优化、输出控制、系统架构设计、持续监控五层防御体系;最后结合 Python 关键词匹配示例演示落地实现
原创

        发布博客 2026.11.05 ·
       339 阅读 · 1 点赞 ·](https://security.blog.csdn.net/article/details/170148612)

[AI安全--AI大模型的数据投毒检测与防御解析 本文系统阐述了数据投毒的检测与防御策略,涵盖数据筛查、标签验证、信誉评分、白盒/黑盒测试等检测方法,以及数据清洗、最低权限原则、模型检查清洗、多样化数据源、溯源审计与实时监控等防御措施。强调需结合技术手段与管理机制,构建覆盖AI大模型全生命周期的防护体系,尤其在内部投毒场景下需辅以行为审计、多方验证与模型兜底,确保安全与性能平衡。
原创

        发布博客 2026.11.05 ·
       500 阅读 · 4 点赞 ·](https://security.blog.csdn.net/article/details/170146078)

[AI安全--AI大模型的数据投毒攻击解析 本文围绕数据投毒攻击展开,先梳理注入攻击、篡改攻击、后门投毒攻击和供应链攻击四种投毒方式,结合金融量化、AI 客服、医疗 AI 诊断、AI 绘画工具等案例说明各自的手法与被利用的薄弱点;随后归纳标签篡改、植入恶意样本、偏见引入、上下文操控和公共数据污染五类常见投毒手段;最后针对数据增强的适用边界、普通用户识别 AI 异常输出的行动准则,以及企业快速迭代中兼顾数据安全等问题给出落地建议。
原创

        发布博客 2026.11.05 ·
       326 阅读 · 3 点赞 ·](https://security.blog.csdn.net/article/details/170144996)

[AI安全--AI大模型的对抗样本攻击与防御解析 对抗样本是通过微小扰动诱导AI模型误判的恶意输入,源于现实问题边界模糊与模型分类要求明确之间的矛盾。攻击分为白盒(知模型结构)与黑盒(仅接口访问),常用方法包括梯度攻击、词替换插入、优化算法及语法语义保留修改。生成面临语言离散性、语义合规与上下文复杂性挑战。防御则依赖对抗训练、输入正则化、模型随机化、冗余集成与实时监控,结合多策略提升鲁棒性,增强对已知及未知攻击的抵御能力。
原创

        发布博客 2026.11.05 ·
       387 阅读 · 2 点赞 ·](https://security.blog.csdn.net/article/details/170131463)

[AI安全--AI大模型的幻觉问题解析 幻觉:指模型生成了看似合理但实际上不准确、虚构或不存在的信息。这种现象源于模型在缺乏对真实世界深刻理解的情况下,依赖统计模式来预测输出;当面对未见过的信息或超出训练数据范围的内容时,模型可能会"编造"信息来填补空白。
原创

        发布博客 2026.11.04 ·
       260 阅读 · 1 点赞 ·](https://security.blog.csdn.net/article/details/170052916)

[AI安全--AI大模型的越狱攻击与防御 越狱:指用户通过精心设计的输入或提示,诱导模型生成原本被其安全策略或伦理准则限制的内容。这些内容可能包括敏感信息、不适当的言论、违法行为的指导或其他有害内容。
原创

        发布博客 2026.11.04 ·
       193 阅读 · 2 点赞 ·](https://security.blog.csdn.net/article/details/170052554)

[AI安全--AI大模型的毒性偏见与安全对齐实践 本案例演示了基于LLaVA-1.5-7B的多模态模型微调流程。使用4bit量化降低显存占用,通过LoRA仅训练投影层与注意力矩阵,实现高效微调。数据格式为图像路径、提示词与答案的JSONL文件。训练脚本采用自定义数据收集器,结合PEFT进行参数高效微调。推理时加载预训练模型与LoRA权重,完成图文问答任务。整个流程支持低资源环境下的视觉语言模型定制化训练与部署。
原创

        发布博客 2026.11.04 ·
       453 阅读 · 0 点赞 ·](https://security.blog.csdn.net/article/details/170036759)

[AI安全--LLaVA 式多模态指令微调实践 本案例演示了基于LLaVA-1.5-7B的多模态模型微调流程。使用4bit量化降低显存占用,通过LoRA仅训练投影层与注意力矩阵,实现高效微调。数据格式为图像路径、提示词与答案的JSONL文件。训练脚本采用自定义数据收集器,结合PEFT进行参数高效微调。推理时加载预训练模型与LoRA权重,完成图文问答任务。整个流程支持低资源环境下的视觉语言模型定制化训练与部署。
原创

        发布博客 2026.11.04 ·
       512 阅读 · 1 点赞 ·](https://security.blog.csdn.net/article/details/170033580)

[AI安全--AI大模型的参数高效微调实践 本文系统介绍高效微调(PEFT)技术,针对大模型微调的高成本与硬件限制,提出三大策略:增量微调(如提示、前缀、适配器)、选择性微调(基于梯度、层级或参数重要性)与重参数化微调(如LoRA、QLoRA)。其中,LoRA通过低秩分解仅训练少量新增参数,显著降低显存占用;QLoRA结合4-bit量化与LoRA,实现70亿参数模型在消费级显卡上的高效微调,训练仅需6-10GB显存,兼具性能与可行性。
原创

        发布博客 2026.11.04 ·
       369 阅读 · 1 点赞 ·](https://security.blog.csdn.net/article/details/169953101)

[AI安全--构建AI大模型微调数据实践 指令微调使预训练模型具备明确任务响应能力,采用“指令/输入/输出”三字段的Alpaca格式数据,通过拼接提示词训练提升任务适应性。基于大模型自动生成数据(如Self-Instruct)可规模化、多样化构建指令集,实现低成本扩展,但存在质量不稳定、偏见继承等风险,需结合人工筛选与迭代优化,兼顾效率与准确性。
原创

        发布博客 2026.11.03 ·
       260 阅读 · 2 点赞 ·](https://security.blog.csdn.net/article/details/169952752)

[AI安全--AI大模型的检索增强生成技术 检索增强生成(RAG)通过融合外部知识库,突破大模型静态知识局限,实现动态更新、提升准确性与专业性。其流程分为检索、增强与生成三阶段:先将问题向量化并检索相关文档,再优化上下文信息,最后生成精准回答。主流技术包括查询路由、检索后优化、重排模型与查询变换,可智能选择数据源、补全信息、提升排序与理解能力。相比指令微调,RAG更擅长引入新知识,二者可结合使用以满足多样化任务需求。
原创

        发布博客 2026.11.02 ·
       306 阅读 · 3 点赞 ·](https://security.blog.csdn.net/article/details/169850370)

[AI安全--AI大模型的预训练和微调 本文系统阐述了Transformer模型的两阶段训练流程:预训练(如MLM、PLM)与微调,重点介绍预训练任务、优化技术(如LoRA、Soft Prompt)及指令微调。通过提示学习实现高效任务迁移,强调设计清晰、简洁、相关且一致的提示以提升模型性能与可解释性。
原创

        发布博客 2026.11.02 ·
       74 阅读 · 2 点赞 ·](https://security.blog.csdn.net/article/details/169849492)

[AI安全--AI大模型的关键技术组成 本文系统阐述了大语言模型的核心技术:Transformer架构通过自注意力与位置编码实现高效序列建模;提示学习利用预训练模型在小样本下适应新任务;人类反馈强化学习融合人类偏好优化生成质量;混合专家模型通过门控机制动态激活专家提升表达能力;自监督学习通过伪标签训练获得强泛化表示;大模型依托预训练-微调范式与多任务学习实现卓越泛化;生成基于条件概率建模,结合贪心、束搜索等策略,依赖架构与训练机制保障连贯性与多样性。
原创

        发布博客 2026.11.02 ·
       257 阅读 · 0 点赞 ·](https://security.blog.csdn.net/article/details/169848876)

[手机看

    关注公众号

    下载APP]

关注公众号

下载APP

[客服]

[返回
顶部]

原文链接:https://security.blog.csdn.net/?type=blog&year=2026&month=11