系列简介#

大语言模型（LLM）的安全性问题随着模型能力提升而日益凸显。从 2022 年底的 DAN 越狱攻击，到 2025 年的 AI 驱动自动化攻击，LLM 安全领域经历了翻天覆地的变化。

本系列按照时间线，系统梳理 LLM 发展的关键安全漏洞，帮助读者理解攻击原理、危害程度与防御策略。

核心问题#

LLM 的安全机制本质上是”浅层”的，基于模式匹配而非真正理解。只要找到绕过模式匹配的方法，安全机制就会失效。

学习路径#

1
第一阶段：越狱与提示注入
2
├── 01 提示注入与越狱攻击
3
└── 02 系统提示词泄露与数据提取
4

5
第二阶段：代码执行与基础设施
6
├── 03 代码执行与基础设施攻击
7
└── 04 对抗性自动化攻击
8

9
第三阶段：数据泄露与供应链
10
├── 05 数据泄露与供应链攻击
11
└── 06 特定领域高危漏洞
12

13
第四阶段：AI 驱动的攻击
14
└── 07 AI 驱动的自动化攻击

系列文章#

攻击演进时间线#

攻击阶段演进#

核心洞察#

防御策略#

前置知识#

• 大语言模型基本概念（可参考 从零理解大语言模型）
• Prompt 工程基础
• 基础安全概念（注入攻击、权限控制）
• Agent 架构理解（可参考 AI Agent 实战指南）

相关系列#

本系列是机器学习学习路线的安全专题，推荐结合以下系列阅读：

阅读建议：

• 先学 从零理解大语言模型 建立 LLM 基础认知
• AI Agent 实战指南 第 16 篇提供 Agent 安全防御的工程实践
• 本系列按时间线梳理安全漏洞，帮助建立攻防全景视角

参考资源#

安全研究

• GCG: Greedy Coordinate Gradient
• Prompt Injection Attacks
• Cursor Security Advisory

CVE 数据库

• CVE-2025-54135: Cursor MCP 远程代码执行
• CVE-2025-23254: NVIDIA TensorRT-LLM
• CVE-2025-7775: HexStrike 利用