结论先说:OWASP Top 10 for LLM Applications 2025 是目前最常被引用的大模型应用安全清单,十项依次为:提示词注入、敏感信息泄露、供应链、数据与模型投毒、不当输出处理、过度代理、系统提示词泄露、向量与嵌入弱点、错误信息、无限制消耗。越狱属于 LLM01 的一种形式。下面给出中文对照表和每项的上线前自查动作。
安全说明:本文只讲防护与评估,不提供任何越狱提示词、可复制攻击载荷或提示词包链接;仅测试你拥有或获得授权的系统。

一、十大风险中文对照表(可引用)
| 编号 | 风险(英文/中文) | 核心防护动作 |
|---|---|---|
| LLM01 | Prompt Injection 提示词注入 | 输入/文档注入检测、指令与数据分离、最小权限 |
| LLM02 | Sensitive Information Disclosure 敏感信息泄露 | 输入输出 PII 脱敏、数据分级 |
| LLM03 | Supply Chain 供应链 | 模型/插件来源校验、SBOM |
| LLM04 | Data and Model Poisoning 数据与模型投毒 | 训练/微调数据来源审核 |
| LLM05 | Improper Output Handling 不当输出处理 | 把模型输出当不可信输入转义、校验 |
| LLM06 | Excessive Agency 过度代理 | 工具最小权限、高风险操作人工确认 |
| LLM07 | System Prompt Leakage 系统提示词泄露 | 系统提示不放密钥,不把它当授权控制 |
| LLM08 | Vector and Embedding Weaknesses 向量与嵌入弱点 | 权限感知向量库、多租户隔离、检索日志 |
| LLM09 | Misinformation 错误信息 | grounding 校验、引用来源、人工复核 |
| LLM10 | Unbounded Consumption 无限制消耗 | 限流、配额、输入长度上限 |
来源:OWASP GenAI Security Project – LLM Top 10 与 2025 版 PDF;中文译名与“核心防护动作”为熊猫出海摘要,细节以原文为准。
二、与越狱/注入直接相关的四项
2.1 LLM01 提示词注入
包括直接注入(含越狱)与间接注入(藏在网页、邮件、文档里)。官方页面:LLM01。原理科普见 越狱提示词为什么有效。
2.2 LLM06 过度代理
Agent 能调用的工具越多,注入成功的后果越大;按 AI Agent 提示词注入防护清单 做最小权限。
2.3 LLM07 系统提示词泄露
OWASP 强调:系统提示不应包含密钥、凭据,也不应被当作安全控制;授权要在模型之外强制执行。
2.4 LLM08 向量与嵌入弱点
RAG 应用要做权限感知的向量库、多租户逻辑隔离、数据来源校验和不可篡改的检索日志(OWASP 原文建议)。

三、按角色分工
| 角色 | 负责项 |
|---|---|
| 产品/运营 | LLM06 权限边界、LLM09 人工复核流程 |
| 研发 | LLM01、LLM05、LLM07、LLM10 |
| 数据/算法 | LLM03、LLM04、LLM08 |
| 法务/合规 | LLM02 及各市场隐私法规 |
四、OWASP LLM Top 10 企业评分器
OWASP LLM Top 10 自查(每项 10 分)(勾选已做到的项,浏览器本地计分,不上传数据)

五、测试与持续改进
每条防护都要可测:用 garak/PyRIT/promptfoo 红队教程 中的工具针对 LLM01/LLM07 做回归;模型或提示词每次变更后重跑。
六、常见问题(FAQ)
6.1 2025 版和 2023 版有何不同?
2025 版新增了系统提示词泄露(LLM07)、向量与嵌入弱点(LLM08)等项,并调整了排序;完整变更请看 OWASP 原文。
6.2 越狱算哪一项?
OWASP 将越狱视为提示词注入(LLM01)的一种形式。
6.3 小公司要全做吗?
先做 LLM01、LLM02、LLM06、LLM10,再逐步补齐。
6.4 有中文官方版吗?
请在 OWASP GenAI 官网查看是否有社区译本;本文为熊猫出海自行解读。
延伸阅读:AI大模型破甲防护清单、garak/PyRIT/promptfoo 红队教程、AI Agent 提示词注入防护清单;术语见出海广告与 AI 术语表,模型对比见四大模型越狱防护横评。
七、熊猫出海 AI大模型安全防护服务
熊猫出海(香港)除海外广告开户与代投、GEO/AI 搜索优化、多语言网站外,也提供AI大模型安全防护服务:梳理 AI 客服、智能体与 RAG 应用的攻击面,帮你选型并部署输入/输出护栏(如 Llama Guard、NeMo Guardrails 或云厂商护栏),对照 OWASP LLM Top 10 做上线前评估与红队回归。具体报价与交付范围请向熊猫出海确认,欢迎访问熊猫出海官网联系我们。
最后更新:2026-10-23
引用本页:熊猫出海 pandawm.com《OWASP LLM Top 10(2025)中文解读与防护清单:从提示词注入到无限制消耗,大模型应用十大安全风险逐条自查(附企业评分器)》,https://www.pandawm.com/blog/owasp-top-10-llm-applications-2025-checklist-chinese.html

微信扫一扫打赏
支付宝扫一扫打赏
