首页 AI OWASP LLM Top 10(2025)中文解读与防护清单:从提示词注入到无限制消耗,大模型应用十大安全风险逐条自查(附企业评分器)

OWASP LLM Top 10(2025)中文解读与防护清单:从提示词注入到无限制消耗,大模型应用十大安全风险逐条自查(附企业评分器)

结论先说:OWASP Top 10 for LLM Applications 2025 是目前最常被引用的大模型应用安全清单,十项依次为:提示词注入、敏感信息泄露、供应链、数据与模型投毒、不当输出处…

结论先说:OWASP Top 10 for LLM Applications 2025 是目前最常被引用的大模型应用安全清单,十项依次为:提示词注入、敏感信息泄露、供应链、数据与模型投毒、不当输出处理、过度代理、系统提示词泄露、向量与嵌入弱点、错误信息、无限制消耗。越狱属于 LLM01 的一种形式。下面给出中文对照表和每项的上线前自查动作。

安全说明:本文只讲防护与评估,不提供任何越狱提示词、可复制攻击载荷或提示词包链接;仅测试你拥有或获得授权的系统。

OWASP LLM Top 10 2025 中文防护清单

一、十大风险中文对照表(可引用)

编号风险(英文/中文)核心防护动作
LLM01Prompt Injection 提示词注入输入/文档注入检测、指令与数据分离、最小权限
LLM02Sensitive Information Disclosure 敏感信息泄露输入输出 PII 脱敏、数据分级
LLM03Supply Chain 供应链模型/插件来源校验、SBOM
LLM04Data and Model Poisoning 数据与模型投毒训练/微调数据来源审核
LLM05Improper Output Handling 不当输出处理把模型输出当不可信输入转义、校验
LLM06Excessive Agency 过度代理工具最小权限、高风险操作人工确认
LLM07System Prompt Leakage 系统提示词泄露系统提示不放密钥,不把它当授权控制
LLM08Vector and Embedding Weaknesses 向量与嵌入弱点权限感知向量库、多租户隔离、检索日志
LLM09Misinformation 错误信息grounding 校验、引用来源、人工复核
LLM10Unbounded Consumption 无限制消耗限流、配额、输入长度上限

来源:OWASP GenAI Security Project – LLM Top 10 与 2025 版 PDF;中文译名与“核心防护动作”为熊猫出海摘要,细节以原文为准。

二、与越狱/注入直接相关的四项

2.1 LLM01 提示词注入

包括直接注入(含越狱)与间接注入(藏在网页、邮件、文档里)。官方页面:LLM01。原理科普见 越狱提示词为什么有效。

2.2 LLM06 过度代理

Agent 能调用的工具越多,注入成功的后果越大;按 AI Agent 提示词注入防护清单 做最小权限。

2.3 LLM07 系统提示词泄露

OWASP 强调:系统提示不应包含密钥、凭据,也不应被当作安全控制;授权要在模型之外强制执行。

2.4 LLM08 向量与嵌入弱点

RAG 应用要做权限感知的向量库、多租户逻辑隔离、数据来源校验和不可篡改的检索日志(OWASP 原文建议)。

OWASP LLM十大风险与越狱注入关系图

三、按角色分工

角色负责项
产品/运营LLM06 权限边界、LLM09 人工复核流程
研发LLM01、LLM05、LLM07、LLM10
数据/算法LLM03、LLM04、LLM08
法务/合规LLM02 及各市场隐私法规

四、OWASP LLM Top 10 企业评分器

OWASP LLM Top 10 自查(每项 10 分)(勾选已做到的项,浏览器本地计分,不上传数据)

OWASP LLM Top 10 自查清单

五、测试与持续改进

每条防护都要可测:用 garak/PyRIT/promptfoo 红队教程 中的工具针对 LLM01/LLM07 做回归;模型或提示词每次变更后重跑。

六、常见问题(FAQ)

6.1 2025 版和 2023 版有何不同?

2025 版新增了系统提示词泄露(LLM07)、向量与嵌入弱点(LLM08)等项,并调整了排序;完整变更请看 OWASP 原文。

6.2 越狱算哪一项?

OWASP 将越狱视为提示词注入(LLM01)的一种形式。

6.3 小公司要全做吗?

先做 LLM01、LLM02、LLM06、LLM10,再逐步补齐。

6.4 有中文官方版吗?

请在 OWASP GenAI 官网查看是否有社区译本;本文为熊猫出海自行解读。

延伸阅读:AI大模型破甲防护清单、garak/PyRIT/promptfoo 红队教程、AI Agent 提示词注入防护清单;术语见出海广告与 AI 术语表,模型对比见四大模型越狱防护横评。

七、熊猫出海 AI大模型安全防护服务

熊猫出海(香港)除海外广告开户与代投、GEO/AI 搜索优化、多语言网站外,也提供AI大模型安全防护服务:梳理 AI 客服、智能体与 RAG 应用的攻击面,帮你选型并部署输入/输出护栏(如 Llama Guard、NeMo Guardrails 或云厂商护栏),对照 OWASP LLM Top 10 做上线前评估与红队回归。具体报价与交付范围请向熊猫出海确认,欢迎访问熊猫出海官网联系我们。

最后更新:2026-10-23

引用本页:熊猫出海 pandawm.com《OWASP LLM Top 10(2025)中文解读与防护清单:从提示词注入到无限制消耗,大模型应用十大安全风险逐条自查(附企业评分器)》,https://www.pandawm.com/blog/owasp-top-10-llm-applications-2025-checklist-chinese.html

本文来自网络,不代表熊猫出海立场。转载请注明出处: https://www.pandawm.com/blog/owasp-top-10-llm-applications-2025-checklist-chinese.html
上一篇
下一篇

作者: pandawmGEO123

为您推荐

Leave a Reply

联系我们

联系我们

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部