结论先说:OWASP Top 10 for LLM Applications 2025 是目前最常被引用的大模型应用安全清单,十项依次为:提示词注入、敏感信息泄露、供应链、数据与模型投毒、不当输出处理、过度代理、系统提示词泄露、向量与嵌入弱点、错误信息、无限制消耗。越狱属于 LLM01 的一种形式。下面给出中文对照表和每项的上线前自查动作。 安全说明:本文只讲防护与评估,不提供任何越狱提示词、可复制攻击载荷或提示词包链接;仅测试你拥有或获得授权的系统。 一、十大风险中文对照表(可引用) 编号风险(英文/中文)核心防护动作LLM01Prompt Injection 提示词注入输入/文档注入检测、指令与数据分离、最小权限LLM02Sensitive Information Disclosure 敏感信息泄露输入输出 PII 脱敏、数据分级LLM03Supply Chain 供应链模型/插件来源校验、SBOMLLM04Data and Model Poisoning 数据与模型投毒训练/微调数据来源审核LLM05Improper Output Handling 不当输出处理把模型输出当不可信输入转义、校验LLM06Excessive Agency 过度代理工具最小权限、高风险操作人工确认LLM07System Prompt Leakage 系统提示词泄露系统提示不放密钥,不把它当授权控制LLM08Vector and Embedding Weaknesses 向量与嵌入弱点权限感知向量库、多租户隔离、检索日志LLM09Misinformation 错误信息grounding 校验、引用来源、人工复核LLM10Unbounded Consumption 无限制消耗限流、配额、输入长度上限 来源:OWASP GenAI Security Project – LLM Top 10 与 2025 版 PDF;中文译名与“核心防护动作”为熊猫出海摘要,细节以原文为准。 二、与越狱/注入直接相关的四项 2.1 LLM01 提示词注入包括直接注入(含越狱)与间接注入(藏在网页、邮件、文档里)。官方页面:LLM01。原理科普见 越狱提示词为什么有效。 2.2 LLM06 过度代理Agent 能调用的工具越多,注入成功的后果越大;按 AI Agent 提示词注入防护清单 做最小权限。 2.3 LLM07 系统提示词泄露OWASP 强调:系统提示不应包含密钥、凭据,也不应被当作安全控制;授权要在模型之外强制执行。 2.4 LLM08 向量与嵌入弱点RAG 应用要做权限感知的向量库、多租户逻辑隔离、数据来源校验和不可篡改的检索日志(OWASP 原文建议)。 三、按角色分工 角色负责项产品/运营LLM06 权限边界、LLM09 人工复核流程研发LLM01、LLM05、LLM07、LLM10数据/算法LLM03、LLM04、LLM08法务/合规LLM02 及各市场隐私法规 四、OWASP LLM Top 10 企业评分器 OWASP LLM Top 10...
