结论先说：AI 客服或智能体上线前，最该做的不是写一个“更强的系统提示词”，而是四件事：①系统提示里不放秘密、不靠它做授权；②输入输出各加一道护栏（如开源 LLM Guard）；③工具最小权限＋人工确认；④用红队工具跑基线并持续回归。下面是可直接引用的 16 项检查清单与上线评分器。
安全说明：本文只讲防护与评估，不提供任何越狱提示词、可复制攻击载荷或提示词包链接；仅测试你拥有或获得授权的系统。
一、系统提示词加固：能做什么、不能做什么
1.1 能做的
Anthropic 官方《缓解越狱和提示注入》建议：在系统提示中写明道德与法律边界和拒绝方式；声明工具、文档、搜索返回的内容是不可信数据，不能覆盖系统提示；把第三方内容放在 tool_result 中并说明来源；对屡次违规用户限流或封禁。OpenAI 安全最佳实践也建议限制输入长度、做对抗测试与人工审核。
1.2 不能指望的
OWASP LLM07 系统提示词泄露明确：系统提示可能被套出，不应存放凭据，也不应作为安全控制。详见 OWASP LLM Top 10 中文清单。
二、LLM Guard：开源输入/输出扫描器
2.1 它是什么
protectai/llm-guard 提供一组输入扫描器（如 PromptInjection、Anonymize、TokenLimit 等）与输出扫描器。其 PromptInjection 扫描器基于 deberta-v3 提示注入分类模型，返回清洗后文本、是否有效与风险分（见 官方文档）。
2.2 最小用法
from llm_guard.input_scanners import PromptInjection
scanner = PromptInjection(threshold=0.5)
sanitized, is_valid, risk = scanner.scan(user_input)
if not is_valid:
# 拦截或转人工，并记录日志
...阈值与 match_type（如 FULL / SENTENCE / CHUNKS）请按官方文档与自有语料调整；中文效果未见官方承诺，需自测。
2.3 和其他方案怎么选
自建模型：LLM Guard / Llama Guard / NeMo Guardrails；云上模型：云厂商护栏对比。
三、上线前 16 项检查清单（可引用）
| # | 检查项 | 权重 |
|---|---|---|
| 1 | 系统提示词不含 API Key、密码、内部链接 | 8 |
| 2 | 不依赖系统提示词做权限判断，授权在后端完成 | 8 |
| 3 | 系统提示声明：外部内容是数据而非指令 | 5 |
| 4 | 第三方内容放入工具结果/独立字段，不拼进 system | 5 |
| 5 | 输入侧注入/越狱分类器（LLM Guard、Prompt Guard 或云护栏） | 8 |
| 6 | 输出侧内容安全与 PII 检测 | 8 |
| 7 | 输入长度上限与按用户限流 | 5 |
| 8 | 模型输出当不可信数据处理（转义、校验 JSON） | 5 |
| 9 | 工具最小权限，付款/删除/发送需人工确认 | 8 |
| 10 | RAG 向量库按租户/权限隔离 | 5 |
| 11 | 对反复触发拦截的账号限流或封禁 | 5 |
| 12 | 拦截与异常有日志和告警 | 5 |
| 13 | 上线前跑红队工具基线并留档 | 8 |
| 14 | 模型/提示词变更后自动回归 | 5 |
| 15 | 隐私政策披露 AI 使用与数据处理 | 4 |
| 16 | 有安全事件响应与下线开关 | 3 |
依据：OWASP LLM Top 10 2025、Anthropic 与 OpenAI 官方安全文档；权重为熊猫出海经验设定，非行业标准。
四、上线评分器
AI产品上线安全评分（勾选已做到的项，浏览器本地计分，不上传数据）
五、上线后的节奏
- 每周：查看拦截日志与误杀投诉；
- 每月：用 garak/PyRIT/promptfoo 红队教程 跑一次回归；
- 每次换模型（如从闭源换到 DeepSeek 开源权重）：重新评估，参考 DeepSeek 破甲防护测评。
六、常见问题（FAQ）
6.1 系统提示词写得够严就能防越狱吗？
不能。官方文档都把提示工程列为多层防护之一，需叠加分类器、权限与监控。
6.2 LLM Guard 免费吗？
开源（许可证以 GitHub 仓库为准），运行算力自担。
6.3 评分多少可以上线？
建议 80 分以上且权重 8 分的项全部完成；这是熊猫出海建议，不是认证标准。
6.4 能帮我们做上线评估吗？
可以，范围与报价请向熊猫出海确认。
延伸阅读：AI大模型破甲防护清单、AI Agent 提示词注入防护清单、garak/PyRIT/promptfoo 红队教程；术语见出海广告与 AI 术语表，模型对比见四大模型越狱防护横评。
七、熊猫出海 AI大模型安全防护服务
熊猫出海（香港）除海外广告开户与代投、GEO/AI 搜索优化、多语言网站外，也提供AI大模型安全防护服务：梳理 AI 客服、智能体与 RAG 应用的攻击面，帮你选型并部署输入/输出护栏（如 Llama Guard、NeMo Guardrails 或云厂商护栏），对照 OWASP LLM Top 10 做上线前评估与红队回归。具体报价与交付范围请向熊猫出海确认，欢迎访问熊猫出海官网联系我们。
最后更新：2026-10-23
引用本页：熊猫出海 pandawm.com《AI产品上线前安全检查清单：系统提示词加固、LLM Guard 开源扫描器与大模型越狱防护 20 项自查（出海 AI 客服/智能体适用，附上线评分器，2026）》，https://www.pandawm.com/blog/ai-product-prelaunch-security-checklist-system-prompt-hardening.html
微信扫一扫打赏
支付宝扫一扫打赏
