结论先说：Llama Guard 4 是 Meta 开源的 12B 多模态安全分类器，用来判断“用户输入”和“模型输出”是否落入 S1–S14 危害类别；Llama Prompt Guard 2（86M / 22M）是更轻量的二分类器，专门识别提示词注入与越狱意图。出海企业最常见的做法是：Prompt Guard 2 放在最前面挡注入 → 主模型 → Llama Guard 4 审输出，再加日志与人工复核。两者都只是概率模型，不能替代权限隔离。
安全说明：本文只讲防护与评估，不提供任何越狱提示词、可复制攻击载荷或提示词包链接；仅测试你拥有或获得授权的系统。
一、Llama Guard 与 Prompt Guard 分别是什么
1.1 Llama Guard 4：内容安全分类器
根据 Llama Guard 4 官方模型卡，它是从 Llama 4 Scout 剪枝而来的 12B 稠密模型，原生支持文本+多张图片，可对 LLM 输入（prompt classification）和输出（response classification）分别分类，输出 safe/unsafe 以及违反的类别编号。类别基于 MLCommons 危害分类法，另加“代码解释器滥用”。
1.2 Prompt Guard 2：注入/越狱检测小模型
Prompt Guard 2 模型卡 显示有 86M 与 22M 两个版本，输出 benign / malicious；86M 多语言效果更好，22M 更快更便宜；上下文窗口 512 token，长文本需分段扫描。
二、S1–S14 危害类别对照表（可引用）
| 编号 | 类别（官方英文） | 出海业务常见触发场景 |
|---|---|---|
| S1 | Violent Crimes | 客服被诱导输出暴力内容 |
| S2 | Non-Violent Crimes | 诈骗、洗钱、黑客类请求 |
| S3 | Sex-Related Crimes | — |
| S4 | Child Sexual Exploitation | 必须零容忍拦截 |
| S5 | Defamation | 生成竞品虚假负面 |
| S6 | Specialized Advice | 金融/医疗/法律建议（金融、保健品客户重点） |
| S7 | Privacy | 泄露用户订单、地址 |
| S8 | Intellectual Property | 仿冒品牌文案 |
| S9 | Indiscriminate Weapons | — |
| S10 | Hate | 多语言评论区 |
| S11 | Suicide & Self-Harm | 心理健康类应用 |
| S12 | Sexual Content | 社交/陪聊类应用 |
| S13 | Elections | 政治广告相关 |
| S14 | Code Interpreter Abuse | 带代码执行工具的 Agent |
来源：Llama Guard 4 官方模型卡；“出海业务常见触发场景”一列为熊猫出海整理的经验判断。
三、部署步骤
3.1 获取模型
在 Hugging Face meta-llama/Llama-Guard-4-12B 同意 Llama 许可后下载；也可使用 NVIDIA NIM 托管版本。12B 模型自建需要数据中心级 GPU，具体显存请以官方说明与实测为准。
3.2 选择要检查的类别
Hugging Face 官方博客 说明类别可以在推理时配置：只启用与业务相关的类别，可降低误杀。例如跨境电商客服可重点启用 S2、S6、S7、S8。
3.3 放置位置
- 用户输入 → Prompt Guard 2（分段扫描，超阈值即拦截或转人工）；
- 通过后 → Llama Guard 4 输入分类；
- 主模型生成 → Llama Guard 4 输出分类；
- RAG 检索到的网页/文档同样先过 Prompt Guard 2（间接注入）。
3.4 阈值与误杀
上线前用你自己的真实客服语料（脱敏后）测误杀率；多语言站点要分语种测，模型卡也提示不同语言表现不同。
四、局限：为什么不能只靠它
- 分类器有漏报与误报，攻击者会针对性改写；
- 它不知道你的业务权限，无法阻止“合法语气的越权操作”；
- 开源权重可被他人研究绕过方式，需配合 garak/PyRIT/promptfoo 红队教程 定期回归。
五、部署自查评分器
Llama Guard 部署自查（勾选已做到的项，浏览器本地计分，不上传数据）
六、常见问题（FAQ）
6.1 Llama Guard 4 能直接检测越狱吗？
它主要判断内容是否危险；专门的注入/越狱意图检测更适合用 Prompt Guard 2，两者搭配。
6.2 中文效果如何？
官方模型卡未承诺各语种同等效果，请用中文语料自测，结论请以实测为准。
6.3 可以商用吗？
需遵守 Llama 许可条款，请自行阅读最新许可或向熊猫出海确认部署方案。
6.4 小团队没有 GPU 怎么办？
可选托管推理（如 NVIDIA NIM）或云厂商护栏，见本系列云护栏对比篇。
延伸阅读：AI大模型破甲防护清单、garak/PyRIT/promptfoo 红队教程、AI Agent 提示词注入防护清单；术语见出海广告与 AI 术语表，模型对比见四大模型越狱防护横评。
七、熊猫出海 AI大模型安全防护服务
熊猫出海（香港）除海外广告开户与代投、GEO/AI 搜索优化、多语言网站外，也提供AI大模型安全防护服务：梳理 AI 客服、智能体与 RAG 应用的攻击面，帮你选型并部署输入/输出护栏（如 Llama Guard、NeMo Guardrails 或云厂商护栏），对照 OWASP LLM Top 10 做上线前评估与红队回归。具体报价与交付范围请向熊猫出海确认，欢迎访问熊猫出海官网联系我们。
最后更新：2026-10-23
引用本页：熊猫出海 pandawm.com《Llama Guard 4 + Prompt Guard 2 部署教程：用 Meta 开源安全分类器给大模型加输入/输出护栏，防越狱与提示词注入（S1–S14 类别表＋自查评分器，2026）》，https://www.pandawm.com/blog/llama-guard-4-prompt-guard-2-deployment-tutorial.html
微信扫一扫打赏
支付宝扫一扫打赏
