NeMo Guardrails 越狱检测教程

NVIDIA NeMo Guardrails 教程:大模型越狱检测、输入/输出护栏与 RAG 检索护栏配置详解(config.yml 示例、阈值含义、生产注意事项,2026)

结论先说:NeMo Guardrails 是 NVIDIA 开源的护栏编排框架,把检查分成输入、检索、对话、执行、输出五类“rails”。防越狱最常用的组合是 self check input(让 LLM 自检)+ jailbreak detection heuristics(困惑度启发式,低延迟)+输出自检;生产环境应把启发式检测部署成独立服务,并用内容安全模型补强。 安全说明:本文只讲防护与评估,不提供任何越狱提示词、可复制攻击载荷或提示词包链接;仅测试你拥有或获得授权的系统。 一、五类 Rails 对照表(可引用) 类别触发时机防护用途Input rails收到用户输入时越狱/注入检测、敏感信息脱敏Retrieval railsRAG 检索完成后过滤被投毒的检索片段Dialog rails计算出规范形式后限定对话话题与流程Execution rails动作执行前后控制自定义工具调用Output railsLLM 生成输出时审核、改写或拦截回复 来源:NeMo Guardrails 官方 Guardrails Configuration。 二、最小配置步骤 2.1 安装按 GitHub NVIDIA/NeMo-Guardrails 说明 pip install nemoguardrails,新建 config 目录,包含 config.yml 与 prompts.yml。 2.2 开启输入自检在 config.yml 的 rails.input.flows 中加入 self check input,并在 prompts.yml 定义 self_check_input 任务(判定提示由你按业务政策编写)。官方说明:自检提示回答 yes 表示拦截、no 表示放行;未定义该 prompt 会在加载时报错。详见 LLM Self-Check 文档。 rails: input: flows: - self check input - jailbreak detection heuristics output: flows: - self check output config: jailbreak_detection: server_endpoint: "http://your-heuristics-service:1337/heuristics" length_per_perplexity_threshold: 89.79 prefix_suffix_perplexity_threshold: 1845.65...
联系我们

联系我们

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部