Guardrails AI
面向 LLM 的输出校验、结构约束和实时修正。
开源
适合 Agent 或 LLM 输出必须符合 schema、安全策略和业务规则后才能执行——不只是简单的敏感词过滤。
选型建议
当正确性和安全性必须在输出层强制执行、而非仅在 prompt 中建议时选择 Guardrails AI。它是 Agent 动作的安全网。
适用场景
- schema 验证
- 输出 guardrails
- 结构化生成
- 安全策略执行
不适用场景
- 只需要 prompt 层面约束的团队
- 没有结构化输出需求的项目
核心概念
guardsvalidatorsRAIL speccorrective re-asks
最小实现形态
用 Pydantic 风格 schema 定义 RAIL spec，包裹 LLM 调用，让 Guardrails 在 Agent 消费输出前校验、修正或拒绝。