跳到主要内容
Ctrl+K
NVIDIA NeMo Guardrails - Home NVIDIA NeMo Guardrails - Home

NVIDIA NeMo Guardrails

NVIDIA NeMo Guardrails - Home NVIDIA NeMo Guardrails - Home

NVIDIA NeMo Guardrails

目录

NVIDIA NeMo Guardrails

  • 关于 NeMo Guardrails
  • 安装指南
  • 入门

常见任务

  • 配置指南
  • Guardrails 库
  • Guardrails 流程
  • Colang 指南
  • LLM 支持
  • 多模态数据
  • Python API
  • CLI
  • 服务器指南
  • LangChain
    • LangChain 集成
    • RunnableRails
    • Chain-With-Guardrails
      • Chain with Guardrails
    • Runnable-As-Action
      • Runnable as Action
  • 详细日志记录
    • 输出变量
  • 越狱检测启发法
    • 使用越狱检测启发法
  • NVIDIA AI 端点
    • 使用 NVIDIA API Catalog 上托管的 LLM
  • Vertex AI
    • 使用 Vertex AI 上托管的 LLM
  • 多配置 API
    • 多配置 API
  • 从 Colang 1 迁移到 Colang 2

高级用法

  • 生成选项
  • Prompt 自定义
  • Embedding 搜索提供商
  • 使用 Docker 的 NeMo Guardrails
  • 流式传输
  • AlignScore 部署
  • 提取用户提供的值
  • Bot 消息指令
  • 基于事件的 API
  • 使用 vLLM 自托管 Llama Guard
  • 嵌套 AsyncIO 循环
  • Vertex AI 设置
  • Llama 3.1 NemoGuard 8B 内容安全部署
  • Llama 3.1 NemoGuard 8B 主题控制部署
  • 使用 NemoGuard NIMs 的蓝图

安全

  • 安全指南
  • 红队演练

评估

  • Guardrails 评估
  • LLM 漏洞扫描

使用 Colang 的 Guardrails

  • Hello World
  • 核心 Colang 概念
  • 演示用例
  • 输入护栏
  • 输出护栏
  • 主题护栏
  • 检索增强生成

Colang 2.0

  • 概述
  • 有哪些变化
  • 入门
    • Hello World
    • 对话护栏
    • 多模态护栏
    • 输入护栏
    • 交互循环
    • LLM 流
    • 推荐的下一步
  • 语言参考
    • 简介
    • 事件生成与匹配
    • 使用操作
    • 定义流
    • 使用变量与表达式
    • 流程控制
    • Colang 标准库 (CSL)
      • 基本核心流 (core.co)
      • 定时流 (timing.co)
      • LLM 流 (llm.co)
      • 交互式 Avatar 模态流 (avatars.co)
      • Guardrail 流 (guardrails.co)
      • 用户注意力流 (attention.co)
    • 利用大型语言模型 (LLM)
    • 流进阶
    • Python 操作
    • 开发与调试

参考

  • 架构
    • 架构指南
  • 术语表
  • 常见问题 (FAQ)
  • 入门
  • 推荐的下一步

推荐的下一步#

Colang 2.0 入门指南向您介绍了基本的 Hello World 示例,然后深入讲解了 对话护栏、输入护栏、多模态护栏 以及 Colang 2.0 的其他概念,例如 交互循环 和 LLM 流。

这仅仅是 Colang 2.0 功能的冰山一角。

如果您是经验丰富的开发者,想详细了解语法和各种功能,我们建议您查阅语言参考文档。

NeMo Guardrails 0.10.0 版本将增加更多示例,包括 RAG 和代理。它还将支持 Guardrails Library,使您能够使用类似于 Colang 1.0 中的任何现有 guardrails。

上一页

LLM 流

下一页

语言参考

NVIDIA NVIDIA
隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 无障碍访问 | 公司政策 | 产品安全 | 联系我们

版权所有 © 2023-2025,NVIDIA Corporation。