outlines

Outlines 是由 .txt 团队（dottxt-ai）开发的高性能、引导式大模型文本生成库。它通过在 Token 生成阶段（基于 Logits 概率分布）应用有限状态机和词表掩码技术，确保大模型的输出 100% 契合预设的 JSON Schema、正则表达式、Pydantic 结构或上下文无关文法（CFG）。Outlines 实现了零重试、零后处理、无额外开销的完美结构化输出，并兼容 OpenAI 接口及 vLLM、Ollama、Transformers 等开源推理框架。

• 100% 结构化输出保证（基于有限状态机动态 Token 掩码）
• 零推理延迟开销与零重试机制
• 广泛的后端兼容性（支持 OpenAI、vLLM、Ollama、Transformers 等）
• 类型驱动接口（原生兼容 Pydantic 模型、Regex 以及 CFG）