sie
由 superlinked 研发
SIE (Superlinked Inference Engine) 是专为 AI Agent 打造的开源自托管推理引擎。它通过统一的 OpenAI 兼容 API,将检索、文档转 Markdown、结构化输出、安全防护及 Agent 循环等任务整合在单个云端集群中。支持 100+ 种开源模型按需加载与 LRU 缓存释放,避免了繁琐的多服务器架构,并提供 KEDA 自动伸缩、Grafana 监控及多云部署支持。
- 统一的 OpenAI 兼容 API 接口
- 支持 100+ 种模型按需加载与 LRU 淘汰
- 开箱即用的 KEDA 弹性伸缩与多云部署套件
- 内置搜索、OCR、结构化输出等全套 Agent 任务模型
- 深度对接 LangChain、LlamaIndex 及主流向量数据库
web