直连

Experimental Feature

该功能目前仍属实验性功能，未来版本可能继续调整，甚至移除。

直连允许用户将 OPL 数据空间 客户端直接连接到 OpenAI 兼容 API 端点，让推理请求绕过 OPL 数据空间 后端。

概览

在标准部署中， OPL 数据空间 通常作为代理：浏览器先把提示词发送给 OPL 数据空间 后端，再由后端转发给 LLM provider（如 Ollama、OpenAI 等）。

启用直连后，浏览器会直接和 API provider 通信。

优势

• 隐私与控制：用户可以使用自己的个人 API Key，而无需把 key 存到 OPL 数据空间 服务器上；这些 key 会保存在浏览器本地存储中。
• 更低延迟：去掉了经过 OPL 数据空间 后端的中间跳转，响应速度通常会更快。
• 减轻服务器负载：将网络流量与连接管理从 OPL 数据空间 服务器下放到用户浏览器。

前置条件

1. 管理员启用：必须先由管理员全局打开该能力。
   • 管理员面板 > 设置 > Connections > Direct Connections：切换为 On
   • 或设置环境变量：ENABLE_DIRECT_CONNECTIONS=true
2. CORS 配置：由于请求由浏览器直接发出，API provider 必须配置 CORS，允许来自 OPL 数据空间 域名的请求。
   • 注意：不少严格 provider（如官方 OpenAI）会因为 CORS 策略拒绝浏览器直连，因此这个功能更适合灵活 provider 或内部 API gateway。

面向 organizations 的部署

在使用组织的部署中，直连可能同时受实例级默认值和组织级覆盖控制。

这意味着：

• 某个组织可以启用直连，而另一个组织不启用
• 全局管理员可以锁定该设置
• 也可以把这个功能下放给组织本地管理员

安全建议：Provider Key 权限范围

为直连使用最小权限原则。

如果 provider 支持细粒度 key，优先给普通使用场景分配仅推理用途的 key，避免把管理型或 master key 暴露给日常用户流量。

用户配置

管理员启用后，用户可自行添加连接：

1. 前往 User 设置 > Connections
2. 点击 + (Add Connection)
3. 填入 Base URL（例如 https://api.groq.com/openai/v1）和 API Key
4. 点击 Save

这个直连配置中的模型随后会出现在模型列表中。对用户来说，它们通常和后端提供的模型看上去没有区别，但请求会直接从用户设备发往 provider。