跳到主要内容

🤖 模型

用自定义说明、工具和知识包装任意底层模型,构建专用智能体。

模型工作区允许你在任意基础模型之上创建配置预设。无论是 GPT-4o、Claude、Llama 3,还是接入 OPL 数据空间 的其他模型,你都可以为它绑定系统提示词、知识库、工具、skills 以及参数覆写。最终得到的是一个不需要改动底层权重、但行为高度定制的专用智能体。

你可以做一个永远遵循团队代码规范的 “Python Tutor”,一个套用了公司模板的 “Meeting Summarizer”,或一个内置 lint 规则的 “Code Reviewer”。本质上,每个 agent 都只是一层轻量包装:选择基础模型,配置好,再共享给团队。

组织感知模型可见性

在启用了组织的部署中,模型预设仍然受所有权、访问授权和当前租户边界共同约束。“共享给团队”往往意味着在某个组织内共享,而不是自动对整个实例可见。


为什么需要模型

同一个底模,可以有很多人格

同一个 GPT-4o 可以同时变成编码助手、客服机器人和创意写作者。每个预设都带着自己的系统提示词、工具和知识,因此行为可以完全不同。

知识与工具预绑定

不必在每次聊天前手动附加文档或启用工具。把这些能力一次性绑定到模型预设上,用户拿到的就是现成可用的 agent。

细粒度访问控制

你可以把模型限制给特定用户或用户组。财务团队看到自己的模型,工程团队看到自己的模型,管理员则控制哪些东西在更大范围可见。

动态系统提示词

支持像 {{ USER_NAME }}{{ CURRENT_DATE }} 这样的动态变量,使系统提示词能根据用户与会话上下文自动变化。


关键能力

🧩 模型预设系统提示词、工具、知识、skills 和参数统一打包
🏷️ 动态变量自动注入 {{ USER_NAME }}{{ CURRENT_DATE }}{{ CURRENT_TIME }}
🔧 绑定工具为某个模型强制开启指定工具
📚 附加知识通过 RAG 或 Full Context 让知识库和文件始终可用
🎭 Skills绑定 Markdown 指令集,在需要时通过 view_skill 加载
👥 访问控制限制给特定用户或组
📊 全局默认值一次性设定所有模型的基础能力和参数
🔊 按模型设置 TTS 声音给每个 persona 绑定独立声音

创建模型

工作区 > 模型 中点击 + 新建模型,或在现有模型上点 ... > 编辑

核心配置

字段含义
头像上传自定义头像,支持 GIF 和 WebP
名称与 ID显示名称与唯一标识
基础模型真正提供推理能力的底层模型
描述在模型选择器中展示的简要说明
标签便于在下拉列表里分类组织
可见性私有或公开

系统提示词与变量

系统提示词定义模型行为与 persona。你可以使用动态变量:

变量输出示例
{{ CURRENT_DATE }}2024-10-27
{{ CURRENT_TIME }}14:30:05
{{ USER_NAME }}Admin
You are a helpful assistant for {{ USER_NAME }}.
The current date is {{ CURRENT_DATE }}.

能力与绑定

你可以控制模型能做什么,并绑定相关资源:

设置控制内容
知识库绑定知识库或文件,可切换 Focused Retrieval / Full Context
工具强制启用特定工具
技能绑定 技能,让其 manifest 总是注入
过滤器绑定 pipeline filter,例如 PII 脱敏
动作绑定操作脚本,例如 “Add to Memories”
视觉启用图像分析
网页搜索启用配置好的搜索提供方
代码执行器启用 Python 执行
图像生成启用图像生成
内建工具控制时间、记忆、聊天、笔记、知识库、频道、任务管理、自动化等工具分类
文件上下文开启时通过 RAG 处理文件;关闭时不提取文件内容
TTS 语音为该模型设置专属语音

高级参数

  • Stop Sequences:在出现特定字符串时强制停止生成
  • Temperature / Top P:控制创造性和稳定性

快捷提示词

这些是用户新建与该模型对话时会看到的快捷提示词,例如 “Explain this code step-by-step” 或 “Summarize this document”。


模型管理

在模型列表中,点击任意模型右侧 ...

动作说明
编辑打开配置面板
隐藏从模型选择器中隐藏,但不删除
克隆复制一个副本
复制链接复制该模型设置页的直链
导出导出 .json 配置
分享分享到 OPL 数据空间 社区
删除永久删除该预设

导入与导出

  • 导入:从 .json 或社区链接导入
  • 导出:导出全部自定义模型配置
  • 发现:浏览社区预设
下载底层模型

如果要下载新的基础模型,可前往 设置 > 连接 > Ollama,或在模型选择器里执行 ollama run hf.co/{username}/{repository}:{quantization}


管理员全局模型默认值

管理员可以在 管理面板 > 设置 > 模型 > ⚙️ 中设定对全部模型生效的基线能力与参数。

  • 默认模型元数据DEFAULT_MODEL_METADATA):控制 vision、web search、file context、code interpreter、builtin tools 等基线能力
  • 默认模型参数DEFAULT_MODEL_PARAMS):控制 temperature、top_p、max_tokens、function_calling 等推理参数

合并规则

设置类型合并策略例子
Capabilities深合并全局设 file_context: false,模型设 vision: true,最终两者并存
Other metadata仅补空值全局提供 description,模型未设置时才补上
Parameters简单合并全局 temperature: 0.7,模型显式设 0.3,最终用 0.3
知识库与 function calling 的交互

如果在全局参数里把 function_calling: native 打开,会改变所有模型对附加知识库的处理方式。此时模型绑定的知识库不再自动注入,而必须通过内建工具主动检索。

批量管理

管理员模型列表支持按状态过滤(已启用、已禁用、可见、隐藏),并对当前视图中的全部模型执行批量启用/禁用。


在聊天中切换模型

你可以在同一会话中途切换模型而不丢失上下文。也可以同时选择两个模型,把它们的回答并排比较。


使用场景

团队专用 agent

为销售团队创建一个绑定 CRM 知识库、异议处理提示词和邮件工具的 “Sales Assistant”,并仅共享给销售组。

帮助新用户快速上手

为模型配置带说明性的快捷提示词,例如 “Ask me about our company policies” 或 “Help me set up my development environment”,让新人一上来就知道该怎么用。

执行组织标准

通过全局默认值统一关闭某些能力、固定某些参数,或者强制 function calling;同时允许少数特定模型按需覆写。


限制

它是预设,不是微调

模型预设通过系统提示词和工具绑定改变行为,但不会修改底层模型权重。要做深层行为变化,仍然需要真正的 fine-tuning。

fallback 需要额外配置

如果某个基础模型不可用,而你又希望预设自动回退,则还需要启用 ENABLE_CUSTOM_MODEL_FALLBACK 并配置默认模型。