OpenAI-API-compatible provider 来配置。一个 API Key 即可调用所有模型。

核心功能
为什么用 Dify + Xcompute
部署 Dify
Docker Compose 部署(推荐)
前置要求: Linux 2 核 4GB+、Docker 20.10+、Docker Compose 2.0+http://your-server/install 设置管理员账号。
Up。之后访问 Dify 主界面。
Dify Cloud
如果你不想部署,可直接使用 Dify Cloud:- 注册账号(支持 GitHub / Google 登录)
- 创建工作空间
- 进入控制台
接入 Xcompute API(核心章节)
获取 Xcompute API Key
- 登录 Xcompute 控制台
- 进入 API Keys → 创建新 Key
- 复制并保存(创建后不再显示)
在 Dify 中添加模型
- 点击右上角 头像 → 设置 → 模型供应商
- 找到 OpenAI-API-compatible 并点击进入
推荐添加的模型
GPT 系列:
Claude 系列(通过 OpenAI 协议适配):
Gemini 系列:
Embedding 模型(RAG 知识库用):
添加时「模型类型」必须选择 Text Embedding,否则知识库向量化无法正常工作。
使用加速入口
如果访问xcompute.us 延迟较高,将 Endpoint URL 改为:
验证模型可用性
添加后在模型供应商页面应显示绿色”已连接”标记。也可创建测试 Chatbot 发送消息验证。构建 AI 应用
Chatbot 应用
- 工作室 → 创建空白应用 → 聊天助手
- 选择刚添加的 Xcompute 模型(如
gpt-5.6-sol) - 配置参数:Temperature 0.7、Max Tokens 4096
- 编写系统提示词定义角色行为
- 发布 并测试
Agent 应用
Agent 可以调用外部工具,具备更强的推理和执行能力:- 创建应用时选择 Agent 类型
- 选择推理策略:Function Call(推荐,
gpt-5.6-sol/claude-sonnet-5均支持) - 在”工具”区域添加内置工具(Google Search、Wikipedia、计算器等)
- 可关联知识库增强回答准确性
Workflow 工作流
Workflow 允许通过节点式编排实现复杂业务逻辑:
智能文档问答工作流示例:
{{start.query}}、{{knowledge.retrieval_result}} 等语法传递变量。
RAG 知识库配置
创建知识库
- 左侧导航 知识库 → 创建知识库
- 选择索引方式:高质量模式(使用 Embedding 模型,推荐)
- 选择
text-embedding-3-small(性价比最高)
文档导入
支持 PDF、TXT、Markdown、DOCX、HTML、XLSX、CSV 等格式,单文件最大 15MB。 分段策略建议:检索策略
推荐配置:混合检索、Top K 5、Score 阈值 0.5。
实战案例
案例一:智能客服机器人
基于公司知识库创建自动回答常见问题的客服应用:- 导入产品手册、FAQ、售后政策等文档创建知识库
- 创建 Chatbot 应用,关联知识库,模型使用
claude-sonnet-5 - 配置系统提示词限定回答范围和语气
- 设置预设问题(开场白)引导用户
案例二:多步骤工作流自动化
自动生成研究报告的工作流:高级配置
多模型路由策略
成本分级:速率限制
Dify 应用设置中可配置每分钟最大调用次数、每日最大 Token 消耗量。 避免触发 429 的建议:降低并发、实现重试机制。日志与监控
- Dify 内置 日志与标注 页面查看对话记录、Token 消耗、响应延迟
- Docker 日志:
docker compose logs -f api - 可集成 Prometheus + Grafana 监控 API 延迟、错误率、Token 消耗速率
常见问题
模型添加后无法使用
排查:/v1、账户余额不足。
API 连接超时
- 切换到加速入口
https://intl.dualseason.com/v1 - 增加超时:
.env中设置MODEL_REQUEST_TIMEOUT=120,重启服务 - 配置代理:
.env中设置HTTP_PROXY和HTTPS_PROXY
Embedding 模型不可用
确认模型类型选择了 Text Embedding(非 LLM),且验证状态为”已连接”。切换 Embedding 模型后需要创建新知识库并重新向量化。上下文长度设置
上下文并非越大越好,过大会增加 Token 消耗和响应延迟。