15 低代码平台 Agent 开发与部署 — Coze / Dify 从入门到私有化部署

学习理念：这是整个课程中唯一一个不写代码也能搭建 AI Agent 的章节。Coze 和 Dify 让你用可视化方式快速理解 Agent、RAG、工作流等核心概念——这些理解会直接迁移到第 16 章 LangChain 和第 18 章 LangGraph 的代码化实现中。策略是：理解架构 > 记忆操作步骤，GUI 操作随用随查即可。
海外对标：Coze 对标 OpenAI GPTs（消费者级 Agent 搭建），Dify 对标 LangFlow + N8N（开发者级 LLM 应用平台 + 工作流自动化）。三者覆盖了低代码 Agent 搭建的完整光谱。

本节 AI 替代率：~78% | 人工干预率：~22%

角色	能力范围
🤖 AI 擅长	解释 Agent 概念、对比平台差异、生成 Prompt 模板、写 Python 调用代码
👤 人类需理解	平台选型判断（什么场景用 Coze vs Dify vs N8N）、部署架构设计、安全合规考量

技术栈健康度速览（参照 OPC 7.4 标签体系）

技术	健康度	说明
Coze（扣子）	🟢 稳定	字节开源，零门槛搭建 Agent，适合个人和 2C 场景。2025.7 开源后支持私有化部署
Dify	🔥 巅峰	国内起源但高度国际化（GitHub ~145k stars），LLM 应用平台的标杆，内置 RAG/Agent/LLMOps
N8N	🔥 巅峰	德国开源工作流自动化（~180k stars，SAP 2026.5 战略投资 $5.2B），AI Agent 节点扩展后成为通用 Agent 运行时
Ollama	🟢 稳定	本地大模型部署的首选方式，简单但推理效率低，不适合高并发
vLLM	🔥 巅峰	企业级高并发推理引擎，PagedAttention 技术，支持多卡并行
Xinference	🟢 稳定	国产大模型托管平台，统一管理 LLM/Embedding/Rerank 三种模型
SGLang	⏳ 成长期	vLLM 同源的推理引擎，面向结构化生成场景优化

一、🟢 智能体（AI Agent）概述

1.1 什么是 AI Agent

AI Agent（智能体）是以大语言模型为推理与决策核心，结合记忆、工具调用与环境交互能力，能够进行规划决策并执行动作以达成目标的软件系统。

给程序员的比喻：Agent = 一个用 LLM 当大脑的微服务——接收任务，自己拆解步骤，调用各种 API（工具），记住之前的交互（记忆），直到任务完成。

1.2 Agent 的核心要素

要素	English	作用	比喻
大模型	LLM (Brain)	推理、规划、知识理解	大脑，做决策
记忆	Memory	短期记忆（对话上下文）+ 长期记忆（向量数据库/微调）	缓存 + 数据库
工具使用	Tool Use	调用外部 API、数据库、搜索引擎	手和脚，执行动作
规划决策	Planning	任务分解、思维链、反思自省	项目经理，拆任务
行动	Action	执行决策结果（软件操作/物理交互）	执行者，干活

1.3 Agent 的三个 Level

Level	名称	实现方式	代表平台	适合场景
L1	提示词立人设	写 Prompt + 配置模型参数	Cherry-Studio / 豆包 / GPTs	简单对话式 Agent
L2	工作流编排	可视化拖拽 + 多节点连接	Coze Bot / Dify Chatflow	有固定流程的任务
L3	自主任务拆解	Agent 自主规划→执行→反思	Coze Agent / Dify Agent / LangGraph	复杂多步骤任务

二、🟢 RAG 知识库搭建

2.1 RAG 原理回顾

RAG（Retrieval-Augmented Generation，检索增强生成）是解决 LLM 知识冻结和幻觉问题的标准方案。

用户提问 → 向量数据库检索相关文档 → 文档 + 问题 一起喂给 LLM → 生成回答

为什么需要 RAG：

知识冻结：LLM 训练数据有截止时间，无法回答最新信息
私有数据：企业内部资料不在训练数据中
幻觉控制：给 LLM 提供参考文档，减少编造

2.2 RAG 执行流程中的三个模型

步骤	模型类型	作用	代表模型
③ 文本向量化	Embedding 模型	把文本变成向量，存入向量库	`bge-large-zh`, `text-embedding-3`
⑦ 重排序	Rerank 模型	对召回结果精排，提高准确率	`bge-reranker-v2`, `cohere-rerank`
⑨ 生成答案	LLM	根据检索结果 + 用户问题生成回答	`DeepSeek`, `GPT-4`, `Qwen`

💡 Reranker 的使用原则：追求高精度（如专业知识库）时使用，但会增加延迟和成本。简单场景可跳过 Reranker。

2.3 Dify 知识库实操（核心流程）

Dify 是把 RAG 做得最"产品化"的平台——内置从文档摄入到检索的完整管道：

上传文档 → 自动分段(Chunk) → 选择 Embedding 模型 → 向量化 → 存入向量库
   ↓
用户提问 → 检索 Top-K → (可选 Reranker) → 组装 Prompt → LLM 生成

关键配置项（比手写 LangChain 简单得多）：

分段策略：固定长度 / 语义分段 / 自定义
Embedding 模型选择：text-embedding-3-small / bge-m3 等
检索模式：向量检索 / 全文检索 / 混合检索
Top-K 和 Score Threshold：控制召回质量

三、🔥 平台对比：国内 vs 国际生态

3.1 三款主流平台横向对比

对比维度	Coze（扣子）	Dify	N8N
起源	🇨🇳 字节跳动（2024）	🇨🇳→🌍 苏州语灵（2023）	🇩🇪 德国（2019）
定位	零代码 Agent 搭建平台	LLM 应用开发平台	通用工作流自动化 + AI
GitHub Stars	开源版 ~9k+（2025.7）	~145k	~180k（SAP 投资 $5.2B）
上手难度	🟢 低（几小时）	🟡 中（1-2 天）	🟠 较高（3-5 天）
核心优势	零代码、字节生态集成、预制模板多	RAG 内置、LLMOps 全链路、多模型切换	400+ 集成节点、自动化引擎成熟
RAG 能力	基础知识库	🏆 最强——端到端内置管道	需自行组装（HTTP + 向量库节点）
Agent 能力	工作流 + 自主 Agent	Chatflow + Agent 节点	AI Agent 节点（LangChain 封装）
私有化部署	开源版支持（Docker）	开源版支持（Docker Compose）	🏆 最佳——自托管体验最优
许可证	Apache 2.0	Modified Apache-2.0	Sustainable Use（非 OSI 开源）
商业使用	✅ 免费商用	✅ 免费版	⚠️ 嵌入 SaaS 需商业许可
中文生态	🏆 最好——文档、社区全中文	🟢 好——中文文档完善	🟠 一般——中文资源较少
国际生态	🟠 较弱——主要国内使用	🟢 好——国际社区活跃	🏆 最强——400+ 国际 SaaS 集成
学习曲线	🟢 平缓	🟡 适中	🟠 较陡

3.2 如何选型

3.3 更多国际对标

国内方案	国际对标	差异点
Coze	OpenAI GPTs	Coze 开源可私有化，GPTs 闭源锁定生态
Coze Bot	AutoGPT / AgentGPT	Coze 可视化，AutoGPT 纯代码自主 Agent
Dify	LangFlow	Dify 更像产品（有 UI/用户管理/RAG 管道），LangFlow 更像可视化 LangChain
Dify	Flowise	Dify 更重企业级，Flowise 更轻量原型
Coze Loop	LangSmith / LangFuse	Agent 运维和可观测性
Xinference	Ollama + vLLM	Xinference 统一管理多种模型，Ollama 更轻量

中英文对照：

中文	English	说明
智能体	AI Agent	以 LLM 为核心的自主系统
工作流	Workflow	预定义的执行步骤流程
知识库	Knowledge Base	结构化/非结构化的外部知识存储
插件	Plugin / Tool	Agent 可调用的外部能力
提示词	Prompt / System Prompt	定义 Agent 角色和行为的指令
变量	Variable	Agent 交互过程中存储的数据
记忆	Memory	短期对话上下文 / 长期知识存储
发布	Publish / Deploy	将 Agent 上线到各平台
检索增强生成	RAG (Retrieval-Augmented Generation)	让 LLM 访问外部知识库的架构

四、🟡 Python API 集成

价值说明：可视化平台搭建的 Agent 最终需要通过 API 集成到业务系统中。以下演示 Dify 和 Coze 的 API 调用模式。

4.1 Dify 工作流 API 调用

① 准备工作

在 Dify 工作室中发布工作流
创建 API Key（每个工作流独立绑定）

② API 请求

bash

curl -X POST 'https://api.dify.ai/v1/workflows/run' \
  --header 'Authorization: Bearer {api_key}' \
  --header 'Content-Type: application/json' \
  --data-raw '{
      "inputs": {"title": "新能源汽车发展概况"},
      "response_mode": "streaming",
      "user": "test_user"
  }'

③ Python SDK 调用

python

import requests
import json

def run_dify_workflow(api_key, workflow_inputs, base_url="https://api.dify.ai"):
    """调用 Dify 工作流"""
    url = f"{base_url}/v1/workflows/run"
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json"
    }
    payload = {
        "inputs": workflow_inputs,      # 工作流输入参数
        "response_mode": "blocking",    # blocking: 等待执行完毕 / streaming: SSE 流式
        "user": "python_sdk"
    }
    
    response = requests.post(url, headers=headers, json=payload)
    result = response.json()
    
    if result.get("data", {}).get("status") == "succeeded":
        return result["data"]["outputs"]
    else:
        raise Exception(f"Workflow failed: {result}")

# 使用示例
outputs = run_dify_workflow(
    api_key="app-xxxxxxxx",
    workflow_inputs={"title": "AI Agent 发展趋势"}
)
print(outputs["output"])  # 工作流生成的文本内容

④ 响应结构

字段	说明
`data.status`	`succeeded` / `failed` / `running`
`data.outputs`	工作流输出（JSON 格式，取决于工作流定义）
`data.elapsed_time`	执行耗时（秒）
`data.total_tokens`	总 token 消耗
`data.total_steps`	执行的总步骤数

4.2 Coze API 调用

Coze 提供 Bot API，可以通过对话方式调用发布后的 Bot：

python

import requests

def chat_with_coze_bot(api_key, bot_id, user_message, user_id="test_user"):
    """与 Coze Bot 对话"""
    url = "https://api.coze.cn/open_api/v2/chat"
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json",
        "Accept": "*/*"
    }
    payload = {
        "bot_id": bot_id,
        "user": user_id,
        "query": user_message,
        "stream": False
    }
    
    response = requests.post(url, headers=headers, json=payload)
    return response.json()

# 使用示例
reply = chat_with_coze_bot(
    api_key="pat_xxxxxxxx",
    bot_id="737867xxxxxxxx",
    user_message="帮我分析一下这个季度的销售数据"
)
print(reply["messages"][-1]["content"])

五、🟠 私有化部署

5.1 三种部署架构对比

部署方案	适用场景	硬件要求	复杂度	推荐场景
Coze 私有化	个人/小团队 Agent 搭建	2核 CPU + 4GB 内存	🟢 简单	个人学习、小团队原型
Dify 私有化	企业级 LLM 应用平台	4核 CPU + 8GB 内存	🟡 中等	企业知识库、内部工具
Dify + Xinference	企业级全私有化部署	GPU 服务器 + 内存	🔴 复杂	数据安全要求高的企业

5.2 企业级全链路部署架构

架构要点：
Dify 部署在 Docker 中（应用层）
Xinference 直接部署在 GPU 服务器上（推理层），不放入 Docker——因为 Docker 默认使用 CPU，需额外配置才能调用 GPU
Xinference 统一对外提供 OpenAI-compatible API，Dify 通过标准接口调用
这种架构实现技术解耦：模型可独立升级替换，推理层可独立运维监测 QPS/TTFT/TPS

5.3 推理引擎选型

引擎	适合场景	性能	特点
Ollama	个人开发/本地测试	❌ 低	上手最简单，不适合高并发
llama.cpp	CPU/边缘设备	❌ 低	纯 C++ 实现，轻量级
vLLM	🏆 企业高并发	✅ 极致	PagedAttention，多卡并行，社区最广
SGLang	结构化生成场景	✅ 高	对同一应用的多次调用做复用优化
HuggingFace TEI	Embedding 模型部署	✅ 高	HF 官方，专为 Embedding 设计

企业选型结论：vLLM 的推理性能通常足够；Xinference + vLLM 引擎可同时管理 LLM / Embedding / Rerank，统一运维。

5.4 本地大模型部署（Ollama）

bash

# 1. 安装 Ollama（指定目录避免 C 盘占满）
#    从 https://ollama.com/ 下载安装包
#    在下载目录打开 cmd 执行安装到指定目录：
#    ollama setup.exe /DIR=D:\Ollama

# 2. 设置模型下载路径（避免占满 C 盘）
#    系统环境变量: OLLAMA_MODELS = D:\Ollama\models

# 3. 拉取并运行模型
ollama pull deepseek-r1:7b    # 拉取 DeepSeek R1 蒸馏版 7B
ollama run deepseek-r1:7b     # 运行

# 4. API 调用（Ollama 提供 OpenAI-compatible API）
curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt": "什么是 RAG？",
  "stream": false
}'

# 5. 在前端工具（Cherry-Studio / ChatBox）中配置 Ollama 作为模型源

DeepSeek 模型选择：满血版 R1 671B 需 720GB 显存（非一般公司可用）。个人推荐使用蒸馏版 7B/14B（10-20GB 显存可跑）。

六、🟠 业务案例速览

原始课程包含 6 个业务案例（3 个 Coze + 3 个 Dify），全部是 GUI 操作。下表提炼每个案例的业务价值和核心配置，了解即可——需要具体操作步骤时直接从原始资料查阅。

案例	平台	业务场景	核心配置	业务价值
① 一键生成行业调研PPT	Coze	输入主题名→自动生成完整 PPT	工作流：搜索 → 大纲 → 分节生成 → 组装	节省 80% 调研报告时间
② 产品营销海报生成	Coze	输入产品名→生成营销海报文案	Agent + 图片生成插件 + 头条搜索	批量生成营销素材
③ 一键生成商品宣传视频	Coze	输入商品链接→自动生成视频脚本+画面	工作流：商品分析 → 脚本 → 画面 → 合成	电商视频内容批量生产
④ 客户投诉分类助手（钉钉集成）	Dify	钉钉接收投诉→自动分类→分配负责人	工作流：文本分类 → 标签匹配 → 钉钉消息推送	客服效率提升 70%
⑤ 客服对话记录分析	Coze / Dify	导入对话记录→自动分析客户意图+情绪	知识库 + LLM 分析 → 结构化输出	批量对话质量巡检
⑥ 商品评论分析	Coze / Dify	导入商品评论→自动情感分析+摘要	知识库 + LLM 分类 → 统计报表	商品反馈自动归集

🔑 学习要点：这 6 个案例本质上是一样的模式——输入(数据) → LLM 处理(分析/生成) → 输出(结构化结果)。差异在于输入形式和输出目标不同。理解了这个模式，你就掌握了低代码 Agent 开发的 80%。

学习路径

优先级	内容	时间	说明
🔥	Agent 核心概念 + 3 Level 框架	5 min	理解 Agent 是什么，为 LangChain(L16) 打基础
🔥	RAG 知识库原理 + Dify 实践	10 min	RAG 是后续所有章节约会的核心技术
🔥	平台对比：Coze vs Dify vs N8N	5 min	技术选型能力，面试常问
🟢	Python API 调用（Dify/Coze）	10 min	掌握代码级集成，实际工作中最常用
🟢	私有化部署架构	5 min	理解企业级部署的全貌
🟠	6 个业务案例速览	3 min	看对比表就够了，不用细读操作步骤
🟠	本地 Ollama 部署	3 min	按需查阅，本地测试时有用

AI 协作指南

本文档看完后，以下问题直接问 AI 插件：

Q: "Coze 和 Dify 的 Agent 模式有什么区别？"
Q: "我想搭建一个企业内部知识库问答机器人，用 Dify 还是 N8N？"
Q: "Dify 工作流的阻塞模式和流式模式有什么区别？"
Q: "vLLM 和 Ollama 的部署选型应该怎么选？"

AI 能做的：
  - 根据你的具体场景推荐平台选型
  - 写 Dify/Coze API 的 Python 调用代码
  - 解释 RAG 各环节的原理和配置项含义
  - 给出 Docker Compose 私有化部署的配置文件

附录：原始资料处理说明

原始文件	处理方式
`02-基于Coze&Dify平台的智能体开发.md`（~962行）	核心 Agent 概念和平台对比已整合到 §一~§三
`01-RAG-搭建企业私有&个人知识库.md`（~416行）	RAG 原理和 Dify 知识库配置已整合到 §二
`05-Python调用Dify平台工作流.md`（~588行）	Python 调用核心代码已整合到 §四
`06-Python调用Coze平台工作流.md`	同上
`07-Coze的Windows平台部署.md`（~593行）	部署架构和 Docker 配置已整合到 §五
`08-Dify的Windows平台部署.md`	同上
`09-企业级大模型的部署.md`（~1031行）	vLLM/Xinference 架构已整合到 §五
`本地大模型的安装部署.md`（~240行）	Ollama 部署已整合到 §五
`03-04 系列 6 个业务案例`	已浓缩为对比表 §六
视频（day01~day03）	跳过——操作步骤以截图为主，按需查阅
`3.软件/` 安装包（Cherry-Studio/Docker/Ollama/Postman）	按需安装

修复情况：

✅ 技术栈健康度标签（OPC 7.4：🔥🟢⏳⚠️💀）
✅ 🟢🟡🟠🔴 优先级颜色
✅ 中英文对照表（§三）
✅ 国内 vs 国际生态对标（Coze↔GPTs, Dify↔LangFlow, N8N↔Zapier）
✅ Mermaid 全景图（Agent 3 Level / 选型决策树 / 企业部署架构）
✅ 海外对标（Coze↔GPTs, Dify↔LangFlow/N8N, Coze Loop↔LangSmith）
✅ 企业痛点映射（RAG 解决知识冻结+幻觉，私有化部署解决数据安全）
✅ Python 核心代码可复制运行
✅ 学习路径表（最短 46 分钟读完）

15 低代码平台 Agent 开发与部署 — Coze / Dify 从入门到私有化部署 ​

一、🟢 智能体（AI Agent）概述 ​

1.1 什么是 AI Agent ​

1.2 Agent 的核心要素 ​

1.3 Agent 的三个 Level ​

二、🟢 RAG 知识库搭建 ​

2.1 RAG 原理回顾 ​

2.2 RAG 执行流程中的三个模型 ​

2.3 Dify 知识库实操（核心流程） ​

三、🔥 平台对比：国内 vs 国际生态 ​

3.1 三款主流平台横向对比 ​

3.2 如何选型 ​

3.3 更多国际对标 ​

四、🟡 Python API 集成 ​

4.1 Dify 工作流 API 调用 ​

① 准备工作 ​

② API 请求 ​

③ Python SDK 调用 ​

④ 响应结构 ​

4.2 Coze API 调用 ​

五、🟠 私有化部署 ​

5.1 三种部署架构对比 ​

5.2 企业级全链路部署架构 ​

5.3 推理引擎选型 ​

5.4 本地大模型部署（Ollama） ​

六、🟠 业务案例速览 ​

学习路径 ​

AI 协作指南 ​

附录：原始资料处理说明 ​