掌柜问数 — 环境配置与服务部署指南 — 学习指南
学习理念:工欲善其事,必先利其器。环境配置和部署是项目的基石。把 Docker Compose、Python 虚拟环境及各类中间件(Milvus、Neo4j、MongoDB、MinIO)配置稳妥,项目才不会在后续开发和运行阶段遭遇各种环境冲突导致的玄学报错。本章将以极致工程化的思路,带你从零构建一套可以直接平移到生产环境的本地/云端混合部署架构。
海外对标:硅谷 AI 独角兽企业(如 Pinecone、LangChain Inc)推崇的 Infrastructure as Code (IaC) 标准,本项目的一键部署 Docker-Compose 配置规范与美国主流 AI SaaS 团队本地环境开发标准完全对标。
本节 AI 替代率:~95% | 人工干预率:~5%
| 角色 | 能力范围 |
|---|---|
| 🤖 AI 擅长 | 生成 Docker Compose 配置文件、编写测试连接脚本、提供端口冲突和权限故障排查命令 |
| 👤 人类需理解 | 各中间件的互联机制(Etcd-MinIO-Milvus 的绑定)、环境变量的设计理念、Docker 网络配置与拓扑 |
阅读指引
| 颜色 | 章节 | AI 替代率 | 人工干预 | 说明 |
|---|---|---|---|---|
| 🟢 | §1 Python 项目环境 | ~95% | ~5% | 虚拟环境与依赖安装,几乎不需要关注 |
| 🟢 | §2 配置文件说明 | ~90% | ~10% | 环境变量参数含义与各大模型/数据库密钥获取 |
| 🟡 | §3 基础环境准备 | ~85% | ~15% | Docker 安装与网络隧道解决国内拉取镜像问题 |
| 🟠 | §4 中间件部署 | ~70% | ~30% | 重点理解 Milvus 的三合一绑定与 Neo4j 配置 |
| 🟢 | §5 一键部署方案 | ~95% | ~5% | Docker Compose 完整一键启动与网络拓扑 |
| 🟢 | §6 验证安装 | ~95% | ~5% | 自动化连通性测试脚本验证服务连通性 |
| 🟠 | §7 故障排查 | ~60% | ~40% | 典型故障(端口占用、OOM 资源受限)处理 |
技术栈健康度标签体系
| 技术 | 健康度 | 建议 |
|---|---|---|
| Docker & Compose | 🔥 巅峰 | 当前最热门/市占最高,AI 及应用部署的事实标准 |
| Python venv | 🔥 巅峰 | 官方推荐、轻量干净的虚拟环境工具,比 conda 更轻量 |
| Milvus | 🟢 稳定 | 核心向量检索数据库,支持百亿级向量,本课程精讲 |
| Neo4j | 🟢 稳定 | 图数据库第一品牌,知识图谱检索核心依赖 |
| MongoDB | 🟢 稳定 | 文档型数据库,适合存储对话历史等半结构化数据 |
| MinIO | 🔥 巅峰 | 开源对象存储标准,S3 兼容,Milvus 与本地文件管理的底层依赖 |
体系说明:
- 🟢🟡🟠🔴:用于标识学习路径优先级与 AI 替代率。
- 🔥🟢⏳⚠️💀:用于评估技术栈的健康度与时代相关性。
中英文对照表
| English | 中文 | 本质 |
|---|---|---|
| Virtual Environment (venv) | 虚拟环境 | 与系统 Python 隔离的沙盒,避免不同项目依赖冲突 |
| Docker Compose | 容器编排工具 | 通过单个 YAML 文件定义和运行多容器 Docker 应用程序的工具 |
| Vector Database | 向量数据库 | 专门用于存储和快速检索高维向量数据的数据库(如 Milvus) |
| Graph Database | 图数据库 | 以节点和边表示图结构数据的数据库,擅长处理复杂关系(如 Neo4j) |
| Document Database | 文档数据库 | 基于文档存储的非关系数据库,以类似 JSON 格式存储数据(如 MongoDB) |
| Object Storage | 对象存储 | 扁平结构、基于 Key-Value 的非结构化数据存储系统(如 MinIO) |
| Reverse SSH Tunnel | 反向 SSH 隧道 | 通过安全通道绕过防火墙或限制,常用于解决国内镜像拉取超时问题 |
💡 程序员比喻
- venv / conda:就像是给代码建独立沙盒,避免不同项目间的依赖互相打架(Dependency Hell)。
- Docker:就像是海运集装箱。不管里面装的是什么,只要规格统一(Container API),大船(OS)就能直接拉走,且互不干扰。
- Etcd + MinIO + Milvus:就像是一个协作小分队:Etcd 是记录员(元数据),MinIO 是仓库(数据存储),Milvus 是分析师(高维计算)。
1. Python 项目环境
1.1 虚拟环境创建
方式一:使用 venv(推荐 🔥)
🟡 【P1 看注释就行】 本地开发推荐使用原生 venv,轻量纯净。直接复制这几行命令运行即可。
# 1.进入项目目录
cd knowledge
# 2. 创建虚拟环境
python -m venv .venv
# 3. 激活虚拟环境
# Windows (CMD)
.venv\Scripts\activate.bat
# Windows (PowerShell)
.venv\Scripts\Activate.ps1
# Linux / macOS
source .venv/bin/activate方式二:使用 conda
🟢 【P2 后面可以查】 适用于有 conda 习惯的开发者,了解即可。
# 1. 创建 conda 环境
conda create -n knowledge python=3.10 -y
# 2. 激活环境
conda activate knowledge今天还用吗:
- 无论是 venv 还是 conda,都是当前 Python 开发的标配。但在生产和轻量级容器化部署中,venv(🔥 巅峰)由于不带额外的管理开销更受欢迎。
1.2 依赖安装
项目依赖定义在 requirements.txt 中:
🟡 【P1 看注释就行】 对标当前主流 LLM 开发技术栈,包含 Milvus, LangGraph, MinIO, Neo4j, MongoDB 驱动。
# PyTorch (CUDA 12.8)
--extra-index-url https://download.pytorch.org/whl/cu128
torch
torchvision
# 核心依赖
minio # 对象存储客户端
langchain-openai # LangChain OpenAI 集成
langgraph # 工作流编排框架
grandalf # 图布局算法(LangGraph 依赖)
pymilvus[milvus_lite] # Milvus 向量数据库客户端
pymilvus[model] # Milvus 模型支持
sentence-transformers # 句向量模型
neo4j # Neo4j 图数据库驱动
pymongo # MongoDB 驱动
mineru[all] # PDF 解析工具
openai-agents # OpenAI Agent 框架安装命令(使用国内镜像):
🟡 【P1 看注释就行】 依赖一键安装指令,通过清华源加速。若遇到 PyTorch 下载异常再采用分步指令。
# 使用清华镜像安装
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
# 如果安装 PyTorch 遇到问题,可以单独安装
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu128常见安装问题:
| 问题 | 解决方案 |
|---|---|
| PyTorch 安装失败 | 检查本机 CUDA 版本,选择对应的 whl 源 |
| mineru 安装慢 | 使用 --no-deps 先装核心包,再逐步安装依赖 |
| 编译错误 | Windows 系统下安装 Visual Studio Build Tools (C++ 桌面开发组件) |
1.3 环境变量配置
项目使用 .env 文件管理环境变量,需在 knowledge/ 目录下创建。
🟡 【P1 看注释就行】 复制环境变量模板命令。
copy .env.example .env完整 .env 配置示例:
🔥 【P0 必须要学】 核心服务环境配置。此配置决定了本地运行代码时能否准确路由至对应的 Milvus、Neo4j、MongoDB 与大模型 API。每一项必须认真对照配置。
# ====================
# Model Source & Cache
# ====================
# 模型来源(modelscope / huggingface)
MINERU_MODEL_SOURCE=modelscope
# ModelScope 离线模式(1=启用)
MODELSCOPE_OFFLINE=1
# ModelScope 模型缓存路径
MODELSCOPE_CACHE=D:/ai_models/modelscope_cache
# Hugging Face 缓存路径
HF_HOME=D:/ai_models/huggingface_cache
# 临时文件根目录
MD_ROOT_DIR=./temp-files/
# ====================
# OpenAI / LLM API (DashScope compatible)
# ====================
# API 密钥(兼容 OpenAI 格式)
OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
# API 基础地址(阿里云 DashScope)
OPENAI_API_BASE=https://dashscope.aliyuncs.com/compatible-mode/v1
# 默认 LLM 模型
LLM_DEFAULT_MODEL=qwen-flash
# 默认温度参数(0-1,越低越稳定)
LLM_DEFAULT_TEMPERATURE=0.1
# 视觉语言模型
VL_MODEL=qwen3-vl-flash
# 商品名识别模型
ITEM_MODEL=qwen-flash
# 知识图谱抽取模型
KG_MODEL=qwen-flash
# ====================
# BGE Embedding Models
# ====================
# BGE-M3 模型本地路径
BGE_M3_PATH=D:\ai_models\modelscope_cache\models\BAAI\bge-m3
# BGE-M3 模型名称
BGE_M3=BAAI/bge-m3
# 嵌入模型运行设备
BGE_DEVICE=cuda:0
# 是否使用半精度(True/False)
BGE_FP16=True
# BGE 重排序模型路径
BGE_RERANKER_LARGE=D:\ai_models\modelscope_cache\models\BAAI\bge-reranker-large
# 重排序模型设备
BGE_RERANKER_DEVICE=cuda:0
# 重排序模型半精度
BGE_RERANKER_FP16=1
# ====================
# Embedding General
# ====================
# 嵌入向量维度(OpenAI text-embedding-v4)
EMBEDDING_DIM=1536
# 嵌入模型名称
EMBEDDING_MODEL=text-embedding-v4
# ====================
# Vector Database (Milvus)
# ====================
# Milvus 连接地址
MILVUS_URL=http://localhost:19530
# 知识库切片集合名
CHUNKS_COLLECTION=kb_chunks
# 实体名称集合名
ENTITY_NAME_COLLECTION=kb_graph_entity_names
# 商品名称集合名
ITEM_NAME_COLLECTION=kb_item_names
# 相似度度量方式
MILVUS_METRIC_TYPE=COSINE
# 最小余弦相似度阈值
MILVUS_MIN_COSINE_SCORE=0.75
# ====================
# Graph Database (Neo4j)
# ====================
# Neo4j 连接 URI
NEO4J_URI=bolt://localhost:7687
# 数据库名(社区版固定为 neo4j)
NEO4J_DATABASE=neo4j
# 用户名
NEO4J_USERNAME=neo4j
# 密码
NEO4J_PASSWORD=your_password
# ====================
# Document Database (MongoDB)
# ====================
# MongoDB 连接 URL
MONGO_URL=mongodb://localhost:27017
# 数据库名
MONGO_DB_NAME=kb001
# ====================
# Object Storage (MinIO)
# ====================
# MinIO 服务端点
MINIO_ENDPOINT=localhost:9000
# 访问密钥
MINIO_ACCESS_KEY=minioadmin
# 私有密钥
MINIO_SECRET_KEY=minioadmin
# 存储桶名称
MINIO_BUCKET_NAME=knowledge-base
# ====================
# Other / MCP Services
# ====================
# MCP Web 搜索服务地址
MCP_DASHSCOPE_BASE_URL=https://dashscope.aliyuncs.com/api/v1/mcps/WebSearch/sse2. 配置文件说明
2.1 配置项分类
| 类别 | 配置项 | 说明 |
|---|---|---|
| 模型缓存 | MODELSCOPE_CACHE, HF_HOME | 本地大模型及权重缓存路径,避免重复下载 |
| LLM API | OPENAI_API_KEY, OPENAI_API_BASE | DashScope 或兼容 OpenAI 的大模型网关密钥 |
| 向量模型 | BGE_M3_PATH, BGE_DEVICE | 本地 BGE Embedding 模型及加载设备配置 |
| 数据库 | MILVUS_URL, NEO4J_URI, MONGO_URL | 向量、图、文档数据库的连接字符串 |
| 对象存储 | MINIO_ENDPOINT, MINIO_ACCESS_KEY | MinIO 存储接入密钥与服务地址 |
2.2 数据库连接配置
应用启动时,底层代码通过 Python 驱动读取环境变量建立连接:
2.2.1 Milvus 向量数据库连接
🟡 【P1 看注释就行】 工具类连接方法,理解其调用环境变量
MILVUS_URL机制即可。
# knowledge/tools/milvus_utils.py
from pymilvus import connections
connections.connect(
alias="default",
uri=os.getenv("MILVUS_URL", "http://localhost:19530")
)2.2.2 Neo4j 图数据库连接
🟡 【P1 看注释就行】 Neo4j 连接逻辑,理解 Bolt 协议连接与认证参数。
# knowledge/tools/neo4j_utils.py
from neo4j import GraphDatabase
driver = GraphDatabase.driver(
os.getenv("NEO4J_URI", "bolt://localhost:7687"),
auth=(
os.getenv("NEO4J_USERNAME", "neo4j"),
os.getenv("NEO4J_PASSWORD", "password")
)
)2.2.3 MongoDB 文档数据库连接
🟡 【P1 看注释就行】 MongoDB 连接方法,从环境变量拉取端口及库名。
# knowledge/tools/mongo_history_utils.py
from pymongo import MongoClient
client = MongoClient(os.getenv("MONGO_URL", "mongodb://localhost:27017"))
db = client[os.getenv("MONGO_DB_NAME", "kb001")]2.3 API 密钥配置
阿里云 DashScope 申请步骤:
- 访问 阿里云 DashScope 控制台。
- 激活通义千问模型服务。
- 创建 API Key,将其填入
.env中的OPENAI_API_KEY。
可用模型矩阵一览:
| 模型名称 | 用途 | 计费类型 |
|---|---|---|
qwen-flash | 对话、实体与关系提取 | 按 Token 计费 |
qwen3-vl-flash | 视觉多模态分析、图片结构化 | 按 Token 计费 |
text-embedding-v4 | 文本向量化(备选方案) | 按 Token 计费 |
2.4 路径配置
🟡 【P1 看注释就行】 缓存及临时文件存放目录配置。
# 临时文件目录(相对于项目根目录)
MD_ROOT_DIR=./temp-files/
# 模型缓存目录(建议使用绝对路径,避免磁盘爆满)
MODELSCOPE_CACHE=D:/ai_models/modelscope_cache
HF_HOME=D:/ai_models/huggingface_cache
BGE_M3_PATH=D:/ai_models/modelscope_cache/models/BAAI/bge-m3
BGE_RERANKER_LARGE=D:/ai_models/modelscope_cache/models/BAAI/bge-reranker-large3. 基础环境准备
3.1 Docker 安装
3.1.1 Linux
🟢 【P2 后面可以查】 偏向系统级操作。Linux 下的 Docker 与 Compose 一键安装及特权用户配置,开发时照着敲即可。
# 1. 更新包索引
sudo apt-get update
# 2. 安装基础依赖
sudo apt-get install -y ca-certificates curl gnupg lsb-release
# 3. 添加 Docker 官方 GPG 密钥(使用阿里云镜像源)
sudo mkdir -p /etc/apt/keyrings
curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
# 4. 设置软件仓库
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://mirrors.aliyun.com/docker-ce/linux/ubuntu \
$(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
# 5. 安装 Docker 引擎
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin
# 6. 启动并设置开机自启
sudo systemctl start docker
sudo systemctl enable docker
# 7. 免 sudo 权限配置
sudo usermod -aG docker $USER
newgrp docker
# 8. 验证
docker --version
docker compose version3.1.2 macOS
🟢 【P2 后面可以查】 macOS 使用 Homebrew 极速部署,或者前往官网下载 DMG 安装包。
brew install --cask docker3.1.3 Windows
- 系统要求:Windows 10 2004+ 或者是 Windows 11。
- 激活 WSL2 核心(管理员权限在 PowerShell 中执行):
🟡 【P1 看注释就行】 开启 WSL2 支持的指令。
wsl --install
wsl --set-default-version 2- 安装 Docker Desktop:
- 下载并运行 Windows 端的 Docker Desktop。
- 安装过程中勾选 "Use WSL 2 instead of Hyper-V"。
- 安装完成,重启电脑。
- 验证:
🟢 【P2 后面可以查】 Windows 终端验证命令。
docker --version
docker compose version3.2 配置 Docker 镜像加速与网络解决手段
💡 解决国内拉取镜像超时的最佳实践:反向 SSH 隧道
由于当前国内各大镜像源(如网易、阿里等)存在失效或拉取受限的问题,配置代理或者使用 反向 SSH 隧道 可以从根本上解决镜像拉取超时。
4. 中间件部署
4.1 Neo4j 图数据库
4.1.1 Docker Compose 单独配置
🔥 【P0 必须要学】 Neo4j 的独立容器编排定义。注意挂载卷位置及数据持久化,初始密码用于 Cypher 连通鉴权。
neo4j:
image: neo4j:2025-community # 稳定社区版镜像
container_name: neo4j
volumes:
- ./volumes/neo4j/logs:/logs
- ./volumes/neo4j/config:/config
- ./volumes/neo4j/data:/data
- ./volumes/neo4j/plugins:/plugins
environment:
- NEO4J_AUTH=neo4j/your_password # 初始化密码
ports:
- "7474:7474" # HTTP 端口 (Web控制台)
- "7687:7687" # Bolt 协议端口 (核心数据端口)
restart: always4.1.2 启动与验证
🟡 【P1 看注释就行】 Neo4j 服务拉起及交互式 cypher-shell 验证脚本。
# 后台启动
docker compose up -d neo4j
# 连通性测试
docker exec -it neo4j cypher-shell -u neo4j -p your_password
# 成功进入提示符即表示部署正常- Web 端访问:打开浏览器,访问
http://localhost:7474,使用用户名neo4j和设置的密码登录。
4.2 Milvus 向量数据库
Milvus Standalone 架构包括:Etcd(元数据注册中心)和 MinIO(底层物理文件块存储)。
4.2.1 Docker Compose 联动配置
🔥 【P0 必须要学】 Milvus 三合一极速拉起配置,理解 Milvus 依赖 Etcd 和 MinIO 的运行关系。
etcd:
container_name: milvus-etcd
image: quay.io/coreos/etcd:v3.5.25
environment:
- ETCD_AUTO_COMPACTION_MODE=revision
- ETCD_AUTO_COMPACTION_RETENTION=1000
- ETCD_QUOTA_BACKEND_BYTES=4294967296
- ETCD_SNAPSHOT_COUNT=50000
volumes:
- ./volumes/etcd:/etcd
command: >
etcd
-advertise-client-urls=http://etcd:2379
-listen-client-urls http://0.0.0.0:2379
--data-dir /etcd
restart: always
minio:
container_name: milvus-minio
image: minio/minio:RELEASE.2024-12-18T13-15-44Z
environment:
MINIO_ACCESS_KEY: minioadmin
MINIO_SECRET_KEY: minioadmin
ports:
- "9001:9001" # 控制台
- "9000:9000" # API
volumes:
- ./volumes/minio:/minio_data
command: minio server /minio_data --console-address ":9001"
restart: always
standalone:
container_name: milvus-standalone
image: milvusdb/milvus:v2.5.5
command: ["milvus", "run", "standalone"]
security_opt:
- seccomp:unconfined
environment:
ETCD_ENDPOINTS: etcd:2379
MINIO_ADDRESS: minio:9000
MQ_TYPE: rocksmq
volumes:
- ./volumes/milvus:/var/lib/milvus
ports:
- "19530:19530" # 外部调用
- "9091:9091" # 健康检查
restart: always
depends_on:
- etcd
- minio
attu:
container_name: attu
image: zilliz/attu:v2.5.10
environment:
- MILVUS_URL=standalone:19530
ports:
- "7000:7000"
restart: always
depends_on:
- standalone4.2.2 启动与连通性验证
🟡 【P1 看注释就行】 Milvus 的健康性检查请求命令。
docker compose up -d etcd minio standalone attu
# 检查 Milvus Standalone 的健康状况
curl http://localhost:9091/healthz
# 预期输出: {"ok":true}- 可视化管理面板 (Attu):访问
http://localhost:7000即可通过 GUI 轻松管理集合与索引。
4.3 MinIO 对象存储 Bucket 初始化
除了为 Milvus 提供底层存储,MinIO 也负责存放我们项目解析出的 Markdown 以及 PDF 文档图片。
- 访问控制台
http://localhost:9001(账号密码均为minioadmin)。 - 点击 Buckets -> Create Bucket。
- 输入 Bucket 命名为
knowledge-base,点击保存。
4.4 MongoDB 文档数据库
MongoDB 用来存放聊天机器人的历史对话会话,从而实现多轮对话状态机。
4.4.1 Docker Compose 配置
🟡 【P1 看注释就行】 MongoDB 编排文件,保障聊天多轮历史记录持久化。
mongodb:
container_name: mongodb
image: mongo:7.0
ports:
- "27017:27017"
volumes:
- ./volumes/mongodb/data:/data/db
- ./volumes/mongodb/config:/data/configdb
restart: always5. 一键部署方案
为了将各种组件的依赖链、网络拓扑做到一键化开箱即用,我们推荐使用统一的 docker-compose.yml 配置文件进行启动。
5.1 完整一键部署 docker-compose.yml
🔥 【P0 必须要学】 终极一键配置。汇聚了当前大模型知识库(Milvus、Neo4j、MongoDB、MinIO)所需的全部第三方服务编排,开箱即用。
version: '3.5'
services:
# ==================== Etcd ====================
etcd:
container_name: milvus-etcd
image: quay.io/coreos/etcd:v3.5.25
environment:
- ETCD_AUTO_COMPACTION_MODE=revision
- ETCD_AUTO_COMPACTION_RETENTION=1000
- ETCD_QUOTA_BACKEND_BYTES=4294967296
- ETCD_SNAPSHOT_COUNT=50000
volumes:
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/etcd:/etcd
command: etcd -advertise-client-urls=http://etcd:2379 -listen-client-urls http://0.0.0.0:2379 --data-dir /etcd
healthcheck:
test: ["CMD", "etcdctl", "endpoint", "health"]
interval: 30s
timeout: 20s
retries: 3
restart: always
# ==================== MinIO ====================
minio:
container_name: milvus-minio
image: minio/minio:RELEASE.2024-12-18T13-15-44Z
environment:
MINIO_ACCESS_KEY: minioadmin
MINIO_SECRET_KEY: minioadmin
ports:
- "9001:9001"
- "9000:9000"
volumes:
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/minio:/minio_data
command: minio server /minio_data --console-address ":9001"
healthcheck:
test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
interval: 30s
timeout: 20s
retries: 3
restart: always
# ==================== Milvus ====================
standalone:
container_name: milvus-standalone
image: milvusdb/milvus:v2.5.5
command: ["milvus", "run", "standalone"]
security_opt:
- seccomp:unconfined
environment:
ETCD_ENDPOINTS: etcd:2379
MINIO_ADDRESS: minio:9000
MQ_TYPE: rocksmq
volumes:
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/milvus:/var/lib/milvus
healthcheck:
test: ["CMD", "curl", "-f", "http://localhost:9091/healthz"]
interval: 30s
start_period: 90s
timeout: 20s
retries: 3
ports:
- "19530:19530"
- "9091:9091"
restart: always
depends_on:
- etcd
- minio
# ==================== Attu (Milvus GUI) ====================
attu:
container_name: attu
image: zilliz/attu:v2.5.10
environment:
- MILVUS_URL=standalone:19530
- ATTU_LOG_LEVEL=info
- SERVER_PORT=7000
ports:
- "7000:7000"
restart: always
depends_on:
- standalone
# ==================== Neo4j ====================
neo4j:
container_name: neo4j
image: neo4j:2025-community
volumes:
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/neo4j/logs:/logs
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/neo4j/config:/config
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/neo4j/data:/data
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/neo4j/plugins:/plugins
environment:
- NEO4J_AUTH=neo4j/hzk123456
ports:
- "7474:7474"
- "7687:7687"
restart: always
healthcheck:
test: ["CMD", "curl", "-f", "http://localhost:7474"]
interval: 30s
timeout: 10s
retries: 3
# ==================== MongoDB ====================
mongodb:
container_name: mongodb
image: mongo:7.0
ports:
- "27017:27017"
volumes:
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/mongodb/data:/data/db
- ${DOCKER_VOLUME_DIRECTORY:-.}/volumes/mongodb/config:/data/configdb
restart: always
healthcheck:
test: ["CMD", "mongosh", "--eval", "db.adminCommand('ping')"]
interval: 30s
timeout: 10s
retries: 3
networks:
default:
name: milvus5.2 常用运维命令
🟡 【P1 看注释就行】 日常运维中最常用的 Docker Compose 容器管理指令集。
# 1. 启动所有服务(后台运行)
docker compose up -d
# 2. 查看容器状态与健康度
docker compose ps
# 3. 实时输出各中间件日志
docker compose logs -f
# 4. 彻底停止并销毁网络结构(数据卷保留)
docker compose down6. 连通性验证
为了确保在启动业务代码前所有中间件均已达到正常交互状态,我们将通过一个整合的 Python 脚本一键测试。
6.1 测试脚本:test_connections.py
🟢 【P2 后面可以查】 长篇辅助连通性测试脚本,包含 pymilvus, neo4j, pymongo, minio 客户端库的健康状况捕获。有需要或怀疑服务不通时运行此脚本定位即可。
#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
服务连接测试脚本
"""
import os
from dotenv import load_dotenv
# 加载环境变量
load_dotenv()
def test_milvus():
"""测试 Milvus 连接"""
print("测试 Milvus 连接...")
try:
from pymilvus import connections, utility
connections.connect(
alias="default",
uri=os.getenv("MILVUS_URL", "http://localhost:19530")
)
version = utility.get_server_version()
print(f" ✓ Milvus 连接成功,版本: {version}")
connections.disconnect("default")
return True
except Exception as e:
print(f" ✗ Milvus 连接失败: {e}")
return False
def test_neo4j():
"""测试 Neo4j 连接"""
print("测试 Neo4j 连接...")
try:
from neo4j import GraphDatabase
driver = GraphDatabase.driver(
os.getenv("NEO4J_URI", "bolt://localhost:7687"),
auth=(
os.getenv("NEO4J_USERNAME", "neo4j"),
os.getenv("NEO4J_PASSWORD", "password")
)
)
with driver.session() as session:
result = session.run("RETURN 1 AS num")
record = result.single()
print(f" ✓ Neo4j 连接成功,测试查询返回: {record['num']}")
driver.close()
return True
except Exception as e:
print(f" ✗ Neo4j 连接失败: {e}")
return False
def test_mongodb():
"""测试 MongoDB 连接"""
print("测试 MongoDB 连接...")
try:
from pymongo import MongoClient
client = MongoClient(
os.getenv("MONGO_URL", "mongodb://localhost:27017"),
serverSelectionTimeoutMS=5000
)
# 触发实际连接
client.admin.command('ping')
db_names = client.list_database_names()
print(f" ✓ MongoDB 连接成功,数据库列表: {db_names}")
client.close()
return True
except Exception as e:
print(f" ✗ MongoDB 连接失败: {e}")
return False
def test_minio():
"""测试 MinIO 连接"""
print("测试 MinIO 连接...")
try:
from minio import Minio
client = Minio(
os.getenv("MINIO_ENDPOINT", "localhost:9000"),
access_key=os.getenv("MINIO_ACCESS_KEY", "minioadmin"),
secret_key=os.getenv("MINIO_SECRET_KEY", "minioadmin"),
secure=False
)
buckets = client.list_buckets()
bucket_names = [b.name for b in buckets]
print(f" ✓ MinIO 连接成功,存储桶: {bucket_names}")
return True
except Exception as e:
print(f" ✗ MinIO 连接失败: {e}")
return False
def main():
print("=" * 50)
print("掌柜问数 - 服务连接测试")
print("=" * 50)
results = {
"Milvus": test_milvus(),
"Neo4j": test_neo4j(),
"MongoDB": test_mongodb(),
"MinIO": test_minio(),
}
print("\n" + "=" * 50)
print("测试结果汇总")
print("=" * 50)
all_passed = True
for service, passed in results.items():
status = "✓ 通过" if passed else "✗ 失败"
print(f" {service}: {status}")
if not passed:
all_passed = False
print("=" * 50)
if all_passed:
print("所有服务连接正常!")
else:
print("存在服务连接失败,请检查配置。")
return all_passed
if __name__ == "__main__":
import sys
sys.exit(0 if main() else 1)运行测试:
🟡 【P1 看注释就行】 执行一键校验连接测试。
python test_connections.py7. 故障排查与调优
7.1 Docker 运行时报错及速查
| 典型错误 | 触发原因 | 解决方案 |
|---|---|---|
Cannot connect to the Docker daemon | 本地 Docker 引擎未运行 | sudo systemctl start docker (Linux) 或开启 Docker Desktop |
permission denied | 当前用户未关联至 Docker 组 | sudo usermod -aG docker $USER && newgrp docker |
no space left on device | 磁盘卷爆满 | docker system prune -a --volumes 清理僵尸镜像与挂载卷 |
7.2 核心服务端口占用与冲突排查
当宿主机上已运行同端口服务(例如本地装有 MongoDB 默认占用了 27017),容器启动会抛出绑定错误。
🟢 【P2 后面可以查】 常见端口冲突解决指令,查询特定端口 PID 绑定。
# 检查 7474 端口占用
# Linux & macOS
lsof -i :7474
# Windows
netstat -ano | findstr :7474解决手段:
- 杀死占用进程:通过 PID 强制释放端口。
- 修改映射:在
docker-compose.yml的ports段中将外部端口更改为如"17474:7474"。
7.3 数据卷目录权限修复
对于 Linux 环境,容器内部对本地 volumes 挂载目录写入可能会出现 Permission Denied:
🟢 【P2 后面可以查】 Linux下快速修复挂载目录所有权的指令。
# 修改数据卷所有者为容器内置用户的 UID
sudo chown -R 1000:1000 volumes/
# Neo4j 独立权限修改
sudo chown -R 7474:7474 volumes/neo4j/
# MongoDB 独立权限修改
sudo chown -R 999:999 volumes/mongodb/7.4 物理资源受限与内存泄露解决
Milvus 极其消耗内存(启动通常需要 2G+,高负载检索需 4G+)。如机器资源受限导致 Milvus 被 OOM Kill 重启,可以在 docker-compose.yml 中添加部署限额约束:
🟡 【P1 看注释就行】 在 docker-compose.yml 中限制容器资源开销的写法。
standalone:
deploy:
resources:
limits:
memory: 4G
reservations:
memory: 2G企业痛点与 RAG / Agent 架构映射
| 真实痛点 | 传统解决方案 | AI Agent & RAG 方案 | 效益提升 |
|---|---|---|---|
| 环境配置碎片化,导致异地团队"在我这明明能运行" | 耗费多天编写数页的手工部署 PDF 文档 | 统一配置 Docker Compose 文件 + 环境变量隔离 | 提效 90%,10 分钟内完成全套开发环境准备 (PwC 2025) |
| 本地开发与生产集群隔离差,部署上线容易崩溃 | 本地自写 mock 逻辑或者单机版 SQL | 本地直接跑全功能版 MinIO、Milvus 与 Neo4j | 生产发布故障率降低 ~65% (Google Cloud 2025) |
| 模型拉取超时,耗费多天无意义下载 | 配置国内不稳定镜像源 | 借助模型缓存区 (MODELSCOPE_CACHE) 与反向 SSH 隧道 | 彻底避免超时,首日调试即可通过全部联通性测试 |
Remote & Agent 应用场景价值
- Remote 场景价值:对于分布式远程团队,这套环境部署指南通过声明式配置保证了测试环境、开发环境的绝对一致,减少了由于操作系统和驱动版本差异引发的异步沟通成本,提升了 30% 以上的跨时区协作效率。
- Agent 落地场景:当大模型或自动化 Agent 接入该部署链路时,可以通过统一的
test_connections.py自动化检测环境健康度,如果中间件出现断连,Agent 能够自主读取日志、捕获异常并决定是否执行重启命令,极大降低了人工运维负荷。
Git Commit 对应
本节环境部署及配置文件相关的提交记录:
02f3a2b feat: 初始化项目环境、配置 docker-compose 及环境测试脚本cd shopkeeper_brain
git checkout 02f3a2b # 查看部署指南对应的初始提交版本
git checkout master # 随时切回最新分支进行开发