主题
部署前准备
运行 AI 图像和视频模型时,显卡、内存、磁盘和网络都要满足一定条件。ComfyCarry 已将所需软件整理在 Docker 镜像中,你还需要准备合适的 NVIDIA GPU、驱动和存储空间,并确定面板及相关服务的访问方式。运行位置不同,准备内容也不同:可以先判断本地 Linux、Windows WSL2 或 GPU 租赁平台哪种方式更合适,再核对对应要求。
选择部署环境
| 运行位置 | 适合的情况与准备内容 |
|---|---|
| 本地 Linux | 日常使用 Linux,自行管理本机运行环境。准备 NVIDIA 驱动、Docker Engine 和 NVIDIA Container Toolkit |
| Windows WSL2 | 日常使用 Windows,在同一台电脑上运行。准备 WSL2,并选择 Docker Desktop 或 Ubuntu 内的 Docker Engine |
| GPU 租赁平台 | 按使用时间租用远程 GPU。创建实例时选择镜像与 GPU,挂载持久化存储并映射端口 |
三种方式使用同一个 ComfyCarry 镜像。先确认下面的硬件和存储条件,再阅读对应的部署部分。
GPU、内存和磁盘
支持的 GPU
当前镜像要求 NVIDIA GPU 的 CUDA Compute Capability 达到 8.0 或更高。选择电脑或租赁实例时,可以直接按常见系列判断:
| GPU 架构 | 常见型号 | 是否适合当前镜像 |
|---|---|---|
| Blackwell | RTX 50 系列、B200 | 支持 |
| Hopper | H100、H200 | 支持 |
| Ada | RTX 40 系列、L4、L40、L40S | 支持 |
| Ampere | RTX 30 系列、A100、A10、A40 | 支持 |
| Turing 及之前 | RTX 20、GTX 16 系列、T4 或更早型号 | 不支持 |
| 其他 | AMD、Intel、Apple Silicon 等其他 GPU | 不支持 |
当前镜像从 Ampere 架构开始支持 NVIDIA GPU。RTX 20 系列、GTX 16 系列、T4,以及 AMD、Intel 和 Apple 芯片需要使用与其硬件对应的其他 ComfyUI 运行环境。
显存和系统内存
显存需求主要取决于模型、生成分辨率、精度和附加功能。可以按准备生成的内容估算:
| 使用内容 | 建议起点 |
|---|---|
| SDXL、Pony、Illustrious、NoobAI 等常规图像模型 | 8–12 GB 显存 |
| FLUX、Krea、Z-Image 等较大的图像模型 | 16 GB 及以上显存 |
| Wan、MiniMax 等视频模型 | 24 GB 及以上显存 |
| 系统内存 | 常规图像生成可从 16 GB 起步;大型图像或视频模型更适合 32 GB 及以上 |
显存较小时,可以在部署后选择占用显存更少的模型版本,并通过配置与版本调整显存管理方式。
磁盘空间
磁盘需要容纳 ComfyCarry 镜像、ComfyUI、模型、缓存、输入文件和生成结果。
| 准备保存的内容 | 建议空间 |
|---|---|
| 少量常用图像模型 | 80–100 GB |
| 多个大型图像模型 | 200 GB 及以上 |
| 多个视频模型和长期保存的生成结果 | 根据模型文件大小准备 300 GB 或更多 |
ComfyCarry 的模型、工作流、输入和输出都保存在容器的 /workspace 中。本地部署时,将 Docker Volume 或主机目录挂载到这里;租赁平台上则把持久化存储挂载到这里。
首次启动还会把镜像中的 ComfyUI 运行环境复制到 /workspace。上表的建议空间已经包含这部分基础文件;规划磁盘时,除了模型和生成结果,还要为运行环境与下载缓存预留约 20 GB。
网络与端口
首次启动会联网准备 ComfyCarry 所需组件,下载模型时还需要访问对应的模型来源。
| 容器内端口 | 常用映射 | 用途 | 什么时候需要 |
|---|---|---|---|
5000 | 5000:5000 | ComfyCarry 页面 | 首次部署和日常使用 |
8188 | 8188:8188 | ComfyUI 工作流页面 | 需要直接打开 ComfyUI |
8888 | 8888:8888 | JupyterLab | 需要使用 JupyterLab |
22 | 2222:22 | SSH | 需要通过 SSH 连接容器 |
端口映射的写法是“主机端口:容器内端口”。例如 2222:22 表示连接主机的 2222 端口时,进入容器中的 SSH 服务;18188:8188 则表示通过主机的 18188 端口打开 ComfyUI。
本机部署后可以打开:
| 页面 | 地址 |
|---|---|
| ComfyCarry | http://localhost:5000 |
| ComfyUI | http://localhost:8188 |
| JupyterLab | http://localhost:8888 |
在本地 Linux 运行
下面的 Docker 安装命令适用于 Ubuntu 22.04、24.04 和 26.04。使用其他 Linux 发行版时,先按发行版对应的官方说明安装 Docker Engine 和 NVIDIA Container Toolkit,再从验证 Docker 的 GPU 支持继续。
检查 NVIDIA 驱动
在终端中运行:
bash
nvidia-smi命令应显示 GPU 名称和驱动版本。ComfyCarry 镜像使用 CUDA 13.0,Linux 主机驱动版本需要达到 580.65.06 或更高。主机无需另外安装 CUDA Toolkit:运行所需的 CUDA 组件已经包含在镜像中;Docker 仍需安装 NVIDIA Container Toolkit,才能把 GPU 提供给容器。
驱动安装方法见 NVIDIA Ubuntu 驱动安装说明,版本要求见 CUDA 13.0 Release Notes。
安装 Docker Engine
这台电脑如果以前通过 Ubuntu 软件源安装过 docker.io、containerd 或其他 Docker 组件,先按 Docker 官方说明处理可能冲突的软件包,再添加下面的官方软件源。全新系统可以直接继续。
添加 Docker 官方软件源:
bash
sudo apt update
sudo apt install -y ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg \
-o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
sudo tee /etc/apt/sources.list.d/docker.sources > /dev/null <<EOF
Types: deb
URIs: https://download.docker.com/linux/ubuntu
Suites: $(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}")
Components: stable
Architectures: $(dpkg --print-architecture)
Signed-By: /etc/apt/keyrings/docker.asc
EOF安装并启动 Docker:
bash
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io \
docker-buildx-plugin docker-compose-plugin
sudo systemctl enable --now docker
sudo docker run --rm hello-world最后一条命令显示 Docker 的欢迎信息,说明 Docker Engine 已经可以正常创建容器。安装步骤更新时,可以对照 Docker Engine Ubuntu 安装说明。
安装 NVIDIA Container Toolkit
NVIDIA Container Toolkit 让 Docker 容器能够使用主机上的 GPU。添加 NVIDIA 软件源并安装:
bash
sudo apt-get update
sudo apt-get install -y --no-install-recommends ca-certificates curl gnupg2
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey \
| sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
| sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \
| sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit把 NVIDIA GPU 支持加入 Docker,并重新启动 Docker:
bash
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker完整安装说明见 NVIDIA Container Toolkit。
验证 Docker 的 GPU 支持
bash
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi命令会临时启动一个 Ubuntu 容器。输出中应出现与主机一致的 GPU 名称;看到 NVIDIA-SMI、驱动版本和显卡信息后,Docker 的 GPU 环境已经准备完成。
启动 ComfyCarry
bash
sudo docker run -d \
--name comfycarry \
--gpus all \
--restart unless-stopped \
-p 5000:5000 \
-p 8188:8188 \
-p 8888:8888 \
-p 2222:22 \
-v comfycarry-workspace:/workspace \
erocraft/comfycarry:latest| 命令内容 | 作用 | 什么时候调整 |
|---|---|---|
docker run -d | 创建容器,并让它在后台持续运行 | 排查启动问题时可以暂时省略 -d,让启动日志直接显示在当前终端 |
--name comfycarry | 把容器命名为 comfycarry,方便以后启动、停止和查看 | 同一台电脑运行多个实例时,为每个实例使用不同名称 |
--gpus all | 把主机上的全部 NVIDIA GPU 提供给 ComfyCarry | 只使用第 1 张时,改为 --gpus '"device=0"';使用第 1、2 张时改为 --gpus '"device=0,1"'。显卡从 0 开始编号,可用 nvidia-smi 查看顺序 |
--restart unless-stopped | 电脑重启或 Docker 服务恢复后自动启动 ComfyCarry;手动停止的容器保持停止 | 希望每次都由自己启动时,移除此项 |
-p 5000:5000 | 通过主机的 5000 端口打开 ComfyCarry | 5000 已被占用时,可改为 -p 15000:5000,访问地址随之改成 http://localhost:15000 |
-p 8188:8188 | 通过主机的 8188 端口打开 ComfyUI | 端口被占用时只修改左侧,例如 -p 18188:8188;需要使用 localhost 或局域网地址打开 ComfyUI 时保留 |
-p 8888:8888 | 通过主机的 8888 端口打开 JupyterLab | 准备通过 localhost 或局域网地址使用 JupyterLab 时保留;主机端口可按相同方式更换 |
-p 2222:22 | 通过主机的 2222 端口连接容器 SSH | SSH 客户端连接时使用左侧端口;平台已经提供 SSH 时,以平台分配的端口为准 |
-v comfycarry-workspace:/workspace | 使用名为 comfycarry-workspace 的 Docker Volume 保存模型和生成文件 | 想把文件放在指定目录时,将左侧改成主机绝对路径,例如 /data/comfycarry:/workspace |
erocraft/comfycarry:latest | 使用当前发布的 ComfyCarry 镜像 | 平台或文档明确要求固定版本时,再换成对应标签 |
容器启动后,可以查看首次启动进度:
bash
sudo docker logs -f comfycarry日志开始持续输出后,按 Ctrl+C 返回终端;容器会继续在后台运行。在浏览器中打开 http://localhost:5000,页面出现 ComfyCarry 部署向导后,即可开始第一次配置。
在 Windows WSL2 运行
Windows 需要先准备 WSL2 和能够向 WSL 提供 GPU 的 NVIDIA Windows 驱动,然后选择 Docker Desktop,或在 Ubuntu 中安装 Docker Engine。
安装 Ubuntu WSL2
以管理员身份打开 PowerShell:
powershell
wsl --install -d Ubuntu按提示重启 Windows。第一次打开 Ubuntu 时,设置 Linux 用户名和密码;随后回到 PowerShell 更新 WSL,并确认 Ubuntu 使用 WSL2:
powershell
wsl --update
wsl --list --verbose列表中 Ubuntu 的 VERSION 应显示为 2。如果显示为 1,使用列表中的发行版名称执行转换,例如:
powershell
wsl --set-version Ubuntu 2在 Windows 中安装支持 WSL2 的 NVIDIA Windows 驱动。当前镜像使用 CUDA 13.0,选择 R580 或更新分支的驱动。打开 Ubuntu 并运行:
bash
nvidia-smi看到 GPU 名称和驱动信息后,Windows 已经把显卡提供给 WSL2。WSL 中使用 Windows 提供的 GPU 驱动。
选择 Docker 运行方式
Docker Desktop 和 Ubuntu 内的 Docker Engine 是两种独立的运行方式,选择其中一种即可。已经启用 Docker Desktop 的 WSL Integration 时,使用第一种;希望由 Ubuntu 自己管理 Docker 服务时,使用第二种。
Docker Desktop 与 Docker Engine
- 已经在 Windows 中使用 Docker,希望通过图形界面管理,选择 Docker Desktop。
- 希望 Docker 完全运行在 WSL Ubuntu 中,并由 Ubuntu 管理服务,选择 Ubuntu 内的 Docker Engine。
使用 Docker Desktop
- 安装 Docker Desktop。
- 在 Docker Desktop 设置中启用 Use the WSL 2 based engine。
- 打开 Resources → WSL Integration,启用 Ubuntu。
- 回到 Ubuntu,运行
docker version。输出中同时出现 Client 和 Server 后,再运行:
bash
docker run --rm --gpus all ubuntu nvidia-smi看到 GPU 信息后,使用启动 ComfyCarry中的同一条命令,并把开头的 sudo docker 写成 docker。Docker Desktop 的 GPU 使用要求见官方说明。
在 Ubuntu 中使用 Docker Engine
下面的 Linux 安装步骤使用 systemctl 管理 Docker。运行 systemctl 时如果提示当前 WSL 没有使用 systemd,把 sudo systemctl enable --now docker 换成 sudo service docker start,把后面的 sudo systemctl restart docker 换成 sudo service docker restart。
进入 Ubuntu,依次完成:
完成后,在 Windows 浏览器中打开 http://localhost:5000。
在 GPU 租赁平台运行
创建实例或容器时填写:
| 平台设置 | 填写内容 | 用途 |
|---|---|---|
| 容器镜像 | erocraft/comfycarry:latest | 使用 ComfyCarry 预构建环境 |
| 平台架构 | linux/amd64 | 对应当前镜像 |
| GPU | RTX 30、A100 或更新架构 | 满足当前 GPU 要求 |
| 持久化存储 | 挂载到 /workspace | 保存模型、配置、工作流和生成结果 |
| ComfyCarry 端口 | 映射容器的 5000 | 打开部署向导和日常页面 |
| ComfyUI 端口 | 需要时映射容器的 8188 | 直接打开 ComfyUI 工作流页面 |
| JupyterLab / SSH | 按需映射 8888 和 22 | 使用对应的管理功能 |
| 启动命令 | 保持镜像默认值 | 让镜像自动准备并启动 ComfyCarry |
实例开始运行后,按照平台提供的端口访问按钮或公网地址打开 5000。如果平台为主机端口分配了不同数字,以平台显示的访问地址为准。
需要直接打开 ComfyUI 时,为容器的 8188 增加映射,再打开平台为该端口生成的地址。ComfyCarry 的 5000 页面与 ComfyUI 的 8188 页面使用两个独立入口。
启动向导前的检查
打开部署向导前,确认以下内容:
- 当前 GPU 属于支持的系列,Linux 或 Docker GPU 测试能够显示显卡信息。
/workspace已经挂载到准备长期使用的存储位置。- 浏览器可以打开 ComfyCarry 的
5000端口。 - 需要直接使用 ComfyUI 时,已经映射
8188。 - 已经准备一个 ComfyCarry 访问密码;云存储、CivitAI 和 LLM 等资料按使用需要准备。
页面显示 环境检测通过 后,继续完成首次部署向导。