跳转至

QuickTalk

支持状态

模型 ID quicktalk
Backend local
证据等级 已内置,已验证
推荐用途 本地实时 adapter、开发参考、QuickTalk 资产验证

推荐硬件

本地 CUDA GPU。mock 路径通过后,再接入 QuickTalk 资产包和模板视频。

权重下载

QuickTalk local adapter 直接在 OpenTalking 进程内加载权重,不需要 OmniRT。权重、HuBERT、InsightFace 依赖和缓存建议放在仓库根目录 models/quicktalk/

目录结构

models/
  quicktalk/
    checkpoints/
      quicktalk.pth 或 256.onnx
      repair.npy
      chinese-hubert-large/
        pytorch_model.bin
      auxiliary/models/buffalo_l/ 或 auxiliary_min/
        det_10g.onnx

如果已有旧资产包以 hdModule/checkpoints/ 组织,也可以把 OPENTALKING_QUICKTALK_ASSET_ROOT 指向 hdModule 的父目录或 hdModule 本身,adapter 会自动归一化到实际包含 checkpoints/ 的目录。

配置项

.env
OPENTALKING_QUICKTALK_ASSET_ROOT=/absolute/path/to/opentalking/models/quicktalk
# 可选:内置 QuickTalk avatar 已在 manifest 中声明 template_video;自定义 avatar 可用该变量覆盖。
# OPENTALKING_QUICKTALK_TEMPLATE_VIDEO=/absolute/path/to/template.mp4
OPENTALKING_QUICKTALK_WORKER_CACHE=1
OPENTALKING_TORCH_DEVICE=cuda:0

Avatar manifest 也应声明:

manifest.json
{
  "model_type": "quicktalk",
  "metadata": {
    "asset_root": "/absolute/path/to/opentalking/models/quicktalk",
    "template_video": "/absolute/path/to/template.mp4"
  }
}

启动命令

终端
export OPENTALKING_TORCH_DEVICE=cuda:0
export OPENTALKING_QUICKTALK_ASSET_ROOT="$DIGITAL_HUMAN_HOME/opentalking/models/quicktalk"
export OPENTALKING_QUICKTALK_WORKER_CACHE=1

cd "$DIGITAL_HUMAN_HOME/opentalking"
bash scripts/start_unified.sh --backend local --model quicktalk --api-port 8210 --web-port 5280

打开 http://localhost:5280,选择 QuickTalk Local 形象和 quicktalk 模型。若不指定 --web-port,默认前端地址为 http://localhost:5173

准备 Avatar Cache

QuickTalk 会为每个 avatar 生成运行缓存:

  • examples/avatars/<avatar>/quicktalk/template_<width>x<height>.mp4
  • examples/avatars/<avatar>/quicktalk/face_cache_v3_<width>x<height>.npz

这些文件由本机模型和 avatar 共同决定,属于部署环境生成物,不建议提交到代码仓。需要提前准备时,运行:

终端
cd "$DIGITAL_HUMAN_HOME/opentalking"

opentalking-prepare-cache \
  --model quicktalk \
  --avatars-root examples/avatars \
  --quicktalk-model-root models/quicktalk \
  --device cuda:0 \
  --model-backend pth \
  --verify

只准备单个 avatar:

终端
opentalking-prepare-cache \
  --model quicktalk \
  --avatars-root examples/avatars \
  --avatar singer \
  --quicktalk-model-root models/quicktalk \
  --device cuda:0 \
  --model-backend pth \
  --verify

/models 验证

终端
curl -s http://127.0.0.1:8210/models | jq '.statuses[] | select(.id=="quicktalk")'

期望:

{"id":"quicktalk","backend":"local","connected":true,"reason":"local_runtime"}

常见错误

现象 处理
connected=false 检查 QuickTalk 依赖、资产路径和 OPENTALKING_TORCH_DEVICE
首轮等待较长 开启 OPENTALKING_QUICKTALK_WORKER_CACHE=1
Avatar 加载失败 manifest 中 asset_roottemplate_video 必须是可访问绝对路径。