QuickTalk¶
支持状态¶
| 项 | 值 |
|---|---|
| 模型 ID | quicktalk |
| Backend | local |
| 证据等级 | 已内置,已验证 |
| 推荐用途 | 本地实时 adapter、开发参考、QuickTalk 资产验证 |
推荐硬件¶
本地 CUDA GPU。mock 路径通过后,再接入 QuickTalk 资产包和模板视频。
权重下载¶
QuickTalk local adapter 直接在 OpenTalking 进程内加载权重,不需要 OmniRT。权重、HuBERT、InsightFace 依赖和缓存建议放在仓库根目录 models/quicktalk/。
目录结构¶
models/
quicktalk/
checkpoints/
quicktalk.pth 或 256.onnx
repair.npy
chinese-hubert-large/
pytorch_model.bin
auxiliary/models/buffalo_l/ 或 auxiliary_min/
det_10g.onnx
如果已有旧资产包以 hdModule/checkpoints/ 组织,也可以把 OPENTALKING_QUICKTALK_ASSET_ROOT 指向 hdModule 的父目录或 hdModule 本身,adapter 会自动归一化到实际包含 checkpoints/ 的目录。
配置项¶
.env
OPENTALKING_QUICKTALK_ASSET_ROOT=/absolute/path/to/opentalking/models/quicktalk
# 可选:内置 QuickTalk avatar 已在 manifest 中声明 template_video;自定义 avatar 可用该变量覆盖。
# OPENTALKING_QUICKTALK_TEMPLATE_VIDEO=/absolute/path/to/template.mp4
OPENTALKING_QUICKTALK_WORKER_CACHE=1
OPENTALKING_TORCH_DEVICE=cuda:0
Avatar manifest 也应声明:
manifest.json
{
"model_type": "quicktalk",
"metadata": {
"asset_root": "/absolute/path/to/opentalking/models/quicktalk",
"template_video": "/absolute/path/to/template.mp4"
}
}
启动命令¶
终端
export OPENTALKING_TORCH_DEVICE=cuda:0
export OPENTALKING_QUICKTALK_ASSET_ROOT="$DIGITAL_HUMAN_HOME/opentalking/models/quicktalk"
export OPENTALKING_QUICKTALK_WORKER_CACHE=1
cd "$DIGITAL_HUMAN_HOME/opentalking"
bash scripts/start_unified.sh --backend local --model quicktalk --api-port 8210 --web-port 5280
打开 http://localhost:5280,选择 QuickTalk Local 形象和 quicktalk 模型。若不指定 --web-port,默认前端地址为 http://localhost:5173。
准备 Avatar Cache¶
QuickTalk 会为每个 avatar 生成运行缓存:
examples/avatars/<avatar>/quicktalk/template_<width>x<height>.mp4examples/avatars/<avatar>/quicktalk/face_cache_v3_<width>x<height>.npz
这些文件由本机模型和 avatar 共同决定,属于部署环境生成物,不建议提交到代码仓。需要提前准备时,运行:
终端
cd "$DIGITAL_HUMAN_HOME/opentalking"
opentalking-prepare-cache \
--model quicktalk \
--avatars-root examples/avatars \
--quicktalk-model-root models/quicktalk \
--device cuda:0 \
--model-backend pth \
--verify
只准备单个 avatar:
终端
opentalking-prepare-cache \
--model quicktalk \
--avatars-root examples/avatars \
--avatar singer \
--quicktalk-model-root models/quicktalk \
--device cuda:0 \
--model-backend pth \
--verify
/models 验证¶
期望:
常见错误¶
| 现象 | 处理 |
|---|---|
connected=false |
检查 QuickTalk 依赖、资产路径和 OPENTALKING_TORCH_DEVICE。 |
| 首轮等待较长 | 开启 OPENTALKING_QUICKTALK_WORKER_CACHE=1。 |
| Avatar 加载失败 | manifest 中 asset_root、template_video 必须是可访问绝对路径。 |