OpenVINO核显加速
如果在添加智能识别API和人脸识别API时,需要调用Intel核显来加速处理;
可以使用 devfox101/mt-photos-ai:latest
镜像,并给容器映射/dev/dri
添加核显加速相关参数
在创建容器时增加这段参数: --device /dev/dri:/dev/dri
完整的命令示例:
docker run -d \
--name="mt-photos-ai" \
-p 8060:8060 \
-e API_AUTH_KEY=mt_photos_ai_extra \
--device /dev/dri:/dev/dri \
--restart="unless-stopped" \
devfox101/mt-photos-ai:latest
镜像介绍:
devfox101/mt-photos-ai:latest
合并了 mt-photos-ai 和 mt-photos-insightface-unofficial 2个镜像的代码;
运行这一个镜像就可以支持以上2个镜像的功能;
相关源码: https://github.com/dev-fox-101/mt-photos-ai
关于核显加速
- CLIP识别和人脸识别支持调用核显加速
- 文本识别由于模型在核显中运行比CPU慢,因此仅支持CPU处理;不过因为有OpenVINO的加速,识别速度依然要比onnx-latest的镜像快;
- 使用核显加速处理识别时,内存占用会比CPU高,比如:CPU处理人脸识别时,内存占用900M,使用核显识别时,内存占用大约为1.7G左右;
仅使用CPU处理
如果要在不带核显的Intel CPU中使用OpenVINO加速,需要删除--device /dev/dri:/dev/dri
并增加 -e DEVICE_TYPE=CPU
环境变量来避免日志中的错误提示;
创建容器命令示例:
docker run -d \
--name="mt-photos-ai" \
-p 8060:8060 \
-e DEVICE_TYPE=CPU \
-e API_AUTH_KEY=mt_photos_ai_extra \
--restart="unless-stopped" \
devfox101/mt-photos-ai:latest
镜像加速
提示:当无法访问DockerHub时,请使用以下命令拉取国内的镜像
docker pull crpi-gcuyquw9co62xzjn.cn-guangzhou.personal.cr.aliyuncs.com/devfox101/mt-photos-ai:latest docker tag crpi-gcuyquw9co62xzjn.cn-guangzhou.personal.cr.aliyuncs.com/devfox101/mt-photos-ai:latest devfox101/mt-photos-ai:latest
第1条命令为拉取镜像
第2条命令为将镜像标记为Docker hub源,这样可以在图形化创建容器时使用
yaml模板
如果使用docker compose部署,需要增加这一段:
devices:
- "/dev/dri:/dev/dri"
完整的yaml示例:
version: "3"
services:
mtphotos:
image: registry.cn-hangzhou.aliyuncs.com/mtphotos/mt-photos:latest
container_name: mtphotos
restart: always
ports:
- 8063:8063
volumes:
- /volume1/docker/mt_photos/config:/config
- /volume1/photos/mt_photos_upload:/upload
- /volume1/xxx/其他需要映射的目录:/photos #提示:这一行是其他需要映射给容器的文件夹,如果没有可以删除这一行
devices:
- "/dev/dri:/dev/dri"
environment:
- TZ=Asia/Shanghai
- LANG=C.UTF-8
dns:
- 114.114.114.114
depends_on:
- mtphotos_ai
mtphotos_ai:
image: crpi-gcuyquw9co62xzjn.cn-guangzhou.personal.cr.aliyuncs.com/devfox101/mt-photos-ai:latest
container_name: mtphotos_ai
restart: always
ports:
- 8060:8060
devices:
- "/dev/dri:/dev/dri"
environment:
- API_AUTH_KEY=mt_photos_ai_extra