对于巧用DockerCompose管理GPU资源感兴趣的读者，本文将会是一篇不错的选择，我们将详细介绍docker使用gpu，并为您提供关于25.dockercompose简介和docker-comp

对于巧用 Docker Compose 管理 GPU 资源感兴趣的读者，本文将会是一篇不错的选择，我们将详细介绍docker 使用gpu，并为您提供关于25.docker compose 简介 和 docker-compose.yml 参数介绍、centos7+docker 安装和部署 crawlab 分布式爬虫平台，并使用 docker-compose 管理 docker、Centos上安装Docker管理器Docker Compose、Docker Compose 和 Docker Swarm 和 Docker Service的有用信息。

• 巧用 Docker Compose 管理 GPU 资源（docker 使用gpu）
• 25.docker compose 简介 和 docker-compose.yml 参数介绍
• centos7+docker 安装和部署 crawlab 分布式爬虫平台，并使用 docker-compose 管理 docker
• Centos上安装Docker管理器Docker Compose
• Docker Compose 和 Docker Swarm 和 Docker Service

巧用 Docker Compose 管理 GPU 资源（docker 使用gpu）

在容器中使用 GPU 一直是使用 Compose 的一个痛点！

在面向 AI 开发的大趋势下，容器化可以将环境无缝迁移，将配置环境的成本无限降低。但是，在容器中配置 CUDA 并运行 TensorFlow 一段时间内确实是个比较麻烦的时候，所以我们这里就介绍和使用它。

• Enabling GPU access with Compose

• Runtime options with Memory, CPUs, and GPUs

• The Compose Specification

• The Compose Specification - Deployment support

• The Compose Specification - Build support

在 Compose 中使用 GPU 资源

• 如果我们部署 Docker 服务的的主机上正确安装并设置了其对应配置，且该主机上恰恰也有对应的 GPU 显卡，那么就可以在 Compose 中来定义和设置这些 GPU 显卡了。

# 需要安装的配置
$ apt-get install nvidia-container-runtime

• 旧版本 <= 19.03

# runtime
$ docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi

• 新版本 >= 19.03

# with --gpus
$ docker run -it --rm --gpus all ubuntu nvidia-smi

# use device
$ docker run -it --rm --gpus \
    device=GPU-3a23c669-1f69-c64e-cf85-44e9b07e7a2a \
    ubuntu nvidia-smi

# specific gpu
$ docker run -it --rm --gpus ''"device=0,2"'' ubuntu nvidia-smi

# set nvidia capabilities
$ docker run --gpus ''all,capabilities=utility'' --rm ubuntu nvidia-smi

• 对应 Compose 工具的老版本 (v2.3) 配置文件来说的话，想要在部署的服务当中使用 GPU 显卡资源的话，就必须使用 runtime 参数来进行配置才可以。虽然可以作为运行时为容器提供 GPU 的访问和使用，但是在该模式下并不允许对 GPU 设备的特定属性进行控制。

services:
  test:
    image: nvidia/cuda:10.2-base
    command: nvidia-smi
    runtime: nvidia
    environment:
      - NVIDIA_VISIBLE_DEVICES=all

在 Compose v1.28.0+ 的版本中，使用 Compose Specification 的配置文件写法，并提供了一些可以更细粒度的控制 GPU 资源的配置属性可被使用，因此可以在启动的时候来精确表达我们的需求。咳咳咳，那这里我们就一起看看吧！

• capabilities - 必须字段

  • 指定需要支持的功能；可以配置多个不同功能；必须配置的字段

  • man 7 capabilities

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["gpu"]

• count

  • 指定需要使用的 GPU 数量；值为 int 类型；与 device_ids 字段二选一

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["tpu"]
          count: 2

• device_ids

  • 指定使用 GPU 设备 ID 值；与 count 字段二选一

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["gpu"]
          device_ids: ["0", "3"]

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["gpu"]
          device_ids: ["GPU-f123d1c9-26bb-df9b-1c23-4a731f61d8c7"]

• driver

  • 指定 GPU 设备驱动类型

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["nvidia-compute"]
          driver: nvidia

• options

  • 指定驱动程序的特定选项

deploy:
  resources:
    reservations:
      devices:
        - capabilities: ["gpu"]
          driver: gpuvendor
          options:
            virtualization: false

咳咳咳，看也看了，说也说了，那我们就简单的编写一个示例文件，让启动的 cuda 容器服务来使用一个 GPU 设备资源，并运行得到如下输出。

services:
  test:
    image: nvidia/cuda:10.2-base
    command: nvidia-smi
    deploy:
      restart_policy:
        condition: on-failure
        delay: 5s
        max_attempts: 3
        window: 120s
      resources:
        limits:
          cpus: "0.50"
          memory: 50M
        reservations:
          cpus: "0.25"
          memory: 20M
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu, utility]
      update_config:
        parallelism: 2
        delay: 10s
        order: stop-first

• 注意这里，如果设置 count: 2 的话，就会下面的输出中看到两块显卡设置的信息。如果，我们这里均未设置 count 或 device_ids 字段的话，则默认情况下将主机上所有 GPU 一同使用。

# 前台直接运行
$ docker-compose up
Creating network "gpu_default" with the default driver
Creating gpu_test_1 ... done
Attaching to gpu_test_1
test_1  | +-----------------------------------------------------------------------------+
test_1  | | NVIDIA-SMI 450.80.02    Driver Version: 450.80.02    CUDA Version: 11.1     |
test_1  | |-------------------------------+----------------------+----------------------+
test_1  | | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
test_1  | | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
test_1  | |                               |                      |               MIG M. |
test_1  | |===============================+======================+======================|
test_1  | |     Tesla T4            On   | 00000000:00:1E.0 Off |                     |
test_1  | | N/A   23C    P8     9W /  70W |      MiB / 15109MiB |      %      Default |
test_1  | |                               |                      |                  N/A |
test_1  | +-------------------------------+----------------------+----------------------+
test_1  |
test_1  | +-----------------------------------------------------------------------------+
test_1  | | Processes:                                                                  |
test_1  | |  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
test_1  | |        ID   ID                                                   Usage      |
test_1  | |=============================================================================|
test_1  | |  No running processes found                                                 |
test_1  | +-----------------------------------------------------------------------------+
gpu_test_1 exited with code 

• 当然，如果设置了 count 或 device_ids 字段的话，就可以在容器里面的程序中使用多块显卡资源了。可以通过以下部署配置文件来进行验证和使用。

services:
  test:
    image: tensorflow/tensorflow:latest-gpu
    command: python -c "import tensorflow as tf;tf.test.gpu_device_name()"
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              device_ids: ["0", "3"]
              capabilities: [gpu]

• 运行结果，如下所示，我们可以看到两块显卡均可以被使用到。

# 前台直接运行
$ docker-compose up
...
Created TensorFlow device (/device:GPU:0 with 13970 MB memory -> physical GPU (device: 0, name: Tesla T4, pci bus id: 0000:00:1b.0, compute capability: 7.5)
...
Created TensorFlow device (/device:GPU:1 with 13970 MB memory) -> physical GPU (device: 1, name: Tesla T4, pci bus id: 0000:00:1e.0, compute capability: 7.5)
...
gpu_test_1 exited with code 

本文转载自：「 开源世界 」，原文：http://ym.baisou.ltd/?id=499 ，版权归原作者所有。

25.docker compose 简介 和 docker-compose.yml 参数介绍

1. docker compose概念　　文档  https://docs.docker.com/compose/compose-file/compose-versioning

　　一个基于 docker 的工具

　　可以通过一个 yml 文件定义多容器的 docker 应用

　　通过一条命令就可以根据 yml 文件的定义 去创建或者管理这多个容器

2 docker compose 版本 2 与 版本 3 的区别

　　最大的区别

　　　　version 2 只能用于单机

　　　　version 3 可用于多机

3. docker-compose.yml

　　　　Services

　　　　　　一个 service 代表一个 container , 这个 container 可以从 dockerhub 的 image 来创建， 或者从本地的 Dockerfile build出来的image 来创建

　　　　　　service 的启动 类似与 docker run ， 我们可以给其指定 network 和 volume . 所以可以给 service 指定 network 和 volume 的引用

　　　　　　eg :

　　　　　　docker run -d --name db -v db-data:/var/liv/postgresql/data --network back-tier  postgres:9.4

　　　　　　services:

　　　　　　　　db:　　　　　　　　　　　　　　　　#service 的名称为 db

　　　　　　　　　　image: postgres:9.4　　　　　　#service image 为 postgres:9.4  这是从远程拉取的

　　　　　　　　　　volumes:

　　　　　　　　　　　　- "db-data:/var/liv/postgresql/data"　　#将外部db-data挂载到container 的 /var/liv/postgresql/data 内

　　　　　　　　　　networks:

　　　　　　　　　　　　- back-tier　　　　　　　　#网络为 back-tier

　　　　　　eg2:

　　　　　　docker run -d --link db --link redis --network back-tier  worker

　　　　　　services:

　　　　　　　　worker:

　　　　　　　　　　build: ./worker

　　　　　　　　　　links:

　　　　　　　　　　　　- db

　　　　　　　　　　　　- redis

　　　　　　　　　　networks:

　　　　　　　　　　　　- back-tier　　　　　　　　#在同一个网络上 不需要links

　　　　Volumes:

　　　　　　上面 的

　　　　　　volumes:

　　　　　　　- "db-data:/var/liv/postgresql/data"　　#将外部db-data挂载到container 的 /var/liv/postgresql/data 内

　　　　　　会有单独的一个 volumes (与 services 同级别) 对db-data 进行 阐述

　　　　　　类似于 docker volume create db-data

　　　　　　eg:

　　　　　　volumes:

　　　　　　　　db-data:

　　　　Nerworks:

　　　　　　上面 的

　　　　　　networks:

　　　　　　　　- back-tier　　　　　　　　#在同一个网络上 不需要links

　　　　　　会有单独的一个 networks (与 services 同级别) 对back-tier 进行 阐述

　　　　　　类似于  docker nerwork create -d bridge back-tier

　　　　　　networks:

　　　　　　　　front-tier:

　　　　　　　　　　driver: bridge

　　　　　　　　back-tier:

　　　　　　　　　　driver: bridge

4编写 docker-compose.yml

# docker compose api 版本

version: ''3''

services:

# 定义了 两个 service 分别是 名字分别是 wordpress 和 mysql

  wordpress:

#image 为 word press

    image: wordpress

#本地 8888 端口 映射 容器 80 端口

    ports:

      - 8888:80

#wordpress 连接数据库 的 host 为 mysql , passwword 为 root 类似于 -e

    environment:

      WORDPRESS_DB_HOST: mysql

      WORDPRESS_DB_PASSWORD: root

#指定连接 的网络 为 my-bridge

    networks:

      - my-bridge

  mysql:

    image: mysql:5.7.27

# 数据库 root 的 连接密码 和 所使用的数据库名称

    environment:

      MYSQL_ROOT_PASSWORD: root

      MYSQL_DATABASE: wordpress

# 外部 mysql-data 挂载到 容器内的 /var/lib/mysql

    volumes:

      - mysql-data:/var/lib/mysql

#指定连接 的网络 为 my-bridge

    networks:

      - my-bridge

# 定义 volumes

volumes:

  mysql-data:

# 定义 networks

networks:

  my-bridge:

    driver: bridge

centos7+docker 安装和部署 crawlab 分布式爬虫平台，并使用 docker-compose 管理 docker

1. 先决条件 centos7+docker 最新版本

 sudo yum updat

2. 配置一下镜像源，创建 /etc/docker/daemon.conf 文件，在其中输入如下内容

{
 "registry-mirrors": ["https://registry.docker-cn.com"]
}

3. 启动 docker 命令:

systemctl start docker 

重启 docker 服务：

service docker restart

4. 查看和下载 Crawlab 的镜像命令 ：

docker search crawlab                   #（查找Crawlab镜像）

docker pull tikazyq/crawlab:latest       #（下载Crawlab镜像）

5. 创建 docker 组：

sudo groupadd docker    （删除docker这个用户：userdel -r docker）

6.centos7 查看所有用户：

cut -d : -f 1 /etc/group

7. 将您的用户添加到该 docker 用户组，命令：

sudo usermod -aG docker 用户名

8. 查看 “docker” 组下的所有用户，命令：

  grep ''docker'' /etc/group

9.Docker Compose 安装

sudo curl -L "https://github.com/docker/compose/releases/download/1.24.1/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

稍等片刻，有点慢！！！！

赋权:

sudo chmod +x /usr/local/bin/docker-compose

查看版本:

docker-compose --version

10. 查找 docker-compose.yml 文件位置:

find / -name "docker-compose.yml*"

(会出现 find: ‘/run/user/1000/gvfs’: 权限不够，执行：umount /run/user/1000/gvfs 和 rm -rf /run/user/1000/gvfs, 再执行就不会出错了！！！

11. 图中：

/var/lib/docker/overlay2/50df4de9bf340501cade27650953ad983948b10e13bbe931710ef090ab1a4602/diff/app/docker-compose.yml-----------是我的路径

cd 到 app 目录就可以了

vim docker-compose.yml   #编辑

注意： 新版镜像的 CRAWLAB_API_ADDRESS 是这样的： CRAWLAB_API_ADDRESS: "http://192.168.157.128:8000"

12. 启动 Crawlab

​ cd 进入到 docker-compose.yml 所在文件目录下

​ 才能运行：docker-compose up 集群启动容器，否则找不到文件

查看 woker 容器日志命令：docker-compose logs worker

正常会启动四个容器：master、woker、redis、mongo

第一次次启动会下载安装并配置节点和数据库（redis 和 mongodb）

13.Crawlab

浏览器访问 ：http://ip:8080 用户名密码是 admin/admin

第一次访问没问题，但是第二次启动会报各种错，博主正在研究中 ----- 持续更新中！！！

Centos上安装Docker管理器Docker Compose

参照官方文档，进行了简单理解并照其所说进行了centos上的部署。 #1 前提# ##1.1 系统要求## 64位的CentOS 7 ##1.2 移除非官方的docker包##

sudo yum -y remove docker docker-common container-selinux

避免与官方的docker-engine冲突，所以同样的移除docker-selinux

sudo yum -y remove docker-selinux

#2 安装Docker# ##2.1 用repo安装## ###2.2.1 安装yum-utils### yum-utils提供了yum-config-manager组件。

sudo yum install -y yum-utils

###2.2.2 获取稳定版repo###

sudo yum-config-manager \
    --add-repo \
    https://download.docker.com/linux/centos/docker-ce.repo

###2.2.3 配置testing仓库(可选)###

sudo yum-config-manager --enable docker-testing

也可以用--disable来关闭

sudo yum-config-manager --disable docker-testing

##2.2 安装Docker## ###2.2.1 更新yum资源索引###

sudo yum makecache fast

###2.2.2 安装Docker### 安装最新版Docker

sudo yum -y install docker-ce

或者用下列命令安装之前版本的docker

yum list docker-engine.x86_64  --showduplicates |sort -r

根据常看的版本信息，用下面命令来指定版本

sudo yum -y install docker-engine-<VERSION_STRING>

###2.2.3 启动Docker###

sudo systemctl start docker

###2.2.4 确认完成###

sudo docker run hello-world

这里用hello-world项目来验证完成，如果出现下面信息则成功：

Hello from Docker!
This message shows that your installation appears to be working correctly.

To generate this message,Docker took the following steps:
 1. The Docker client contacted the Docker daemon.
 2. The Docker daemon pulled the "hello-world" image from the Docker Hub.
 3. The Docker daemon created a new container from that image which runs the
    executable that produces the output you are currently reading.
 4. The Docker daemon streamed that output to the Docker client,which sent it
    to your terminal.

To try something more ambitIoUs,you can run an Ubuntu container with:
 $ docker run -it ubuntu bash

Share images,automate workflows,and more with a free Docker ID:
 https://cloud.docker.com/

For more examples and ideas,visit:
 https://docs.docker.com/engine/userguide/

#3 安装Docker Compose# Docker工具箱同时提供了Engine和Compose，不过本人所用CentOS 7，所以就继续下面流程: ##3.1 下载Docker Compose## 使用curl下载compose，并赋予可执行权限：

curl -L https://github.com/docker/compose/releases/download/1.11.1/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose

也可以用python pip来安装：

pip install -U docker-compose

##3.2 测试##

docker-compose --version

#3 Docker Compose使用# ##3.1 编写项目代码## 1.先创建一个目录，作为项目目录。

mkdir composetest
cd composetest

2.创建app.py：

from flask import Flask
from redis import Redis

app = Flask(__name__)
redis = Redis(host='redis',port=6379)

@app.route('/')
def hello():
    count = redis.incr('hits')
    return 'Hello World! I have been seen {} times.\n'.format(count)

if __name__ == "__main__":
    app.run(host="0.0.0.0",debug=True)

3.再创建一个叫做requirements.txt的文件，内容如下：

flask
redis

##3.2 编写Dockerfile##

FROM python:3.4-alpine
ADD . /code
workdir /code
RUN pip install -r requirements.txt
CMD ["python","app.py"]

##3.3 编写Compose配置文件## 在当前目录下创建docker-compose.yml，内容如下：

version: '2'
services:
  web:
    build: .
    ports:
     - "5000:5000"
    volumes:
     - .:/code
  redis:
    image: "redis:alpine"

##3.4 启动Docker Compose## 在项目目录下，用下面命令启动Docker Compose：

docker-compose up

然后就可以用浏览器访问 http://localhost:5000 来查看了，出现下面信息即为成功。

Hello World! I have been seen 1 times.

##3.5 更新应用## 修改app.py，将返回修改为：

return 'Hello from Docker! I have been seen {} times.\n'.format(count)

刷新浏览器，即可看到

Hello from Docker! I have been seen 2 times.

##3.6 Docker Compose其他命令## 1.后台运行

docker-compose up -d

2.列举后台已启动容器

docker-compose ps

3.启动已关闭的服务

docker-compose run web env

4.关闭启动的服务

docker-compose stop

5.彻底关闭服务并移除容器，--volumes 清理Redis容器产生的数据量

docker-compose down --volumes

Docker Compose 和 Docker Swarm 和 Docker Service

# 慢
$ sudo curl -L "https://github.com/docker/compose/releases/download/1.27.4/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
# 国内镜像
$ sudo curl -L https://get.daocloud.io/docker/compose/releases/download/1.24.0/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose

$ sudo chmod +x /usr/local/bin/docker-compose

$ docker-compose --version
docker-compose version 1.27.4, build 1110ad01

sudo rm /usr/local/bin/docker-compose

$ mkdir composetest
$ cd composetest

import time

import redis
from flask import Flask

app = Flask(__name__)
cache = redis.Redis(host='redis', port=6379)

def get_hit_count():
    retries = 5
    while True:
        try:
            return cache.incr('hits')
        except redis.exceptions.ConnectionError as exc:
            if retries == 0:
                raise exc
            retries -= 1
            time.sleep(0.5)

@app.route('/')
def hello():
    count = get_hit_count()
    return 'Hello World! I have been seen {} times.\n'.format(count)

flask
redis

FROM python:3.7-alpine
workdir /code
ENV FLASK_APP=app.py
ENV FLASK_RUN_HOST=0.0.0.0
RUN apk add --no-cache gcc musl-dev linux-headers
copY requirements.txt requirements.txt
RUN pip install -r requirements.txt
EXPOSE 5000
copY . .
CMD ["flask", "run"]

# version: "3.9" 需要版本对应
version: "3"
services:
  web:
    build: .
    ports:
      - "5000:5000"
  redis:
    image: "redis:alpine"

docker-compose up
# 后台运行
# docker-compose up -d

# 前端运行使用 ctrl + c 停止
# 后台运行使用
docker-compose stop

version: "3" # docker-compose核心版本
services: # 服务
	fw: # 服务名称
		image: redis # 服务配置
		ports: # 服务配置2
      		- "5000:5000"
      	depends_on: # 依赖（启动顺序）
      		- fw2
      		- redis
      	..... # 容器启动的所有配置
	fw2: 
		image: # 服务配置

version: '3.3'

services:
   db:
     image: MysqL:5.7
     volumes:
       - db_data:/var/lib/MysqL
     restart: always
     environment:
       MysqL_ROOT_PASSWORD: somewordpress
       MysqL_DATABASE: wordpress
       MysqL_USER: wordpress
       MysqL_PASSWORD: wordpress

   wordpress:
     depends_on:
       - db
     image: wordpress:latest
     ports:
       - "8000:80"
     restart: always
     environment:
       wordpress_DB_HOST: db:3306
       wordpress_DB_USER: wordpress
       wordpress_DB_PASSWORD: wordpress
       wordpress_DB_NAME: wordpress
volumes:
    db_data: {}

docker-compose up -d

[root@centos3 ~]# docker swarm --help

Usage:  docker swarm COMMAND

Manage Swarm

Commands:
  ca          管理根CA
  init        初始化集群
  join        加入集群
  join-token  创建加入令牌
  leave       离开集群
  unlock      解锁群
  unlock-key  管理解锁密钥
  update      更新集群

Run 'docker swarm COMMAND --help' for more information on a command.

docker swarm init [OPTIONS]

# 初始化集群
docker swarm init --advertise-addr 192.168.0.191

docker swarm join [OPTIONS] HOST:PORT

# 例如加入一个节点
# 令牌SWMTKN-1-3pu6hszjas19xyp7ghgosyx9k8atbfcr8p2is99znpy26u2lkl-7p73s1dx5in4tatdymyhg9hu2
docker swarm join --token SWMTKN-1-3pu6hszjas19xyp7ghgosyx9k8atbfcr8p2is99znpy26u2lkl-7p73s1dx5in4tatdymyhg9hu2 192.168.0.191:2377

docker swarm join-token [OPTIONS] (worker|manager)
# 工作令牌
docker swarm join-token worker
# 管理令牌
docker swarm join-token manager

# 查看节点
docker node

docker service COMMAND

docker service create [OPTIONS] IMAGE [COMMAND] [ARG...]

# 例如,启动一个Nginx服务，暴露8080端口
docker service create -p 8080:80 --name Nginx01 Nginx
# docker run 容器启动，单机版本
# docker service 服务启动，支持扩缩容器
# 查看服务
docker service ps Nginx01
# 查看副本
docker service ls
# 查看详情
docker service inspect Nginx01

docker service update [OPTIONS] SERVICE

# 为 Nginx01 创建 10 个副本
docker service update --replicas 10 Nginx01 
# 或 使用 scale 命令
docker service scale Nginx01=10

docker service rm Nginx01