构建 Docker Image

该文档主要介绍了如何通过 Dockerfile 来制作 Apache Doris 的运行镜像,以便于在容器化编排工具或者快速测试过程中可迅速拉取一个 Apache Doris Image 来完成集群的创建。

软硬件要求

概述

Docker 镜像在制作前要提前准备好制作机器,该机器的平台架构决定了制作以后的 Docker Image 适用的平台架构,如 X86_64 机器,需要下载 X86_64 的 Doris 二进制程序,制作以后的 Image 仅可在 X86_64 平台上运行。ARM 平台(M1 视同为 ARM)同理。

硬件要求

最低配置:2C 4G

推荐配置:4C 16G

软件要求

Docker Version:20.10 及以后版本

Docker Image 构建

Dockerfile 脚本编写需要注意以下几点:

  1. 基础父镜像选用经过 Docker-Hub 认证的 OpenJDK 官方镜像,版本用 JDK 1.8 版本
  2. 应用程序默认使用官方提供的二进制包进行下载,勿使用来源不明的二进制包
  3. 需要内嵌脚本来完成 FE 的启动、多 FE 注册、状态检查和 BE 的启动、注册 BE 至 FE 、状态检查等任务流程
  4. 应用程序在 Docker 内启动时不应使用 --daemon 的方式启动,否则在 K8S 等编排工具部署过程中会有异常

由于 Apache Doris 1.2 版本开始,开始支持 JavaUDF 能力,故而 BE 也需要有 JDK 环境,推荐的镜像如下:

Doris 程序 推荐基础父镜像
Frontend openjdk:8u342-jdk
Backend openjdk:8u342-jdk
Broker openjdk:8u342-jdk

脚本前期准备

编译 Docker Image 的 Dockerfile 脚本中,关于 Apache Doris 程序二进制包的加载方式,有两种:

  1. 通过 wget / curl 在编译时执行下载命令,随后完成 docker build 制作过程
  2. 提前下载二进制包至编译目录,然后通过 ADD 或者 COPY 命令加载至 docker build 过程中

使用前者会让 Docker Image Size 更小,但是如果构建失败的话可能下载操作会重复进行,导致构建时间过长,而后者更适用于网络环境不是很好的构建环境。

综上,本文档的示例以第二种方式为准,若有第一种诉求,可根据自己需求定制修改即可。

准备二进制包

需要注意的是,如有定制化开发需求,则需要自己修改源码后进行编译打包,然后放置至构建目录即可。

若无特殊需求,直接下载官网提供的二进制包即可。

构建步骤

构建 FE

构建环境目录如下:

1. └── docker-build                                                // 构建根目录
2. └── fe                                                      // FE 构建目录
3. ├── dockerfile                                          // dockerfile 脚本
4. └── resource                                            // 资源目录
5. ├── init_fe.sh                                      // 启动及注册脚本
6. └── apache-doris-x.x.x-bin-fe.tar.gz                // 二进制程序包
  1. 创建构建环境目录

1. mkdir -p ./docker-build/fe/resource 2. 下载官方二进制包/编译的二进制包

拷贝二进制包至 ./docker-build/fe/resource 目录下 3. 编写 FE 的 Dockerfile 脚本

``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk

  1. 设置环境变量

  2. ENV JAVA_HOME="/usr/local/openjdk-8/" \
  3. PATH="/opt/apache-doris/fe/bin:$PATH"

  4. 下载软件至镜像内,可根据需要替换

  5. ADD ./resource/apache-doris-fe-${x.x.x}-bin.tar.gz /opt/

  6. RUN apt-get update && \

  7. apt-get install -y default-mysql-client && \
  8. apt-get clean && \
  9. mkdir /opt/apache-doris && \
  10. cd /opt && \
  11. mv apache-doris-fe-${x.x.x}-bin /opt/apache-doris/fe

  12. ADD ./resource/init_fe.sh /opt/apache-doris/fe/bin

  13. RUN chmod 755 /opt/apache-doris/fe/bin/init_fe.sh

  14. ENTRYPOINT ["/opt/apache-doris/fe/bin/init_fe.sh"] ```

编写后命名为 Dockerfile 并保存至 ./docker-build/fe 目录下 4. 编写 FE 的执行脚本

可参考复制 init_fe.sh 的内容

编写后命名为 init_fe.sh 并保存至 ./docker-build/fe/resource 目录下 5. 执行构建

需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-fe

构建 FE:

1. cd ./docker-build/fe 2. docker build . -t ${fe-tagName}

构建 BE

  1. 创建构建环境目录
1. mkdir -p ./docker-build/be/resource
  1. 构建环境目录如下:

1. └── docker-build // 构建根目录 2. └── be // BE 构建目录 3. ├── dockerfile // dockerfile 脚本 4. └── resource // 资源目录 5. ├── init_be.sh // 启动及注册脚本 6. └── apache-doris-x.x.x-bin-x86_64/arm-be.tar.gz // 二进制程序包 2. 编写 BE 的 Dockerfile 脚本

``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk

  1. 设置环境变量

  2. ENV JAVA_HOME="/usr/local/openjdk-8/" \
  3. PATH="/opt/apache-doris/be/bin:$PATH"

  4. 下载软件至镜像内,可根据需要替换

  5. ADD ./resource/apache-doris-be-${x.x.x}-bin-x86_64.tar.gz /opt/

  6. RUN apt-get update && \

  7. apt-get install -y default-mysql-client && \
  8. apt-get clean && \
  9. mkdir /opt/apache-doris && \
  10. cd /opt && \
  11. mv apache-doris-be-${x.x.x}-bin-x86_64 /opt/apache-doris/be

  12. ADD ./resource/init_be.sh /opt/apache-doris/be/bin

  13. RUN chmod 755 /opt/apache-doris/be/bin/init_be.sh

  14. ENTRYPOINT ["/opt/apache-doris/be/bin/init_be.sh"] ```

编写后命名为 Dockerfile 并保存至 ./docker-build/be 目录下 3. 编写 BE 的执行脚本

可参考复制 init_be.sh 的内容

编写后命名为 init_be.sh 并保存至 ./docker-build/be/resource 目录下 4. 执行构建

需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-be

构建 BE:

1. cd ./docker-build/be 2. docker build . -t ${be-tagName}

构建完成后,会有 Success 字样提示,这时候通过以下命令可查看刚构建完成的 Image 镜像

1. docker images

构建 Broker

  1. 创建构建环境目录
1. mkdir -p ./docker-build/broker/resource
  1. 构建环境目录如下:

1. └── docker-build // 构建根目录 2. └── broker // BROKER 构建目录 3. ├── dockerfile // dockerfile 脚本 4. └── resource // 资源目录 5. ├── init_broker.sh // 启动及注册脚本 6. └── apache-doris-x.x.x-bin-broker.tar.gz // 二进制程序包 2. 编写 Broker 的 Dockerfile 脚本

``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk

  1. 设置环境变量

  2. ENV JAVA_HOME="/usr/local/openjdk-8/" \
  3. PATH="/opt/apache-doris/broker/bin:$PATH"

  4. 下载软件至镜像内,此处 broker 目录被同步压缩至 FE 的二进制包,需要自行解压重新打包,可根据需要替换

  5. ADD ./resource/apache_hdfs_broker.tar.gz /opt/

  6. RUN apt-get update && \

  7. apt-get install -y default-mysql-client && \
  8. apt-get clean && \
  9. mkdir /opt/apache-doris && \
  10. cd /opt && \
  11. mv apache_hdfs_broker /opt/apache-doris/broker

  12. ADD ./resource/init_broker.sh /opt/apache-doris/broker/bin

  13. RUN chmod 755 /opt/apache-doris/broker/bin/init_broker.sh

  14. ENTRYPOINT ["/opt/apache-doris/broker/bin/init_broker.sh"] ```

编写后命名为 Dockerfile 并保存至 ./docker-build/broker 目录下 3. 编写 BE 的执行脚本

可参考复制 init_broker.sh 的内容

编写后命名为 init_broker.sh 并保存至 ./docker-build/broker/resource 目录下 4. 执行构建

需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-broker

构建 Broker:

1. cd ./docker-build/broker 2. docker build . -t ${broker-tagName}

构建完成后,会有 Success 字样提示,这时候通过以下命令可查看刚构建完成的 Image 镜像

1. docker images

推送镜像至 DockerHub 或私有仓库

登录 DockerHub 账号

1. docker login

登录成功会提示 Success 相关提示,随后推送至仓库即可

1. docker push ${tagName}