构建 Docker Image
该文档主要介绍了如何通过 Dockerfile 来制作 Apache Doris 的运行镜像,以便于在容器化编排工具或者快速测试过程中可迅速拉取一个 Apache Doris Image 来完成集群的创建。
软硬件要求
概述
Docker 镜像在制作前要提前准备好制作机器,该机器的平台架构决定了制作以后的 Docker Image 适用的平台架构,如 X86_64 机器,需要下载 X86_64 的 Doris 二进制程序,制作以后的 Image 仅可在 X86_64 平台上运行。ARM 平台(M1 视同为 ARM)同理。
硬件要求
最低配置:2C 4G
推荐配置:4C 16G
软件要求
Docker Version:20.10 及以后版本
Docker Image 构建
Dockerfile 脚本编写需要注意以下几点:
- 基础父镜像选用经过 Docker-Hub 认证的 OpenJDK 官方镜像,版本用 JDK 1.8 版本
- 应用程序默认使用官方提供的二进制包进行下载,勿使用来源不明的二进制包
- 需要内嵌脚本来完成 FE 的启动、多 FE 注册、状态检查和 BE 的启动、注册 BE 至 FE 、状态检查等任务流程
- 应用程序在 Docker 内启动时不应使用
--daemon的方式启动,否则在 K8S 等编排工具部署过程中会有异常
由于 Apache Doris 1.2 版本开始,开始支持 JavaUDF 能力,故而 BE 也需要有 JDK 环境,推荐的镜像如下:
| Doris 程序 | 推荐基础父镜像 |
|---|---|
| Frontend | openjdk:8u342-jdk |
| Backend | openjdk:8u342-jdk |
| Broker | openjdk:8u342-jdk |
脚本前期准备
编译 Docker Image 的 Dockerfile 脚本中,关于 Apache Doris 程序二进制包的加载方式,有两种:
- 通过 wget / curl 在编译时执行下载命令,随后完成 docker build 制作过程
- 提前下载二进制包至编译目录,然后通过 ADD 或者 COPY 命令加载至 docker build 过程中
使用前者会让 Docker Image Size 更小,但是如果构建失败的话可能下载操作会重复进行,导致构建时间过长,而后者更适用于网络环境不是很好的构建环境。
综上,本文档的示例以第二种方式为准,若有第一种诉求,可根据自己需求定制修改即可。
准备二进制包
需要注意的是,如有定制化开发需求,则需要自己修改源码后进行编译打包,然后放置至构建目录即可。
若无特殊需求,直接下载官网提供的二进制包即可。
构建步骤
构建 FE
构建环境目录如下:
1. └── docker-build // 构建根目录
2. └── fe // FE 构建目录
3. ├── dockerfile // dockerfile 脚本
4. └── resource // 资源目录
5. ├── init_fe.sh // 启动及注册脚本
6. └── apache-doris-x.x.x-bin-fe.tar.gz // 二进制程序包
- 创建构建环境目录
1. mkdir -p ./docker-build/fe/resource
2. 下载官方二进制包/编译的二进制包
拷贝二进制包至 ./docker-build/fe/resource 目录下
3. 编写 FE 的 Dockerfile 脚本
``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk
-
设置环境变量
- ENV JAVA_HOME="/usr/local/openjdk-8/" \
-
PATH="/opt/apache-doris/fe/bin:$PATH"
-
下载软件至镜像内,可根据需要替换
-
ADD ./resource/apache-doris-fe-${x.x.x}-bin.tar.gz /opt/
-
RUN apt-get update && \
- apt-get install -y default-mysql-client && \
- apt-get clean && \
- mkdir /opt/apache-doris && \
- cd /opt && \
-
mv apache-doris-fe-${x.x.x}-bin /opt/apache-doris/fe
-
ADD ./resource/init_fe.sh /opt/apache-doris/fe/bin
-
RUN chmod 755 /opt/apache-doris/fe/bin/init_fe.sh
-
ENTRYPOINT ["/opt/apache-doris/fe/bin/init_fe.sh"] ```
编写后命名为 Dockerfile 并保存至 ./docker-build/fe 目录下
4. 编写 FE 的执行脚本
可参考复制 init_fe.sh 的内容
编写后命名为 init_fe.sh 并保存至 ./docker-build/fe/resouce 目录下
5. 执行构建
需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-fe
构建 FE:
1. cd ./docker-build/fe
2. docker build . -t ${fe-tagName}
构建 BE
- 创建构建环境目录
1. mkdir -p ./docker-build/be/resource
- 构建环境目录如下:
1. └── docker-build // 构建根目录
2. └── be // BE 构建目录
3. ├── dockerfile // dockerfile 脚本
4. └── resource // 资源目录
5. ├── init_be.sh // 启动及注册脚本
6. └── apache-doris-x.x.x-bin-x86_64/arm-be.tar.gz // 二进制程序包
2. 编写 BE 的 Dockerfile 脚本
``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk
-
设置环境变量
- ENV JAVA_HOME="/usr/local/openjdk-8/" \
-
PATH="/opt/apache-doris/be/bin:$PATH"
-
下载软件至镜像内,可根据需要替换
-
ADD ./resource/apache-doris-be-${x.x.x}-bin-x86_64.tar.gz /opt/
-
RUN apt-get update && \
- apt-get install -y default-mysql-client && \
- apt-get clean && \
- mkdir /opt/apache-doris && \
- cd /opt && \
-
mv apache-doris-be-${x.x.x}-bin-x86_64 /opt/apache-doris/be
-
ADD ./resource/init_be.sh /opt/apache-doris/be/bin
-
RUN chmod 755 /opt/apache-doris/be/bin/init_be.sh
-
ENTRYPOINT ["/opt/apache-doris/be/bin/init_be.sh"] ```
编写后命名为 Dockerfile 并保存至 ./docker-build/be 目录下
3. 编写 BE 的执行脚本
可参考复制 init_be.sh 的内容
编写后命名为 init_be.sh 并保存至 ./docker-build/be/resouce 目录下
4. 执行构建
需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-be
构建 BE:
1. cd ./docker-build/be
2. docker build . -t ${be-tagName}
构建完成后,会有 Success 字样提示,这时候通过以下命令可查看刚构建完成的 Image 镜像
1. docker images
构建 Broker
- 创建构建环境目录
1. mkdir -p ./docker-build/broker/resource
- 构建环境目录如下:
1. └── docker-build // 构建根目录
2. └── broker // BROKER 构建目录
3. ├── dockerfile // dockerfile 脚本
4. └── resource // 资源目录
5. ├── init_broker.sh // 启动及注册脚本
6. └── apache-doris-x.x.x-bin-broker.tar.gz // 二进制程序包
2. 编写 Broker 的 Dockerfile 脚本
``` 1. # 选择基础镜像 2. FROM openjdk:8u342-jdk
-
设置环境变量
- ENV JAVA_HOME="/usr/local/openjdk-8/" \
-
PATH="/opt/apache-doris/broker/bin:$PATH"
-
下载软件至镜像内,此处 broker 目录被同步压缩至 FE 的二进制包,需要自行解压重新打包,可根据需要替换
-
ADD ./resource/apache_hdfs_broker.tar.gz /opt/
-
RUN apt-get update && \
- apt-get install -y default-mysql-client && \
- apt-get clean && \
- mkdir /opt/apache-doris && \
- cd /opt && \
-
mv apache_hdfs_broker /opt/apache-doris/broker
-
ADD ./resource/init_broker.sh /opt/apache-doris/broker/bin
-
RUN chmod 755 /opt/apache-doris/broker/bin/init_broker.sh
-
ENTRYPOINT ["/opt/apache-doris/broker/bin/init_broker.sh"] ```
编写后命名为 Dockerfile 并保存至 ./docker-build/broker 目录下
3. 编写 BE 的执行脚本
可参考复制 init_broker.sh 的内容
编写后命名为 init_broker.sh 并保存至 ./docker-build/broker/resouce 目录下
4. 执行构建
需要注意的是,${tagName} 需替换为你想要打包命名的 tag 名称,如:apache-doris:1.1.3-broker
构建 Broker:
1. cd ./docker-build/broker
2. docker build . -t ${broker-tagName}
构建完成后,会有 Success 字样提示,这时候通过以下命令可查看刚构建完成的 Image 镜像
1. docker images
推送镜像至 DockerHub 或私有仓库
登录 DockerHub 账号
1. docker login
登录成功会提示 Success 相关提示,随后推送至仓库即可
1. docker push ${tagName}
