作者:乔克
公众号:运维开发故事
知乎:乔克叔叔
大家好,我是乔克,一名一线运维实践者。
镜像对于YAML工程师来说都不陌生,每天都在和他打交道,编写、构建、发布,重复而有趣。
在我们编写一个构建镜像的Dockerfile之后,只要应用能正常跑起来,便很少再去看这个Dockerdfile了(至少我是这样)。对于这个Dockerfile是不是想象中的那么合理,是不是还可以再优化一下,并没有做太深入的思考。
本文主要从以下几个方面带你深入了解镜像的知识。
![image.png](https://www.www.zyiz.net/i/ll/?i=img_convert/a918c95c6b36d83774be0b9132fc6084.png#clientId=u4a3c0480-8a63-4&from=paste&height=438&id=aezWb&margin=[object Object]&name=image.png&originHeight=438&originWidth=761&originalType=binary&ratio=1&size=35172&status=done&style=none&taskId=uc0cc93b8-77b0-41a7-9780-955acebfaac&width=761)
在了解一件事物的时候,脑海中总是会先问一句“是什么”,学习Docker镜像也是同样的道理,什么是Docker镜像?
在说Docker镜像之前,先简单说说Linux文件系统。
典型的Linux文件系统由bootfs
和rootfs
组成,bootfs
会在Kernel
加载到内存后umount
掉,所以我们进入系统看到的都是rootfs
,比如/etc,/prod,/bin等标准目录。
我们可以把Docker镜像当成一个rootfs
,这样就能比较形象是知道什么是Docker镜像,比如官方的ubuntu:21.10
,就包含一套完整的ubuntu:21.10
最小系统的rootfs
,当然其内是不包含内核的。
Docker镜像是一个_特殊的文件系统_,它提供容器运行时需要的程序、库、资源、配置还有一个运行时参数,其最终目的就是能在容器中运行我们的代码。
以上是从宏观的的视角去看Docker镜像是什么,下面再从微观的角度来深入了解一下Docker镜像。假如我们现在只有一个ubuntu:21.10
镜像,如果现在需要一个nginx
镜像,是不是可以直接在这个镜像中安装一个nginx
,然后这个镜像是不是就可以变成nginx
镜像?
答案是可以的。其实这里面就有一个分层的概念,底层用的是ubuntu镜像,然后在上面叠加了一个nginx镜像,这样就完成了一个nginx镜像的构建了,这种情况我们称ubuntu镜像为nginx的父镜像。
这么说起来还是有点不好理解,介绍完下面的镜像存储方式,就好理解了。
在说镜像的存储方式之前,先简单介绍一个UnionFS
(联合文件系统,Union File System)。
所谓UnionFS
就是把不同物理位置的目录合并mount到同一个目录
中,然后形成一个虚拟的文件系统。一个最典型的应用就是将一张CD/DVD和一个硬盘的目录联合mount在一起,然后用户就可以对这个只读的CD/DVD进行修改了。
Docker就是充分利用UnionFS
技术,将镜像设计成分层存储,现在使用的就是OverlayFS
文件系统,它是众多UnionFS
中的一种。
OverlayFS
只有lower
和upper
两层。顾名思义,upper
层在上面,lower
层在下面,upper
层的优先级高于lower
层。
在使用mount
挂载overlay
文件系统的时候,遵守以下规则。
下面以OverlayFS
为例,直面感受一下这种文件系统的效果。
系统:CentOS 7.9
Kernel:3.10.0
(1)创建两个目录lower
、upper
、merge
、work
四个目录
# # mkdir lower upper work merge
其中:
lower
目录用于存放lower层文件upper
目录用于存放upper层文件work
目录用于存放临时或者间接文件merge
目录就是挂载目录
(2)在lower
和upper
两个目录中都放入一些文件,如下:
# echo "From lower." > lower/common-file # echo "From upper." > upper/common-file # echo "From lower." > lower/lower-file # echo "From upper." > upper/upper-file # tree . ├── lower │ ├── common-file │ └── lower-file ├── merge ├── upper │ ├── common-file │ └── upper-file └── work
可以看到lower
和upper
目录中有相同名字的文件common-file
,但是他们的内容不一样。
(3)将这两个目录进行挂载,命令如下:
# mount -t overlay -o lowerdir=lower,upperdir=upper,workdir=work overlay merge
挂载的结果如下:
# tree . ├── lower │ ├── common-file │ └── lower-file ├── merge │ ├── common-file │ ├── lower-file │ └── upper-file ├── upper │ ├── common-file │ └── upper-file └── work └── work # cat merge/common-file From upper.
可以看到两者共同目录common-dir内容进行了合并,重复文件common-file为uppderdir中的common-file。
(4)在merge目录中创建一个文件,查看效果
# echo "Add file from merge" > merge/merge-file # tree . ├── lower │ ├── common-file │ └── lower-file ├── merge │ ├── common-file │ ├── lower-file │ ├── merge-file │ └── upper-file ├── upper │ ├── common-file │ ├── merge-file │ └── upper-file └── work └── work
可以看到lower
层没有变化,新增的文件会新增到upper
层。
(5)修改merge
层的lower-file
,效果如下
# echo "update lower file from merge" > merge/lower-file # tree . ├── lower │ ├── common-file │ └── lower-file ├── merge │ ├── common-file │ ├── lower-file │ ├── merge-file │ └── upper-file ├── upper │ ├── common-file │ ├── lower-file │ ├── merge-file │ └── upper-file └── work └── work # cat upper/lower-file update lower file from merge # cat lower/lower-file From lower.
可以看到lower
层同样没有变化,所有的修改都发生在upper
层。
从上面的实验就可以看到比较有意思的一点:不论上层怎么变,底层都不会变
。
Docker镜像就是存在联合文件系统的,在构建镜像的时候,会一层一层的向上叠加,每一层构建完就不会再改变了,后一层上的任何改变都只会发生在自己的这一层,不会影响前面的镜像层。
我们通过一个例子来进行阐述,如下图。
![image.png](https://www.www.zyiz.net/i/ll/?i=img_convert/523b26489183ec9eaa8e2f599db55cca.png#clientId=u4a3c0480-8a63-4&from=paste&height=348&id=uD0Uw&margin=[object Object]&name=image.png&originHeight=348&originWidth=569&originalType=binary&ratio=1&size=22159&status=done&style=none&taskId=uec579373-7162-4d14-80a5-cbdacff0b6d&width=569)
具体如下:
写时复制
机制,新增文件也是一样。写时复制
机制,从L2层拷贝file3到L3层 ,然后进行修改。
上面的镜像层是死
的。当我们运行容器的时候,Docker Daemon还会动态生成一个读写层,用于修改容器里的文件,如下图。
![image.png](https://www.www.zyiz.net/i/ll/?i=img_convert/cf62c97dac46ac2afb2502f77798e83f.png#clientId=u4a3c0480-8a63-4&from=paste&height=398&id=l6ML5&margin=[object Object]&name=image.png&originHeight=398&originWidth=642&originalType=binary&ratio=1&size=28738&status=done&style=none&taskId=u9b22f188-6137-41a8-af0d-04adda42e88&width=642)
比如我们要修改file2,就会使用写时复制
机制将file2复制到读写层,然后进行修改。同样,在容器运行的时候也会有一个视图,当我们把容器停掉以后,视图层就没了,但是读写层依然保留,当我们下次再启动容器的时候,还可以看到上次的修改。
值得一提的是,当我们在删除某个文件的时候,其实并不是真的删除,只是将其标记为删除然后隐藏掉,虽然我们看不到这个文件,实际上这个文件会一直跟随镜像。
到此对镜像的分层存储有一定的认识了?这种分层存储还使得镜像的复用、定制变得更容易,就像文章开头基于ubuntu定制nginx镜像。
我们经常在应用代码里编写Dockerfile
来制作镜像,那Dockerfile
和镜像到底是什么关系呢?没有Dockerfile
可以制作镜像吗?
我们先来看一个简单的Dockerfile
是什么样的。
FROM ubuntu:latest ADD run.sh / VOLUME /data CMD ["./run.sh"]
通过这几个命令就可以做出新的镜像?
是的,通过这几个命令组成文件,docker就可以使用它制作出新的镜像,这是不是有点像给你一些柠檬、冰糖、金银花就能制作出一杯柠檬茶一个道理?
这个一联想,Dockerfile
和镜像的关系就清晰明了了。
Dockerfile就是一个原材料,镜像就是我们想要的产品
。当我们想要制作某一个镜像的时候,配置好Dcokerfile
,然后使用docker命令就能轻松的制作出来。
那不用Dockerfile
可以制作镜像吗?
答案是可以的,这时候就需要我们先启动一个基础镜像,通过docker exec
命令进入容器,然后安装我们需要的软件,最好再使用docker commit
生成新的镜像即可。这种方式就没有Dockerfile
那么清晰明了,使用起来也比较麻烦。
上面说了Dockerfile
是镜像的原材料,在这里,镜像就是容器的运行基础。
容器镜像和我们平时接触的操心系统镜像是一个道理,当我们拿到一个操作系统镜像,比如一个以iso结尾的centos镜像,正常情况下,这个centos操作系统并不能直接为我们提供服务,需要我们去安装配置才行。
容器镜像也是一样。
当我们通过Dockerfile
制作了一个镜像,这时候的镜像是静态的,并不能为我们提供需要的服务,我们需要通过docker将这个镜像运行起来,使它从镜像变成容器,从静态变成动态
。
简单来说,镜像是文件,容器是进程
。容器是通过镜像创建的,没有 Docker 镜像,就不可能有 Docker 容器
,这也是 Docker 的设计原则之一。
上面介绍了什么是镜像、镜像的存储方式以及Dockerfile
和镜像、镜像和容器之间关系,这节主要介绍我们在制作镜像的时候有哪些技巧可以优化镜像。
Docker镜像构建通过docker build
命令触发,docker build
会根据Dockerfile文件中的指令构建Docker镜像,最终的Docker镜像是由Dockerfile
中的命令所表示的层叠加起来的,所以从Dockerfile的制作到镜像的制作这一系列之间都有可以优化和注意的地方。
镜像优化可以分两个方向:
优化镜像体积主要就是从制作Dockerfile的时候需要考虑的事情。
上面以及介绍过镜像是分层存储的,每个镜像都会有一个父镜像,新的镜像都是在父镜像的基础之上构建出来的,比如下面的Dockerfile。
FROM ubuntu:latest ADD run.sh / VOLUME /data CMD ["./run.sh"]
这段Dockerfile的父镜像是ubuntu:latest
,在它的基础之上添加脚本然后组成新的镜像。
所以在优化体积方面,可以从以下几个方面进行考虑。
在Docker hub上的同一个基础镜像会存在多个版本,如果可以,我建议你使用alpine版本,这个版本的镜像是经过许多优化,减少了很多不必要的包,节约了体积。这里就以常用的openjdk
镜像为例,简单看一下它们的大小差别。
首先在Docker hub上可以看到openjdk:17-jdk
和openjdk:17-jdk-alpine
的镜像大小,如下:
![image.png](https://www.www.zyiz.net/i/ll/?i=img_convert/f9f10816a0dff44097983567796a60f7.png#clientId=u4a3c0480-8a63-4&from=paste&height=250&id=wV8JC&margin=[object Object]&name=image.png&originHeight=250&originWidth=1260&originalType=binary&ratio=1&size=20569&status=done&style=none&taskId=u18f1a102-5bb6-4ccd-a806-f5189ef19a0&width=1260)
![image.png](https://www.www.zyiz.net/i/ll/?i=img_convert/8af4361a23bd6069a9a59f981d1cf9dc.png#clientId=u4a3c0480-8a63-4&from=paste&height=184&id=bzycF&margin=[object Object]&name=image.png&originHeight=184&originWidth=1259&originalType=binary&ratio=1&size=12884&status=done&style=none&taskId=u9433d6c7-e5c1-4f86-a542-e4beb1c021b&width=1259)
可以看到同一个版本alpine版本的镜像比正常的版本小50MB左右,所以用这两个做基础镜像构建出来的镜像大小也会有差别。
但是是不是所有基础镜像都选alpine版本呢?
不是的,alpine镜像也会有很多坑,比如。
所以使用alpine镜像也需要好好斟酌一下,在实际应用中,如果要使用alpine镜像,最好在其上做一些初始化,把需要的依赖、库、命令等先封装进去制作成新的基础镜像,其他应用再以这个基础镜像为父镜像进行操作。
上面说过镜像是分层存储的,如果上层需要修改下层的文件需要使用写时复制
机制,而且下层的文件依然存在并不会消失,如果层数越多,镜像的体积相应的也会越大。
比如下面的Dockerfile。
FROM ubuntu:latest RUN apt update RUN apt install git -y RUN apt install curl -y ADD run.sh / CMD ["./run.sh"]
这个Dockerfile能跑起来吗?完全没问题,但是这样写是不是就会导致镜像的层数非常多?
抛开父镜像ubuntu:latest
本身的层不说,上面的Dockerfile足足增加了5层。在Dockerfile中是支持命令的合并的,我们可以把上面的Dockerfile改成如下。
FROM ubuntu:latest RUN apt update && \ apt install git -y && \ apt install curl -y ADD run.sh / CMD ["./run.sh"]
这样一改,就把镜像的层数从5层降低至3层,而且整个逻辑并没有改变。
说明:在 Docker1.10 后有所改变,只有 RUN、COPY、ADD 指令会创建层,其他指令会创建临时的中间镜像,不会直接增加构建的镜像大小 。
在制作镜像的时候,脑海中始终要想起一句话:镜像尽可能的保持精简。这样也有助于提高镜像的移植性。
比如下面的Dockerfile。
FROM ubuntu:latest COPY a.tar.gz /opt RUN cd /opt && \ tar xf a.tar.gz CMD ["./run.sh"]
在这个镜像中,我们从外部拷贝了一个压缩文件a.tar.gz
,在解压过后我们并没有把这个原始包删除掉,它依然会占用着空间,我们可以把这个Dockerfile改成如下。
FROM ubuntu:latest COPY a.tar.gz /opt RUN cd /opt && \ tar xf a.tar.gz && \ rm -f a.tar.gz CMD ["./run.sh"]
这样不仅得到了我们想要的文件,也没有保留不必要的软件包。
这个不是必须。
为什么这么说呢?因为多阶段构建主要是为了解决编译环境留下的多余文件,使最终的镜像尽可能小。那为什么说不是必须呢,因为这种情况很多时候都会在做CI的时候给分开,编译是编译的步骤,构建是构建的步骤,所以我说不是必须。
但是这种思路是非常好的,可以通过一个Dockerfile将编译和构建都写进去,如下。
FROM golang AS build-env ADD . /go/src/app WORKDIR /go/src/app RUN go get -u -v github.com/kardianos/govendor RUN govendor sync RUN GOOS=linux GOARCH=386 go build -v -o /go/src/app/app-server FROM alpine RUN apk add -U tzdata RUN ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime COPY --from=build-env /go/src/app/app-server /usr/local/bin/app-server EXPOSE 8080 CMD [ "app-server" ]
其主要是通过在Dockerfile中定义多个FROM
基础镜像来实现多阶段,阶段之间可以通过索引或者别名来引用。
优化镜像体积就总结这4点,如果你有更多更好的方法,欢迎沟通交流。
当制作好Dockerfile之后,就需要构建镜像了,很多时候看着构建的速度就着急,那有什么办法可以优化一下呢?这里从以下几个方面进行表述。
网络是万恶之源
。比如许多人的基础镜像都是直接从docker hub上拉取,如果一台机器是第一次拉是非常缓慢的,这时候我们可以先把docker hub上的镜像放到本地私有仓库,这样在同一个网络环境中,拉取速度会比直接到docker hub上拉取快1万倍。
还有一个镜像分发技术,比如阿里的dragonfly,充分采用了p2p的思想,提高镜像的拉取分发速度。
不知道你有没有注意到,当我们使用docker build
构建镜像的时候,会发送一个上下文给Docker daemon,如下:
# docker build -t test:v1 . Sending build context to Docker daemon 11.26kB Step 1/2 : FROM ubuntu ......
原来在使用docker build
构建镜像的时候,会把Dockerfile同级目录下的所有文件都发送给docker daemon,后续的操作都是在这个上下文中发生。
所以,如果你Dockerfile的同级目录存在很多不必要的文件,不仅会增加内存开销,还会拖慢整个构建速度,那有什么办法进行优化吗?
这里提供两种方法:
.dockerignore
文件,在里面添加需要忽略的文件和文件夹,这样在发送上下文的时候就不会发送不必要的文件了。
Docker镜像是分层存储的,在使用docker build
构建镜像的时候会默认使用缓存,在构建镜像的时候,Docker都会先从缓存中去搜索要使用的镜像,而不是创建新的镜像,其规则是:从该基本镜像派生的所有子镜像,与已在缓存中的镜像进行比较,以查看是否其中一个是使用完全相同的指令构建的。如果不一样,则缓存失效,重新构建。
简单归纳就以下三个要素:
只要满足这三个要素就会使用到缓存,加快构建速度。
上面从体积和效率上分别介绍了Docker镜像的优化和注意事项,如果严格按照这种思路进行镜像设计,你的镜像是能接受考验的,而且面试的时候也是能加分的。
上面聊了那么多镜像相关的话题,最后再来说说镜像安全的问题。
镜像是容器的基石,是应用的载体。最终我们的镜像是为业务直接或者间接的提供服务,做过运维的同学应该都为自己的操作系统做过安全加固,镜像其实也需要。
这里不阐述操作系统加固方面的知识,仅仅只针对容器来说。
精简不等于安全。
但是精简的镜像可以在一定程度上规避一些安全问题,都知道,一个操作系统中是会安装非常多的软件,这些软件每天都会暴露不同的漏洞,这些漏洞就会成为不怀好意之人的目标。我们可以把镜像看成是一个缩小版的操作系统,同理,镜像里面的软件越少,越精简,其漏洞暴露的风险就更低。
容器和虚拟机之间的一个关键区别是容器与主机共享内核。在默认情况下,Docker 容器运行在 root 用户下,这会导致泄露风险。因为如果容器遭到破坏,那么主机的 root 访问权限也会暴露。
所以我们在制作镜像的时候要使用非root用户,比如下面一个java服务:
FROM openjdk:8-jre-alpine RUN addgroup -g 1000 -S joker && \ adduser joker -D -G joker -u 1000 -s /bin/sh USER joker ADD --chown=joker springboot-helloworld.jar /home/joker/app.jar EXPOSE 8080 WORKDIR /home/joker CMD exec java -Djava.security.egd=file:/dev/./urandom -jar app.jar
在容器注册中心运行安全扫描可以为我们带来额外的价值。除了存放镜像,镜像注册中心定期运行安全扫描可以帮助我们找出薄弱点。Docker 为官方镜像和托管在 Docker Cloud 的私有镜像提供了安全扫描。
当然还有其他的仓库也有集成安全扫描工具,比如Harbor新版本已经可以自定义镜像扫描规则,也可以定义拦截规则,可以有效的发现镜像漏洞。
大家有没有这种感觉,我加了很多东西,但是感觉不到?
我有时候就有这种感觉,比如我给某个应用加了监控,然后就不管了,以至于我根本不知道或者不在乎这个监控到底怎么样。
假如我们对镜像进行了安全扫描,安装了一些工具,一定要去查看每个安全结果,而不是扫了就完了。
小小的镜像就有这么多道道,不看不知道,一看吓一跳。
本文主要从Docker镜像的概念说起,然后结合一些实际的场景进行对比分析阐述更深层次的实现过程,有助于帮助大家理解Docker镜像。