一文教會你用Docker打包Python運(yùn)行環(huán)境
前言
雖然Docker作為部署環(huán)境打包鏡像的工具，和我的科研并沒有直接的關(guān)系。但我覺得在項(xiàng)目中運(yùn)用Docker來打包環(huán)境依賴也可以大大提高工作效率，于是準(zhǔn)備專門學(xué)習(xí)一下Docker。
1. Docker基礎(chǔ)
1.1 Docker架構(gòu)
Docker使用客戶端服務(wù)器架構(gòu)。Docker客戶端與Docker守護(hù)進(jìn)程會話，后者復(fù)雜構(gòu)建、運(yùn)行和分發(fā)Docker容器的繁重工作。Docker客戶端和守護(hù)程序可以在同一系統(tǒng)運(yùn)行，也可以將Docker客戶端連接到遠(yuǎn)程Docker守護(hù)進(jìn)程。Docker客戶端和守護(hù)程序通過REST API（采用一種簡潔的URL風(fēng)格規(guī)范）通信，其底層基于UNIX套接字或網(wǎng)絡(luò)接口。其架構(gòu)示意圖如下：
其中，Docker 守護(hù)程序 (dockerd) 監(jiān)聽Docker API 請求并管理Docker對象，例如鏡像、容器、網(wǎng)絡(luò)和磁盤分卷。守護(hù)進(jìn)程還可以與其他守護(hù)進(jìn)程通信以管理Docker服務(wù)。而Docker 客戶端 ( docker) 是用戶與 Docker 交互的主要方式。當(dāng)我們使用諸如docker run之類的命令時(shí)，客戶端會將這些命令發(fā)送到dockerd執(zhí)行它們。docker命令使用 Docker API。Docker 客戶端可以與多個(gè)守護(hù)進(jìn)程通信。
Docker注冊表存儲Docker鏡像(你可以類比為Maven的repo)。Docker Hub 是一個(gè)任何人都可以使用的公共注冊表，并且 Docker 默認(rèn)配置為在Docker Hub上查找鏡像。我們也可以運(yùn)行自己的私有注冊表。我們可以調(diào)用docker pull從注冊表中拉取鏡像。當(dāng)我們docker run命令時(shí)，系統(tǒng)會從先從本地尋找鏡像，如果本地找不到，則會從Docker Hub拉取。當(dāng)我們使用docker push命令時(shí)，鏡像會被推送到我們配置的注冊表中。可以看出，Docker鏡像版本控制和Git類似。
1.2 Docker對象
當(dāng)我們在使用Docker時(shí)，我們就正在創(chuàng)建和使用鏡像、容器、網(wǎng)絡(luò)、磁盤分卷、插件和其他對象了。下面簡要介紹一下其中的鏡像和容器對象。
鏡像 鏡像可視為一個(gè)只讀模板，其中包含創(chuàng)建 Docker 容器的指令。通常，一個(gè)鏡像基于另一個(gè)鏡像，并帶有一些額外的自定義。例如可以基于現(xiàn)有的ubuntu鏡像，來構(gòu)建安裝有其它應(yīng)用程序的鏡像。要構(gòu)建我們自己的鏡像，需要使用簡單的語法創(chuàng)建一個(gè)Dockerfile ，用于定義創(chuàng)建和運(yùn)行鏡像所需的步驟。
容器容器是鏡像的可運(yùn)行實(shí)例（類似于進(jìn)程和程序的關(guān)系）。我們可以使用 Docker API 或 CLI 創(chuàng)建、啟動、停止、移動或刪除容器。我們可以將容器連接到一個(gè)或多個(gè)網(wǎng)絡(luò)。
2. 啟動Docker進(jìn)程并運(yùn)行鏡像
2.1 啟動Docker守護(hù)進(jìn)程
Linux
Linux上的docker同時(shí)包括客戶端和守護(hù)進(jìn)程兩部分，故安裝好docker后，只需要用以下命令即可運(yùn)行docker守護(hù)進(jìn)程：
$ sudo service docker start # Ubuntu/Debian
如果您是RedHat/Centos，則需要運(yùn)行：
$ sudo systemctl start docker
MacOS
然而，在Mac上docker二進(jìn)制僅僅是client部分(因?yàn)閐ocker守護(hù)進(jìn)程使用了一些Linux內(nèi)核的特點(diǎn))，我們不能使用它來運(yùn)行docker守護(hù)進(jìn)程。所以，我們還需要安裝docker-machine來創(chuàng)建一個(gè)虛擬機(jī)并將守護(hù)進(jìn)程運(yùn)行在上面。如果你的Mac上已經(jīng)有brew，可以直接運(yùn)行以下命令安裝：
brew install docker-machine
然后啟動docker-machine:
(base) orion-orion@MacBook-Pro ~ % brew services start docker-machine ==> Successfully started `docker-machine` (label: homebrew.mxcl.docker-machine)
2.2 運(yùn)行鏡像
之后我們就可以嘗試運(yùn)行Docker鏡像了。比如我們下面用docker run命令運(yùn)行docker/getting-started鏡像：
(base) orion-orion@MacBook-Pro ~ % docker run -d -p 80:80 docker/getting-started Unable to find image 'docker/getting-started:latest' locally latest: Pulling from docker/getting-started 9981e73032c8: Pull complete e5f90f35b4bc: Pull complete ab1af07f990a: Pull complete bd5777bb8f79: Pull complete a47abff02990: Pull complete d4b8ebd00804: Pull complete 6bec3724f233: Pull complete b95ca5a62dfb: Pull complete Digest: sha256:b558be874169471bd4e65bd6eac8c303b271a7ee8553ba47481b73b2bf597aae Status: Downloaded newer image for docker/getting-started:latest cc167092ff76941a25fe51da25fbbfe6a0a70cc07171fa5f56707f3bf7383e6a
可以看到由于沒有在本地找到docker/getting-started:latest鏡像，Docker從遠(yuǎn)處Docker Hub注冊表上pull下來。
我們用docker ps查看目前在運(yùn)行的鏡像實(shí)例（即容器）：
(base) orion-orion@MacBook-Pro ~ % docker ps CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES cc167092ff76 docker/getting-started "/docker-entrypoint.…" 29 minutes ago Up 29 minutes 0.0.0.0:80->80/tcp epic_lehmann
可以用docker stop終止鏡像運(yùn)行:
(base) orion-orion@MacBook-Pro ~ % docker stop cc167092ff76 cc167092ff76 (base) orion-orion@MacBook-Pro ~ % docker ps CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
用docker images查看有哪些本地鏡像：
(base) orion-orion@MacBook-Pro ~ % docker images REPOSITORY TAG IMAGE ID CREATED SIZE docker/getting-started latest 157095baba98 4 weeks ago 27.4MB
3. 用Docker打包Python環(huán)境
接下來我們看如何用Docker打包一個(gè)Python環(huán)境。
首先，我們編寫一個(gè)Python小Demo：
import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-10, 10, 0.01)
y = x**2
plt.plot(x, y)
plt.savefig("/out/quad.png")
# 此處的/out為容器內(nèi)的絕對路徑，無需手動創(chuàng)建，
# 后面我們會設(shè)置掛載參數(shù)自動生成該目錄
然后我們編輯好requirements.txt：
numpy==1.21.3 matplotlib==3.4.3
再編輯好Dockerfile:
# syntax=docker/dockerfile:1 FROM python:3.9-slim-buster WORKDIR /draw_quad COPY requirements.txt requirements.txt RUN pip3 install -r requirements.txt COPY . . CMD [ "python3", "draw_quad.py"]
我們來細(xì)細(xì)看Dockerfile每一部分。
首先，# syntax是指解析器指令。這里使用docker/dockerfile:1，即始終指向版本1語法的最新版本。
之后，我們需要告訴Docker我們在應(yīng)用中使用什么基礎(chǔ)鏡像。由于Docker鏡像可以從其它鏡像繼承，因此我們并不構(gòu)建自己的基礎(chǔ)鏡像，而是使用官方的Python鏡像，即FROM python:3.9-slim-buster。
然后我們建立一個(gè)工作目錄/draw_quad，即后續(xù)命令的默認(rèn)執(zhí)行路徑。這樣我們后面就不必輸入完整的文件路徑，而是可以使用基于工作目錄的相對路徑。如COPY requirements.txt requirements.txt其實(shí)是將requirements（第一個(gè)參數(shù)）復(fù)制到到工作目錄中(第二個(gè)參數(shù))。
接著，我們將requirements.txt 放入鏡像后，就可以使用RUN命令來執(zhí)行pip3 install了，這和我們在本地安裝的經(jīng)驗(yàn)完全相同，不過這次是將模塊安裝到鏡像中。
此時(shí)，我們有了一個(gè)基于Python 3.9的鏡像，并且已經(jīng)按照了我們的依賴項(xiàng)。下一步我們繼續(xù)用COPY命令將源代碼添加到鏡像中，即DockerFile中的COPY . .。
之后，我們還需要Docker當(dāng)我們的鏡像在容器中運(yùn)行時(shí)我們想要執(zhí)行什么命令，即CMD [ "python3", "draw_quad.py"]。
最終的項(xiàng)目目錄如下：
draw
|____ draw_quad.py
|____ requirements.txt
|____ Dockerfile
然后我們就可以構(gòu)建docker鏡像了（用--tag參數(shù)指定鏡像名稱）：
(base) orion-orion@MacBook-Pro draw % docker build --tag draw . [+] Building 9.1s (14/14) FINISHED => [internal] load build definition from Dockerfile 0.0s => => transferring dockerfile: 37B 0.0s => [internal] load .dockerignore 0.0s => => transferring context: 2B 0.0s => resolve image config for docker.io/docker/dockerfile:1 4.9s => CACHED docker-image://docker.io/docker/dockerfile:1@sha256:443aab4ca21183e069e7d8b2dc68006594f40bddf1b15bbd83f5137bd 0.0s => [internal] load build definition from Dockerfile 0.0s => [internal] load .dockerignore 0.0s => [internal] load metadata for docker.io/library/python:3.9-slim-buster 3.9s => [1/5] FROM docker.io/library/python:3.9-slim-buster@sha256:830e161433edfe047a23ebc99c12ee0eb1dc0a50e6b5f1c98e869ac27 0.0s => [internal] load build context 0.0s => => transferring context: 594B 0.0s => CACHED [2/5] WORKDIR /draw_quad 0.0s => CACHED [3/5] COPY requirements.txt requirements.txt 0.0s => CACHED [4/5] RUN pip3 install -r requirements.txt 0.0s => [5/5] COPY . . 0.0s => exporting to image 0.0s => => exporting layers 0.0s => => writing image sha256:18f3a254f4ce46faa17142ece6bfd442e9157e79510ca60a789ab4d4b1a12498 0.0s => => naming to docker.io/library/draw 0.0s
我們輸入docker images命令可以看到名稱為draw的鏡像已經(jīng)構(gòu)建成功。
(base) orion-orion@MacBook-Pro Draw % docker images REPOSITORY TAG IMAGE ID CREATED SIZE draw latest f1fc30becc34 46 seconds ago 251MB
然后就可以運(yùn)行鏡像了（包含文件系統(tǒng)掛載操作）：
(base) orion-orion@MacBook-Pro draw % docker run -d -v ${PWD}/out:/out draw
0e04d81d254fcd963924ee2492b82a6c895789525f09943b43ce0b46ac0d63a9
注意，${PWD}/out為宿主機(jī)的目錄，意思為當(dāng)前目錄下的out文件夾，如果不存在則會自動為我們創(chuàng)建。/out為該容器中的絕對路徑，在容器啟動會自動創(chuàng)建/out目錄。
我們可以看到，quad.png成功在宿主機(jī)當(dāng)前目錄下的out文件中生成：
(base) orion-orion@MacBook-Pro draw % ls out quad.png
參考
- [1] https://docs.docker.com/get-started/overview/
- [2] https://docs.docker.com/language/python/build-images/
- [3] https://stackoverflow.com/questions/31448821/how-to-write-data-to-host-file-system-from-docker-container
- [4] https://stackoverflow.com/questions/58205178/python-docker-filenotfounderror-errno-2-no-such-file-or-directory
- [5] http://www.dbjr.com.cn/article/130032.htm
總結(jié)
到此這篇關(guān)于用Docker打包Python運(yùn)行環(huán)境的文章就介紹到這了,更多相關(guān)Docker打包Python環(huán)境內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
最近一直在使用docker，在這做下記錄，本文我將以docker?ps?-a?命令為例探究docker命令在?client側(cè)的執(zhí)行過程，源碼的版本為20.10，對docker-cli源碼知識感興趣的朋友一起學(xué)習(xí)下吧2022-11-11
本文主要介紹了Docker本地目錄掛載的實(shí)現(xiàn)步驟2024-02-02
本篇文章主要介紹了詳解docker容器硬盤動態(tài)擴(kuò)容，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-04-04
本文介紹了如何使用Docker Desktop在Windows系統(tǒng)上部署GitLab,包括環(huán)境準(zhǔn)備、安裝Docker、配置GitLab鏡像、容器配置等步驟,感興趣的朋友一起看看吧2025-03-03
Ubuntu?環(huán)境下安裝?Docker環(huán)境詳解
這篇文章主要介紹了Ubuntu?環(huán)境下安裝?Docker環(huán)境詳解的相關(guān)資料,需要的朋友可以參考下2022-10-10
解決docker搭建gitlab時(shí)容器不停重啟的問題
這篇文章主要介紹了docker搭建gitlab時(shí)容器不停重啟的問題,當(dāng)用docker log 查看日志時(shí)，發(fā)現(xiàn)問題是在于配置文件沒有權(quán)限創(chuàng)建的問題，本文給大家分享解決方案，感興趣的朋友一起看看吧2022-05-05
本篇文章主要介紹了docker 限制容器對CPU的使用，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-08-08
這篇文章主要介紹了Docker中容器數(shù)據(jù)卷詳解的相關(guān)資料,需要的朋友可以參考下2022-11-11
Docker Compose是一個(gè)用于定義和運(yùn)行多個(gè)Docker容器的工具。它可以讓用戶輕松地定義和管理多個(gè)容器的配置，并且可以通過簡單的命令來啟動、停止和重啟這些容器。在本文中，我們將詳細(xì)介紹Docker Compose的使用和功能2023-04-04
本篇文章主要介紹了詳解使用docker搭建hadoop分布式集群，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-02-02