使用PyInstaller构建Python应用

本教程将向你展示如何使用Jenkins编排构建一个使用 PyInstaller管理的简单Python应用程序。

如果你是一个 Python 开发者,对CI/CD概念不了解 或者你熟悉这些概念却不知道如何使用Jenkins完成构建,那么本教程很适合你。

示例Python应用(你可以从GitHub的示例仓库中获取)是一个输出两个值的和的命令行工具“add2vals”。如果至少有一个值是字符串,那么“add2vals”就会将这两个值都当做字符串并将其连接起来。“cal”库“add2”函数(“add2vals”导入)伴随着一组单元测试。这些测试是用pytest测试,以检查这个函数是否像预期那样工作并将测试结果保存到Junit XML报告中。

"add2vals"工具通过PyInstaller进行交付,PyInstaller将该工具转换成一个Linux的独立的可执行的文件, 你可以在没有Python的情况下通过Jenkins下载并执行该命令行。

Note: 与本文档的其他教程不同, 本教程需要下载大约500MB的Docker镜像数据。

Duration: 本教程需要花费20-40分钟的时间完成 (假设你已满足下文的 配置要求 )。确切的耗时取决于你机器的性能,以及你是否完成过在Docker中运行Jenkins 请参考另一个教程

你可以在任何时间停止该教程,并从你离开的地方继续。

如果你已经运行了 其他教程, 你可以跳过下面的配置要求在Docker中运行 Jenkins 章节继续 fork示例仓库. (确保你已在本地安装了Git 。) 如果你要重启 Jenkins, 只需遵照下面的重启指令停止和重启 Jenkins 然后继续.。

配置要求

对于本教程,您将需要:

  • 安装有macOS,Linux或Windows操作系统的机器,并拥有以下配置:
  • 最小256MB内存, 推荐512MB以上。

  • 10GB硬盘空间, 用于安装Jenkins,您的Docker镜像和容器。

  • 安装有以下软件:
  • Docker - 在安装Jenkins页面的安装Docker章节阅读更多信息。注意: 如果您使用Linux,本教程假定您没有以root用户的身份运行Docker命令,而是使用单个用户帐户访问本教程中使用的其他工具。

  • Git and optionallyGitHub Desktop

在 Docker中运行Jenkins

在本教程中, 将Jenkins作为 Docker 容器并从jenkinsci/blueocean Docker镜像中运行。

要在 Docker中运行Jenkins, 请遵循下面的macOS 和 LinuxWindows相关文档说明进行操作。.

你可以在DockerInstalling Jenkins 页面的Downloading and running Jenkins in Docker部分阅读更多有关Docker容器和镜像概念的信息。

在 macOS 和 Linux 系统上

  • 打开终端窗口

  • 使用下面的 docker run命令运行 jenkinsci/blueocean 镜像作为Docker中的一个容器(记住,如果本地没有镜像,这个命令会自动下载):

  1. docker run \
  2. --rm \
  3. -u root \
  4. -p 8080:8080 \
  5. -v jenkins-data:/var/jenkins_home \ (1)
  6. -v /var/run/docker.sock:/var/run/docker.sock \
  7. -v "$HOME":/home \ (2)
  8. jenkinsci/blueocean

1将容器中的 /var/jenkins_home 目录映射到 Dockervolume ,并将其命名为jenkins-data。如果该卷不存在, 那么 docker run 命令会自动为你创建卷。2将主机上的$HOME 目录 (即你的本地)映射到 (通常是 /Users/<your-username> 目录) 到容器的 /home 目录。

Note: 如果复制或粘贴上面的命令片段不起作用, 尝试复制和粘贴这个没有注释的版本:

  1. docker run \
  2. --rm \
  3. -u root \
  4. -p 8080:8080 \
  5. -v jenkins-data:/var/jenkins_home \
  6. -v /var/run/docker.sock:/var/run/docker.sock \
  7. -v "$HOME":/home \
  8. jenkinsci/blueocean

在 Windows 系统

  • 打开命令提示窗口。

  • 使用下面的 docker run命令运行 jenkinsci/blueocean 镜像作为Docker中的一个容器(记住,如果本地没有镜像,这个命令会自动下载):

  1. docker run ^
  2. --rm ^
  3. -u root ^
  4. -p 8080:8080 ^
  5. -v jenkins-data:/var/jenkins_home ^
  6. -v /var/run/docker.sock:/var/run/docker.sock ^
  7. -v "%HOMEPATH%":/home ^
  8. jenkinsci/blueocean

对这些选项的解释, 请参考上面的 macOS 和 Linux 说明。

访问 Jenkins/Blue Ocean Docker 容器

如果你有一些使用 Docker 的经验,希望或需要使用docker exec命令通过一个终端/命令提示符来访问Jenkins/Blue Ocean Docker 容器, 你可以添加如 —name jenkins-tutorials 选项(与上面的docker run), 这将会给Jenkins/Blue Ocean Docker容器一个名字"jenkins-tutorials"。

这意味着你可以通过 docker exec 命令访问Jenkins/Blue Ocean 容器(通过一个单独的终端/命令提示窗口) ,例如:

docker exec -it jenkins-tutorials bash

安装向导

在你访问 Jenkins之前, 你需要执行一些快速的 "一次性" 步骤。

解锁 Jenkins

当你第一次访问一个新的 Jenkins 实例时, 要求你使用自动生成的密码对其进行解锁。

  • 当在终端/命令提示窗口出现两组星号时,浏览 http://localhost:8080 并等待 Unlock Jenkins 页面出现。

Unlock Jenkins page

  • 再次从终端/命令提示窗口, 复制自动生成的字母数字密码(在两组星号之间)。Copying initial admin password

  • Unlock Jenkins 页面, 粘贴该密码到 Administrator password 字段并点击 Continue

使用插件自定义 Jenkins

解锁 Jenkins后, Customize Jenkins 页面出现。

在该页面,点击 Install suggested plugins

安装向导显示了正在配置的Jenkins的进程,以及建议安装的插件。这个过程肯需要几分钟。

创建第一个管理员用户

最后, Jenkins 要求创建你的第一个管理员用户。

  • Create First Admin User 页面出现, 在相应的字段中指定你的详细消息并点击 Save and Finish

  • Jenkins is ready 页面出现, 点击 Start using JenkinsNotes:

  • 该页面可能表明 Jenkins is almost ready! 如果相反, 点击Restart.

  • 如果该页面在一分钟后没有自动刷新, 使用你的web浏览器手动刷新。

  • 如果需要,登录 Jenkins , 你就可以开始使用 Jenkins了!

停止和重启 Jenkins

在本教程的其余部分, 你可以通过在终端/命令提示窗口输入 Ctrl-C停止 Jenkins/Blue Ocean Docker 容器,你可以从中运行&lt;&lt;run-jenkins-in-docker,上面&gt;&gt;的docker run … 命令。

要重启Jenkins/Blue Ocean Docker 容器:

  • 在上面的 macOS,LinuxWindows上运行相同的 docker run … 命令 。Note: 如果有更新的话,该进程会更新 jenkinsci/blueocean Docker 镜像。

  • 浏览http://localhost:8080

  • 等待直到登录页面出现并登陆。

Fork 和 clone GitHub上的示例仓库

通过应用的源代码的示例仓库 fork 到你自己的GitHub账号中,然后在本地clone这个fork的方式,从GitHub上获取 "add" Python 应用。

  • 确保你拥有 GitHub 账号。 如果没有GitHub账号, 在 GitHub网站注册一个免费的账号。

  • 在 GitHub上Fork simple-python-pyinstaller-app 到你本地的 GitHub 账号。在这个过程中如果你需要帮助, 请参考GitHub网站的 Fork A Repo文档了解更多信息。

  • Clone 你 fork的 simple-python-pyinstaller-app 仓库 (在 GitHub 上)到你本地的机器。要开始这个过程, 请执行以下操作(你的操作系统的用户账号为 <your-username> ):

  • 如果你的机器上安装了 GitHub 桌面应用程序:
  1. -

在 GitHub上, 点击你fork的仓库的 Clone or download 按钮, 然后 Open in Desktop.

  1. -

再 GitHub 桌面, 在点击 Clone a Repository 对话框的击 Clone 之前, 确保 Local Path 是:

  1. -

macOS操作系统 /Users/<your-username>/Documents/GitHub/simple-python-pyinstaller-app

  1. -

Linux操作系统 /home/<your-username>/GitHub/simple-python-pyinstaller-app

  1. -

Windows操作系统 C:\Users\<your-username>\Documents\GitHub\simple-python-pyinstaller-app

  • 另外:
  1. -

打开一个终端/命令行提示符 , cd 到对应的目录:

  1. -

macOS操作系统 - /Users/<your-username>/Documents/GitHub/

  1. -

Linux操作系统 - /home/<your-username>/GitHub/

  1. -

Windows操作系统 - C:\Users\<your-username>\Documents\GitHub\ (通过使用 Gitbash 命令行窗口,而不是通用的 Microsoft 命令提示符)

  1. -

运行一下命令来继续/完成 clone 你 fork 到的仓库 git clone https://github.com/YOUR-GITHUB-ACCOUNT-NAME/simple-python-pyinstaller-app你的GitHub账号的名称是 YOUR-GITHUB-ACCOUNT-NAME

使用Jenkins构建你的流水线项目

  • 回到 Jenkins, 如果需要的话再次登录并点击 Welcome to Jenkins! 下的 create new jobs+Note: 如果你没有看到上述按钮, 点击左上的 New Item

  • Enter an item name 域中, 指定你新的 Pipeline项目的名称 (比如 simple-python-pyinstaller-app)。

  • 向下滚动并点击 Pipeline, 点击页面底部的 OK

  • ( Optional ) 在下一页的 Description 域中填写你的 Pipeline 的描述 (比如 An entry-level Pipeline demonstrating how touse Jenkins to build a simple Python application with PyInstaller.)

  • 点击页面顶部的 Pipeline 选项卡 向下滚动到Pipeline 部分。

  • Definition 域中, 选择 Pipeline script from SCM 选项。该选项命令 Jenkins 从源控制管理(SCM)获取你的流水线, 这会是你clone到本地的 Git 仓库。

  • 从 the SCM 域中, 选择 Git

  • Repository URL 域中, 填写你本地clone的仓库 above的目录路径,从你的主机的用户账户/主目录, 映射到Jenkins容器的 /home 目录 - 即

  • macOS - /home/Documents/GitHub/simple-python-pyinstaller-app

  • Linux - /home/GitHub/simple-python-pyinstaller-app

  • Windows - /home/Documents/GitHub/simple-python-pyinstaller-app

  • 点击 Save 保存你的新的流水线项目。你现在准备生成你的 Jenkinsfile,检查你clone到本地的Git 仓库。

将初始流水线创建为 Jenkinsfile

你现在准备构建你的流水,它将在Jenkins中使用PyInstaller自动构建你的 Python应用。你的流水线将会被创建作为Jenkinsfile, 它将会被提交到你clone到本地的 Git 仓库(simple-python-pyinstaller-app)。

这是 "流水线即代码"的基础, 他将连续支付流水线作为应用程序的一部,像其他代码一样进行版本化和审查。 了解更多在用户手册的PipelineUsinga Jenkinsfile 章节。

首先, 创建一个带有 "Build" 阶段的初始流水线, 该阶段为你的应用执行整个生产过程的第一部分。 "Build" 部分下载一个 Python Docker 镜像并将它作为 Docker 容器运行, 它将你的简单的 Python 应用编译成字节码。

  • 使用你最称手的文本编辑器或 IDE, 在你的本地 simple-python-pyinstaller-appGit仓库的根目录下生成并保存一个新的名为 Jenkinsfile的文本文件。

  • 复制并粘贴下面的声明式流水线代码到你空的Jenkinsfile文件中:

  1. pipeline {
  2. agent none (1)
  3. stages {
  4. stage('Build') { (2)
  5. agent {
  6. docker {
  7. image 'python:2-alpine' (3)
  8. }
  9. }
  10. steps {
  11. sh 'python -m py_compile sources/add2vals.py sources/calc.py' (4)
  12. }
  13. }
  14. }
  15. }

1流水线代码块顶部的 agent 部分指定的的 none参数意味着不会为整个流水线的执行分配全局代理 ,并且每个stage 指令必须制定自己的agent 部分。2定义名为Buildstage (指令) ,它出现在 Jenkins UI中。3image 参数 (参考 agent部分的 docker 参数) 下载python:2-alpine Docker image (如果他在你的主机上不可用) 并将它作为一个独立的容器运行。这意味着:

  • 你将拥有独立的运行在Docker的Jenkins 和 Python 容器。

  • Python 容器成为 Jenkins 用来运行你流水线项目的 Build 阶段的 agent 。 然而, 这个容器寿命较短 - 他的生命周期只是 你的 Build 阶段的执行的时间.<4>sh步骤 (参考 steps 章节) 运行Python 命令将你的应用和它的 calc 库 转换成字节码文件 (每个都有 .pyc 扩展), 被放在sources工作区目录 (在Jenkins容器的/var/jenkins_home/workspace/simple-python-pyinstaller-app 目录下)。

  • 保存并提交你编辑的 Jenkinsfile 到本地simple-python-pyinstaller-app Git 仓库。 比如在simple-python-pyinstaller-app 仓库, 运行命令:git add .然后git commit -m "Add initial Jenkinsfile"

  • 再次回到 Jenkins , 如果需要的话再次登录并点击左边的 Open BlueOcean 来访问 Jenkins的 Blue Ocean 界面。

  • This job has not been run 消息框, 点击 Run, 然后快速的点击出现在右下方的 OPEN 链接观察Jenkins运行你的流水线项目. 如果你不能点击 OPEN 链接, 点击 Blue Ocean 主界面的行来使用这一特性。Note: 完成第一次的运行你需要等几分钟。 在对你本地的 simple-python-pyinstaller-app Git 仓库进行clone后, Jenkins:

  • 最初将这个项目在代理上排队运行。

  • 下载 Python Docker 镜像并在 Docker上的容器中运行它.

Downloading Python Docker image

  • 在 Python容器运行 Build 阶段 (定义在 Jenkinsfile文件中)。 在这期间, Python使用py_compile 组件将你的Python应用的代码和它的 calc 库编译成字节码,它被保存在 sources 工作区目录(在 Jenkins的主目录里)。

如果Jenkins编译Python应用成功,Blue Ocean界面会变成绿色 。

Initial Pipeline runs successfully

  • 点击右上方的 X 回到 Blue Ocean 主界面。

Main Blue Ocean interface

为你的流水线添加测试阶段

  • 回到你的文本编辑器/IDE ,打开Jenkinsfile 文件。

  • 复制并粘贴下面的声明式流水线语法到JenkinsfileBuild阶段下面:

  1. stage('Test') {
  2. agent {
  3. docker {
  4. image 'qnib/pytest'
  5. }
  6. }
  7. steps {
  8. sh 'py.test --verbose --junit-xml test-reports/results.xml sources/test_calc.py'
  9. }
  10. post {
  11. always {
  12. junit 'test-reports/results.xml'
  13. }
  14. }
  15. }

结果是:

  1. pipeline {
  2. agent none
  3. stages {
  4. stage('Build') {
  5. agent {
  6. docker {
  7. image 'python:2-alpine'
  8. }
  9. }
  10. steps {
  11. sh 'python -m py_compile sources/add2vals.py sources/calc.py'
  12. }
  13. }
  14. stage('Test') { (1)
  15. agent {
  16. docker {
  17. image 'qnib/pytest' (2)
  18. }
  19. }
  20. steps {
  21. sh 'py.test --verbose --junit-xml test-reports/results.xml sources/test_calc.py' (3)
  22. }
  23. post {
  24. always {
  25. junit 'test-reports/results.xml' (4)
  26. }
  27. }
  28. }
  29. }
  30. }

1定义名为Teststage (指令) ,它出现在Jenkins UI中。2This image 参数 (参考 agent部分的 docker 参数) 下载qnib:pytest Docker image (如果它在你的机器上不可用)并将它作为一个独立的容器运行。这意味着:

  • 你将拥有独立的运行在Docker的Jenkins 和 Pytest 容器。

  • pytest 容器成为Jenkins 用来运行你流水线项目的 Test 阶段的 agent。这个容器的生命周期可以持续你的 Test 阶段的执行过程。

3这里的sh步骤 (参考 steps 章节) 在 sources/test_calc.py执行 pytest的py.test 命令 , 它在"calc" 库的 add2 函数 (被简单的 Python 应用的 add2vals使用)运行了一系列的单元测试 (定义在test_calc.py) 。The:

  • —verbose 选项使 py.test 在Jenkinds/Blue Ocean界面生成详细输出。

  • —junit-xml test-reports/results.xml 选项使 py.test 生成 JUnitXML 报告,它被保存到 test-reports/results.xml (在Jenkins容器的/var/jenkins_home/workspace/simple-python-pyinstaller-app 目录下)。

4这里的junit步骤 (由 JUnit Plugin提供) 归档了JUnit XML 报告 (由 py.test 命令生成) 并通过Jenkins界面公开结果。在 Blue Ocean, 可以通过流水线运行的 Tests 页面访问该结果。post 部分的 always 条件包含 junit 阶段, 确保不论阶段的输出是什么,步骤 alwaysTest阶段的at thecompletion 被执行。

  • 保存并提交你编辑的 Jenkinsfile 到本地的simple-python-pyinstaller-app Git 仓库。比如在simple-python-pyinstaller-app 目录下, 运行这些命令:git stage .然后git commit -m "Add 'Test' stage"

  • 再次回到 Jenkins , 如果必要再次登录并进入Jenkins的Blue Ocean 界面。

  • 点击左上方的 Run , 然后快速的点击出现在右下方的 OPEN 链接来查看 Jenkins 运行你改进后的流水线项目。如果你不能点击 OPEN 链接, 点击Blue Ocean主界面的 top 行来访问这一特性。Note: 可能需要几分钟来下载 qnib:pytest Docker 镜像 (如果之前没做过)。 如果你改进后的流水线项目运行成功, Blue Ocean 界面将会是这样的. 另外注意 "Test" 阶段。 你可以点击之前的 "Build" 阶段循环的访问该阶段的输出。

Test stage runs successfully (with output)

  • 点击右上方的 X 返回到 Blue Ocean 主界面。

给你的流水线添加最终交付阶段

  • 回到你的文本编辑器/IDE 并打开 Jenkinsfile 文件。

  • 复制并粘贴下面的声明式流水线语法到 JenkinsfileTest 阶段下方:

  1. stage('Deliver') {
  2. agent {
  3. docker {
  4. image 'cdrx/pyinstaller-linux:python2'
  5. }
  6. }
  7. steps {
  8. sh 'pyinstaller --onefile sources/add2vals.py'
  9. }
  10. post {
  11. success {
  12. archiveArtifacts 'dist/add2vals'
  13. }
  14. }
  15. }

结果是:

  1. pipeline {
  2. agent none
  3. stages {
  4. stage('Build') {
  5. agent {
  6. docker {
  7. image 'python:2-alpine'
  8. }
  9. }
  10. steps {
  11. sh 'python -m py_compile sources/add2vals.py sources/calc.py'
  12. }
  13. }
  14. stage('Test') {
  15. agent {
  16. docker {
  17. image 'qnib/pytest'
  18. }
  19. }
  20. steps {
  21. sh 'py.test --verbose --junit-xml test-reports/results.xml sources/test_calc.py'
  22. }
  23. post {
  24. always {
  25. junit 'test-reports/results.xml'
  26. }
  27. }
  28. }
  29. stage('Deliver') { (1)
  30. agent {
  31. docker {
  32. image 'cdrx/pyinstaller-linux:python2' (2)
  33. }
  34. }
  35. steps {
  36. sh 'pyinstaller --onefile sources/add2vals.py' (3)
  37. }
  38. post {
  39. success {
  40. archiveArtifacts 'dist/add2vals' (4)
  41. }
  42. }
  43. }
  44. }
  45. }

1定义名为Deliverstage (指令)它出现在Jenkins UI中。2这里的image 参数 (参考 agent章节的 docker 参数) 下载cdrx/pyinstaller-linux Dockerimage (如果它在你的机器上不可用) 并且将它作为一个独立的容器运行。这意味着:

  • 你有一个独立的在Docker中运行的 Jenkins 和 PyInstaller (for Linux) 容器。

  • PyInstaller 容器成为Jenkins用来运行流水线项目的 Deliver 阶段的 agent。该容器的周期持续 Deliver 阶段的执行过程。<3>sh步骤 (参考 steps 部分) 在你的简单的Python应用中执行pyinstaller 命令 (在 PyInstaller 容器中)。将你的 add2vals.py Python 应用程序打包成一个独立的可执行的文件 (via the —onefile option) 并且输出该文件到dist 工作区目录 (在 Jenkins 主目录。虽然这一步骤有一个单一的命令组成, 在通用原则下, 你最好保持你的流水线代码 (也就是 Jenkinsfile) 尽可能的整洁并将更复杂的构建步骤 (特别是包含两个及以上步骤的阶段) 放在单独的像 deliver.sh 文件一样的shell脚本文件中。这最终会让你的流水线代码的维护变得简单,尤其是在你的流水线更复杂的情况下。<4>archiveArtifacts步骤 (作为 Jenkins 核心的一部分被提供) 对独立可执行文件进行归档(由Jenkins 主工作目录下的dist/add2valspyinstaller 命令生成) 并通过aJenkins界面公开该文件。 在Blue Ocean, 像这样的存档组件可以通过流水线运行 Artifacts 页面进行访问。post 部分的success 条件c包含 archiveArtifacts 步骤, 确保步骤被执行 at thecompletion of the Deliver stage only if this stage completed successfully.

  • 保存并提交你编辑的 Jenkinsfile 到本地的simple-python-pyinstaller-app Git 仓库。 比如在simple-python-pyinstaller-app 仓库里, 运行这些命令:git stage .然后git commit -m "Add 'Deliver' stage"

  • 再次回到 Jenkins, 如果必要的话再次登录并进入Jenkins的 Blue Ocean 界面。

  • 点击左上方的 Run, 然后快速的点击出现在右下方的 OPEN 链接来查看 Jenkins 运行你改进后的流水线项目。 如果你点击不了 OPEN 链接, 点击Blue Ocean 界面 top 行 来使用这一特性。Note: 可能需要几分钟来下载 cdrx/pyinstaller-linux Docker 镜像 (如果之前没有下载过)。+如果你改进后的流水线项目运行成功, Blue Ocean界面应该是这样的。 另外注意 "Deliver" 阶段。 点击之前的 "Test" 和 "Build" 阶段循环的去访问这些阶段的输出。

Deliver stage runs successfully

"Deliver" 阶段的输出结果应该如下所示, 向你展示了PyInstaller 将 Python 应用打包成一个简单的独立可执行文件的结果。

Deliver stage output only

  • 点击右上方的 X 返回到Blue Ocean 的主界面,他按照时间顺序的反序的方式列出了你的流水线运行的历史记录。

Main Blue Ocean interface with all previous runs displayed

跟踪 (可选)

如果你是用的是 Linux系统, 你可以尝试着运行在你本地机器上生成的带有PyInstaller的 add2vals 应用 。 要做到这一点:

  • 从 Blue Ocean 的主界面, 访问你above的最后一次的运行的流水线 。 要做到这一点,点击Blue Ocean的 Activity页面上的顶部行(表示最近一次的流水线运行) 。

Main Blue Ocean interface with all previous runs displayed

  • 在流水线运行的结果页面, 点击右上方的 Artifacts访问 Artifacts 页面。

Deliver stage runs successfully

  • 在工件列表中, 点击dist/add2vals 工件项最右边的向下箭头图标下载独立可执行文件到浏览器的 "下载" 目录中。

Deliver stage Artifacts page

  • 回到操作系统的终端, cd 到浏览器的"Downloads" 目录。

  • 使 add2vals 文件可执行 - 也就是 chmod a+x add2vals

  • 运行命令 ./add2vals 并且追踪你的应用发出的指示。

总结

做得好!您刚刚使用Jenkins构建了一个简单的Python应用程序!

您在上面创建的 "Build", "Test" 和 "Deliver" 阶段是在Jenkins中构建更复杂的 Python应用程序以及与其他技术栈集成的Python应用程序的基础。

由于Jenkins具有极高的可扩展性,因此可以对其进行修改和配置,以处理构建协调和自动化的几乎任何方面。

要详细了解Jenkins可以做什么,请查看: