离线安装

离线安装几乎与在线安装相同，不同之处是您必须创建一个本地仓库来托管 Docker 镜像。本教程演示了如何在离线环境安装 KubeSphere 和 Kubernetes。

视频演示

步骤 1：准备 Linux 主机

请查看下表中对硬件和操作系统的要求。要开始进行多节点安装，您需要按照下列要求准备至少三台主机。

系统要求

系统最低要求（每个节点）
Ubuntu 16.04, 18.04CPU: 2 核，内存：4 G，硬盘：100 G
Debian Buster, StretchCPU: 2 核，内存：4 G，硬盘：100 G
CentOS 7.xCPU: 2 核，内存：4 G，硬盘：100 G
Red Hat Enterprise Linux 7CPU: 2 核，内存：4 G，硬盘：100 G
SUSE Linux Enterprise Server 15/openSUSE Leap 15.2CPU: 2 核，内存：4 G，硬盘：100 G

备注

KubeKey 使用 /var/lib/docker 作为默认路径来存储所有 Docker 相关文件（包括镜像）。建议您添加附加存储卷，分别给 /var/lib/docker 和 /mnt/registry 挂载至少 100G。请参见 fdisk 的参考命令。

节点要求

  • 建议您使用干净的操作系统（不安装任何其他软件），否则可能会有冲突。
  • 请确保每个节点的硬盘至少有 100G。
  • 所有节点必须都能通过 SSH 访问。
  • 所有节点时间同步。
  • 所有节点都应使用 sudo/curl/openssl。
  • 请您务必在离线环境中安装 docker。

KubeKey 能够同时安装 Kubernetes 和 KubeSphere。根据要安装的 Kubernetes 版本，需要安装的依赖项可能会不同。您可以参考下方列表，查看是否需要提前在您的节点上安装相关依赖项。

依赖项Kubernetes 版本 ≥ 1.18Kubernetes 版本 < 1.18
socat必须可选但建议
conntrack必须可选但建议
ebtables可选但建议可选但建议
ipset可选但建议可选但建议

备注

  • 在离线环境中，您可以使用私有包、RPM 包（适用于 CentOS）或者 Deb 包（适用于 Debian）来安装这些依赖项。
  • 建议您事先创建一个操作系统镜像文件，并且安装好所有相关依赖项。这样，您便可以直接使用该镜像文件在每台机器上安装操作系统，提高部署效率，也不用担心任何依赖项问题。

网络和 DNS 要求

  • 请确保 /etc/resolv.conf 中的 DNS 地址可用，否则可能会导致集群中的 DNS 出问题。
  • 如果您的网络配置使用防火墙或者安全组，请务必确保基础设施组件能够通过特定端口相互通信。建议您关闭防火墙。有关更多信息，请参考端口要求。

示例机器

本示例包含三台主机，如下所示，主节点充当任务机。

主机 IP主机名称角色
192.168.0.2mastermaster, etcd
192.168.0.3node1worker
192.168.0.4node2worker

步骤 2：准备一个私有镜像仓库

您可以使用 Harbor 或者其他任意私有镜像仓库。本教程以 Docker 仓库作为示例，并使用自签名证书（如果您有自己的私有镜像仓库，可以跳过这一步）。

使用自签名证书

  1. 执行以下命令生成您自己的证书：

    1. mkdir -p certs
    1. openssl req \
    2. -newkey rsa:4096 -nodes -sha256 -keyout certs/domain.key \
    3. -x509 -days 36500 -out certs/domain.crt

  2. 当您生成自己的证书时，请确保在字段 Common Name 中指定一个域名。例如，本示例中该字段被指定为 dockerhub.kubekey.local。

    自签名证书

启动 Docker 仓库

执行以下命令启动 Docker 仓库：

  1. docker run -d \
  2.   --restart=always \
  3.   --name registry \
  4.   -v "$(pwd)"/certs:/certs \
  5.   -v /mnt/registry:/var/lib/registry \
  6.   -e REGISTRY_HTTP_ADDR=0.0.0.0:443 \
  7.   -e REGISTRY_HTTP_TLS_CERTIFICATE=/certs/domain.crt \
  8.   -e REGISTRY_HTTP_TLS_KEY=/certs/domain.key \
  9.   -p 443:443 \
  10.   registry:2

配置仓库

  1. 在 /etc/hosts 中添加一个条目，将主机名（即仓库域名；在本示例中是 dockerhub.kubekey.local）映射到您机器的私有 IP 地址，如下所示。

    1. # docker registry
    2. 192.168.0.2 dockerhub.kubekey.local

  2. 执行以下命令，复制证书到指定目录，并使 Docker 信任该证书。

    1. mkdir -p  /etc/docker/certs.d/dockerhub.kubekey.local
    1. cp certs/domain.crt  /etc/docker/certs.d/dockerhub.kubekey.local/ca.crt

    备注

    证书的路径与域名相关联。当您复制路径时，如果与上面设置的路径不同，请使用实际域名。

  3. 要验证私有仓库是否有效，您可以先复制一个镜像到您的本地机器，然后使用 docker push 和 docker pull 来测试。

步骤 3：下载 KubeKey

与在 Linux 上在线安装 KubeSphere 相似，您也需要事先下载 KubeKey。下载 tar.gz 文件，将它传输到充当任务机的本地机器上进行安装。解压文件后，执行以下命令，使 kk 可执行。

  1. chmod +x kk

步骤 4：准备安装镜像

当您在 Linux 上安装 KubeSphere 和 Kubernetes 时，需要准备一个包含所有必需镜像的镜像包，并事先下载 Kubernetes 二进制文件。

  1. 使用以下命令从能够访问互联网的机器上下载镜像清单文件 images-list.txt：

    1. curl -L -O https://github.com/kubesphere/ks-installer/releases/download/v3.0.0/images-list.txt

    备注

    该文件根据不同的模块列出了 ##+modulename 下的镜像。您可以按照相同的规则把自己的镜像添加到这个文件中。要查看完整文件，请参见附录。

  2. 下载 offline-installation-tool.sh。

    1. curl -L -O https://github.com/kubesphere/ks-installer/releases/download/v3.0.0/offline-installation-tool.sh

  3. 使 .sh 文件可执行。

    1. chmod +x offline-installation-tool.sh

  4. 您可以执行命令 ./offline-installation-tool.sh -h 来查看如何使用脚本：

    1. root@master:/home/ubuntu# ./offline-installation-tool.sh -h
    2. Usage:
    4.   ./offline-installation-tool.sh [-l IMAGES-LIST] [-d IMAGES-DIR] [-r PRIVATE-REGISTRY] [-v KUBERNETES-VERSION ]
    6. Description:
    7.   -b                     : save kubernetes' binaries.
    8.   -d IMAGES-DIR          : the dir of files (tar.gz) which generated by `docker save`. default: ./kubesphere-images
    9.   -l IMAGES-LIST         : text file with list of images.
    10.   -r PRIVATE-REGISTRY    : target private registry:port.
    11.   -s                     : save model will be applied. Pull the images in the IMAGES-LIST and save images as a tar.gz file.
    12.   -v KUBERNETES-VERSION  : download kubernetes' binaries. default: v1.17.9
    13.   -h                     : usage message

  5. 下载 Kubernetes 二进制文件。

    1. ./offline-installation-tool.sh -b -v v1.17.9

    如果您无法访问 Google 的对象存储服务，请运行以下命令添加环境变量以变更来源。

    1. export KKZONE=cn;./offline-installation-tool.sh -b -v v1.17.9

    备注

    • 您可以根据自己的需求变更下载的 Kubernetes 版本。支持的版本：v1.15.12、v1.16.13、v1.17.9（默认） 以及 v1.18.6。

    • 运行脚本后，会自动创建一个文件夹 kubekey。请注意，您稍后创建集群时，该文件和 kk 必须放在同一个目录下。

  6. 在 offline-installation-tool.sh 中拉取镜像。

    1. ./offline-installation-tool.sh -s -l images-list.txt -d ./kubesphere-images

    备注

    您可以根据需要选择拉取的镜像。例如，如果已经有一个 Kubernetes 集群了，您可以在 images-list.text 中删除 ##k8s-images 和在它下面的相关镜像。

步骤 5：推送镜像至私有仓库

将打包的镜像文件传输至您的本地机器，并运行以下命令把它推送至仓库。

  1. ./offline-installation-tool.sh -l images-list.txt -d ./kubesphere-images -r dockerhub.kubekey.local

备注

命令中的域名是 dockerhub.kubekey.local。请确保使用您自己仓库的地址。

步骤 6：创建集群

本教程中，KubeSphere 安装在多个节点上，因此您需要指定一个配置文件以添加主机信息。此外，离线安装时，请务必将 .spec.registry.privateRegistry 设置为您自己的仓库地址。有关更多信息，请参见下面的完整 YAML 文件。

创建示例配置文件

执行以下命令生成示例配置文件用于安装：

  1. ./kk create config [--with-kubernetes version] [--with-kubesphere version] [(-f | --file) path]

例如：

  1. ./kk create config --with-kubesphere -f config-sample.yaml

备注

  • 请确保 Kubernetes 版本和您下载的版本一致。

  • 如果您在这一步的命令中不添加标志 --with-kubesphere，则不会部署 KubeSphere，只能使用配置文件中的 addons 字段安装，或者在您后续使用 ./kk create cluster 命令时再次添加这个标志。

编辑配置文件

编辑生成的配置文件 config-sample.yaml。请参考以下示例：

警告

离线安装时，您必须指定 privateRegistry，在本示例中是 dockerhub.kubekey.local。

  1. apiVersion: kubekey.kubesphere.io/v1alpha1
  2. kind: Cluster
  3. metadata:
  4.   name: sample
  5. spec:
  6.   hosts:
  7.   - {name: master, address: 192.168.0.2, internalAddress: 192.168.0.2, password: Qcloud@123}
  8.   - {name: node1, address: 192.168.0.3, internalAddress: 192.168.0.3, password: Qcloud@123}
  9.   - {name: node2, address: 192.168.0.4, internalAddress: 192.168.0.4, password: Qcloud@123}
  10.   roleGroups:
  11.     etcd:
  12.     - master
  13.     master:
  14.     - master
  15.     worker:
  16.     - master
  17.     - node1
  18.     - node2
  19.   controlPlaneEndpoint:
  20.     domain: lb.kubesphere.local
  21.     address: ""
  22.     port: "6443"
  23.   kubernetes:
  24.     version: v1.17.9
  25.     imageRepo: kubesphere
  26.     clusterName: cluster.local
  27.   network:
  28.     plugin: calico
  29.     kubePodsCIDR: 10.233.64.0/18
  30.     kubeServiceCIDR: 10.233.0.0/18
  31.   registry:
  32.     registryMirrors: []
  33.     insecureRegistries: []
  34.     privateRegistry: dockerhub.kubekey.local  # Add the private image registry address here. 
  35.   addons: []
  37. ---
  38. apiVersion: installer.kubesphere.io/v1alpha1
  39. kind: ClusterConfiguration
  40. metadata:
  41.   name: ks-installer
  42.   namespace: kubesphere-system
  43.   labels:
  44.     version: v3.0.0
  45. spec:
  46.   local_registry: ""
  47.   persistence:
  48.     storageClass: ""
  49.   authentication:
  50.     jwtSecret: ""
  51.   etcd:
  52.     monitoring: true
  53.     endpointIps: localhost
  54.     port: 2379
  55.     tlsEnable: true
  56.   common:
  57.     es:
  58.       elasticsearchDataVolumeSize: 20Gi
  59.       elasticsearchMasterVolumeSize: 4Gi
  60.       elkPrefix: logstash
  61.       logMaxAge: 7
  62.     mysqlVolumeSize: 20Gi
  63.     minioVolumeSize: 20Gi
  64.     etcdVolumeSize: 20Gi
  65.     openldapVolumeSize: 2Gi
  66.     redisVolumSize: 2Gi
  67.   console:
  68.     enableMultiLogin: false  # enable/disable multi login
  69.     port: 30880
  70.   alerting:
  71.     enabled: false
  72.   auditing:
  73.     enabled: false
  74.   devops:
  75.     enabled: false
  76.     jenkinsMemoryLim: 2Gi
  77.     jenkinsMemoryReq: 1500Mi
  78.     jenkinsVolumeSize: 8Gi
  79.     jenkinsJavaOpts_Xms: 512m
  80.     jenkinsJavaOpts_Xmx: 512m
  81.     jenkinsJavaOpts_MaxRAM: 2g
  82.   events:
  83.     enabled: false
  84.     ruler:
  85.       enabled: true
  86.       replicas: 2
  87.   logging:
  88.     enabled: false
  89.     logsidecarReplicas: 2
  90.   metrics_server:
  91.     enabled: true
  92.   monitoring:
  93.     prometheusMemoryRequest: 400Mi
  94.     prometheusVolumeSize: 20Gi
  95.   multicluster:
  96.     clusterRole: none  # host | member | none
  97.   networkpolicy:
  98.     enabled: false
  99.   notification:
  100.     enabled: false
  101.   openpitrix:
  102.     enabled: false
  103.   servicemesh:
  104.     enabled: false

信息

有关这些参数的更多信息，请参见多节点安装和 Kubernetes 集群配置。要在 config-sample.yaml 中启用可插拔组件，请参考启用可插拔组件中的更多详情。

步骤 7：开始安装

确定完成上面所有步骤后，您可以执行以下命令。

  1. ./kk create cluster -f config-sample.yaml

警告

将可执行文件 kk 和包含 Kubernetes 二进制文件的文件夹 kubekey 传输至任务机机器用于安装后，必须将它们放在相同目录中，然后再执行上面的命令。

步骤 8：验证安装

安装完成后，您会看到以下内容：

  1. #####################################################
  2. ###              Welcome to KubeSphere!           ###
  3. #####################################################
  5. Console: http://192.168.0.2:30880
  6. Account: admin
  7. Password: P@88w0rd
  9. NOTES：
  10.   1. After logging into the console, please check the
  11.      monitoring status of service components in
  12.      the "Cluster Management". If any service is not
  13.      ready, please wait patiently until all components
  14.      are ready.
  15.   2. Please modify the default password after login.
  17. #####################################################
  18. https://kubesphere.io             20xx-xx-xx xx:xx:xx
  19. #####################################################

现在，您可以通过 http://{IP}:30880 使用默认帐户和密码 admin/P@88w0rd 访问 KubeSphere 的 Web 控制台。

备注

要访问控制台，请确保在您的安全组中打开端口 30880。

登录 kubesphere

附录

KubeSphere v3.0.0 镜像清单

  1. ##k8s-images
  2. kubesphere/kube-apiserver:v1.17.9          
  3. kubesphere/kube-scheduler:v1.17.9          
  4. kubesphere/kube-proxy:v1.17.9              
  5. kubesphere/kube-controller-manager:v1.17.9 
  6. kubesphere/kube-apiserver:v1.18.6          
  7. kubesphere/kube-scheduler:v1.18.6          
  8. kubesphere/kube-proxy:v1.18.6              
  9. kubesphere/kube-controller-manager:v1.18.6 
  10. kubesphere/kube-apiserver:v1.16.13         
  11. kubesphere/kube-scheduler:v1.16.13         
  12. kubesphere/kube-proxy:v1.16.13             
  13. kubesphere/kube-controller-manager:v1.16.13
  14. kubesphere/kube-apiserver:v1.15.12         
  15. kubesphere/kube-scheduler:v1.15.12         
  16. kubesphere/kube-proxy:v1.15.12             
  17. kubesphere/kube-controller-manager:v1.15.12
  18. kubesphere/pause:3.1                       
  19. kubesphere/pause:3.2                       
  20. kubesphere/etcd:v3.3.12                    
  21. calico/kube-controllers:v3.15.1            
  22. calico/node:v3.15.1                        
  23. calico/cni:v3.15.1                         
  24. calico/pod2daemon-flexvol:v3.15.1          
  25. coredns/coredns:1.6.9                      
  26. kubesphere/k8s-dns-node-cache:1.15.12      
  27. kubesphere/node-disk-manager:0.5.0         
  28. kubesphere/node-disk-operator:0.5.0        
  29. kubesphere/provisioner-localpv:1.10.0      
  30. kubesphere/linux-utils:1.10.0
  31. kubesphere/nfs-client-provisioner:v3.1.0-k8s1.11
  33. ##ks-core-images
  34. kubesphere/ks-apiserver:v3.0.0                  
  35. kubesphere/ks-console:v3.0.0                    
  36. kubesphere/ks-controller-manager:v3.0.0         
  37. kubesphere/ks-installer:v3.0.0                  
  38. kubesphere/etcd:v3.2.18                         
  39. kubesphere/kubectl:v1.0.0
  40. kubesphere/ks-upgrade:v3.0.0
  41. kubesphere/ks-devops:flyway-v3.0.0                       
  42. redis:5.0.5-alpine                              
  43. alpine:3.10.4                                   
  44. haproxy:2.0.4                                   
  45. mysql:8.0.11                                    
  46. nginx:1.14-alpine                               
  47. minio/minio:RELEASE.2019-08-07T01-59-21Z        
  48. minio/mc:RELEASE.2019-08-07T23-14-43Z           
  49. mirrorgooglecontainers/defaultbackend-amd64:1.4 
  50. kubesphere/nginx-ingress-controller:0.24.1      
  51. osixia/openldap:1.3.0                           
  52. csiplugin/snapshot-controller:v2.0.1            
  53. kubesphere/kubefed:v0.3.0                       
  54. kubesphere/tower:v0.1.0                         
  55. kubesphere/prometheus-config-reloader:v0.38.3   
  56. kubesphere/prometheus-operator:v0.38.3          
  57. prom/alertmanager:v0.21.0                       
  58. prom/prometheus:v2.20.1                         
  59. kubesphere/node-exporter:ks-v0.18.1             
  60. jimmidyson/configmap-reload:v0.3.0              
  61. kubesphere/notification-manager-operator:v0.1.0 
  62. kubesphere/notification-manager:v0.1.0          
  63. kubesphere/metrics-server:v0.3.7                
  64. kubesphere/kube-rbac-proxy:v0.4.1               
  65. kubesphere/kube-state-metrics:v1.9.6
  67. ##ks-logging-images                 
  68. kubesphere/elasticsearch-oss:6.7.0-1      
  69. kubesphere/elasticsearch-curator:v5.7.6 
  70. kubesphere/fluentbit-operator:v0.2.0       
  71. kubesphere/fluentbit-operator:migrator     
  72. kubesphere/fluent-bit:v1.4.6             
  73. elastic/filebeat:6.7.0  
  74. kubesphere/kube-auditing-operator:v0.1.0   
  75. kubesphere/kube-auditing-webhook:v0.1.0    
  76. kubesphere/kube-events-exporter:v0.1.0     
  77. kubesphere/kube-events-operator:v0.1.0     
  78. kubesphere/kube-events-ruler:v0.1.0        
  79. kubesphere/log-sidecar-injector:1.1
  80. docker:19.03
  82. ##istio-images
  83. istio/citadel:1.4.8                         
  84. istio/galley:1.4.8                          
  85. istio/kubectl:1.4.8                         
  86. istio/mixer:1.4.8                           
  87. istio/pilot:1.4.8                           
  88. istio/proxyv2:1.4.8                         
  89. istio/sidecar_injector:1.4.8                
  90. jaegertracing/jaeger-agent:1.17             
  91. jaegertracing/jaeger-collector:1.17         
  92. jaegertracing/jaeger-operator:1.17.1        
  93. jaegertracing/jaeger-query:1.17
  94. jaegertracing/jaeger-es-index-cleaner:1.17.1
  96. ##ks-devops-images
  97. jenkins/jenkins:2.176.2                     
  98. jenkins/jnlp-slave:3.27-1                   
  99. kubesphere/jenkins-uc:v3.0.0                
  100. kubesphere/s2ioperator:v2.1.1               
  101. kubesphere/s2irun:v2.1.1                    
  102. kubesphere/builder-base:v2.1.0              
  103. kubesphere/builder-nodejs:v2.1.0            
  104. kubesphere/builder-maven:v2.1.0             
  105. kubesphere/builder-go:v2.1.0                
  106. kubesphere/s2i-binary:v2.1.0                
  107. kubesphere/tomcat85-java11-centos7:v2.1.0   
  108. kubesphere/tomcat85-java11-runtime:v2.1.0   
  109. kubesphere/tomcat85-java8-centos7:v2.1.0    
  110. kubesphere/tomcat85-java8-runtime:v2.1.0    
  111. kubesphere/java-11-centos7:v2.1.0           
  112. kubesphere/java-8-centos7:v2.1.0            
  113. kubesphere/java-8-runtime:v2.1.0            
  114. kubesphere/java-11-runtime:v2.1.0           
  115. kubesphere/nodejs-8-centos7:v2.1.0          
  116. kubesphere/nodejs-6-centos7:v2.1.0          
  117. kubesphere/nodejs-4-centos7:v2.1.0          
  118. kubesphere/python-36-centos7:v2.1.0         
  119. kubesphere/python-35-centos7:v2.1.0         
  120. kubesphere/python-34-centos7:v2.1.0         
  121. kubesphere/python-27-centos7:v2.1.0
  122. kubesphere/notification:flyway_v2.1.2       
  123. kubesphere/notification:v2.1.2              
  124. kubesphere/alert-adapter:v3.0.0             
  125. kubesphere/alerting-dbinit:v3.0.0           
  126. kubesphere/alerting:v2.1.2
  128. ##openpitrix-images
  129. openpitrix/generate-kubeconfig:v0.5.0       
  130. openpitrix/openpitrix:flyway-v0.5.0         
  131. openpitrix/openpitrix:v0.5.0                
  132. openpitrix/release-app:v0.5.0
  134. ##example-images
  135. kubesphere/examples-bookinfo-productpage-v1:1.13.0
  136. kubesphere/examples-bookinfo-reviews-v1:1.13.0
  137. kubesphere/examples-bookinfo-reviews-v2:1.13.0
  138. kubesphere/examples-bookinfo-reviews-v3:1.13.0
  139. kubesphere/examples-bookinfo-details-v1:1.13.0
  140. kubesphere/examples-bookinfo-ratings-v1:1.13.0
  141. busybox:1.31.1
  142. joosthofman/wget:1.0
  143. kubesphere/netshoot:v1.0
  144. nginxdemos/hello:plain-text
  145. wordpress:4.8-apache
  146. mirrorgooglecontainers/hpa-example:latest
  147. java:openjdk-8-jre-alpine
  148. fluent/fluentd:v1.4.2-2.0
  149. perl:latest
  151. ##csi-images
  152. csiplugin/csi-neonsan:v1.2.0 
  153. csiplugin/csi-neonsan-ubuntu:v1.2.0
  154. csiplugin/csi-neonsan-centos:v1.2.0
  155. csiplugin/csi-provisioner:v1.5.0
  156. csiplugin/csi-attacher:v2.1.1
  157. csiplugin/csi-resizer:v0.4.0
  158. csiplugin/csi-snapshotter:v2.0.1
  159. csiplugin/csi-node-driver-registrar:v1.2.0
  160. csiplugin/csi-qingcloud:v1.2.0