节点健康监测

节点问题检测器(Node Problem Detector) 是一个守护程序,用于监视和报告节点的健康状况。 你可以将节点问题探测器以 DaemonSet 或独立守护程序运行。 节点问题检测器从各种守护进程收集节点问题,并以节点 ConditionEvent 的形式报告给 API 服务器。

要了解如何安装和使用节点问题检测器,请参阅 节点问题探测器项目文档

准备开始

你必须拥有一个 Kubernetes 的集群,同时你必须配置 kubectl 命令行工具与你的集群通信。 建议在至少有两个不作为控制平面主机的节点的集群上运行本教程。 如果你还没有集群,你可以通过 Minikube 构建一个你自己的集群,或者你可以使用下面的 Kubernetes 练习环境之一:

局限性

启用节点问题检测器

一些云供应商将节点问题检测器以插件形式启用。 你还可以使用 kubectl 或创建插件 DaemonSet 来启用节点问题探测器。

使用 kubectl 启用节点问题检测器

kubectl 提供了节点问题探测器最灵活的管理。 你可以覆盖默认配置使其适合你的环境或检测自定义节点问题。例如:

  1. 创建类似于 node-strought-detector.yaml 的节点问题检测器配置:

    debug/node-problem-detector.yaml 节点健康监测 - 图1

    1. apiVersion: apps/v1
    2. kind: DaemonSet
    3. metadata:
    4. name: node-problem-detector-v0.1
    5. namespace: kube-system
    6. labels:
    7. k8s-app: node-problem-detector
    8. version: v0.1
    9. kubernetes.io/cluster-service: "true"
    10. spec:
    11. selector:
    12. matchLabels:
    13. k8s-app: node-problem-detector
    14. version: v0.1
    15. kubernetes.io/cluster-service: "true"
    16. template:
    17. metadata:
    18. labels:
    19. k8s-app: node-problem-detector
    20. version: v0.1
    21. kubernetes.io/cluster-service: "true"
    22. spec:
    23. hostNetwork: true
    24. containers:
    25. - name: node-problem-detector
    26. image: registry.k8s.io/node-problem-detector:v0.1
    27. securityContext:
    28. privileged: true
    29. resources:
    30. limits:
    31. cpu: "200m"
    32. memory: "100Mi"
    33. requests:
    34. cpu: "20m"
    35. memory: "20Mi"
    36. volumeMounts:
    37. - name: log
    38. mountPath: /log
    39. readOnly: true
    40. volumes:
    41. - name: log
    42. hostPath:
    43. path: /var/log/

    说明: 你应该检查系统日志目录是否适用于操作系统发行版本。

  2. 使用 kubectl 启动节点问题检测器:

    1. kubectl apply -f https://k8s.io/examples/debug/node-problem-detector.yaml

使用插件 Pod 启用节点问题检测器

如果你使用的是自定义集群引导解决方案,不需要覆盖默认配置, 可以利用插件 Pod 进一步自动化部署。

创建 node-strick-detector.yaml,并在控制平面节点上保存配置到插件 Pod 的目录 /etc/kubernetes/addons/node-problem-detector

覆盖配置文件

构建节点问题检测器的 docker 镜像时,会嵌入 默认配置

不过,你可以像下面这样使用 ConfigMap 将其覆盖:

  1. 更改 config/ 中的配置文件

  2. 创建 ConfigMap node-strick-detector-config

    1. kubectl create configmap node-problem-detector-config --from-file=config/
  3. 更改 node-problem-detector.yaml 以使用 ConfigMap:

    debug/node-problem-detector-configmap.yaml 节点健康监测 - 图2

    1. apiVersion: apps/v1
    2. kind: DaemonSet
    3. metadata:
    4. name: node-problem-detector-v0.1
    5. namespace: kube-system
    6. labels:
    7. k8s-app: node-problem-detector
    8. version: v0.1
    9. kubernetes.io/cluster-service: "true"
    10. spec:
    11. selector:
    12. matchLabels:
    13. k8s-app: node-problem-detector
    14. version: v0.1
    15. kubernetes.io/cluster-service: "true"
    16. template:
    17. metadata:
    18. labels:
    19. k8s-app: node-problem-detector
    20. version: v0.1
    21. kubernetes.io/cluster-service: "true"
    22. spec:
    23. hostNetwork: true
    24. containers:
    25. - name: node-problem-detector
    26. image: registry.k8s.io/node-problem-detector:v0.1
    27. securityContext:
    28. privileged: true
    29. resources:
    30. limits:
    31. cpu: "200m"
    32. memory: "100Mi"
    33. requests:
    34. cpu: "20m"
    35. memory: "20Mi"
    36. volumeMounts:
    37. - name: log
    38. mountPath: /log
    39. readOnly: true
    40. - name: config # 使用 ConfigMap 卷中的数据覆盖 config/ 目录内容
    41. mountPath: /config
    42. readOnly: true
    43. volumes:
    44. - name: log
    45. hostPath:
    46. path: /var/log/
    47. - name: config # 定义 ConfigMap 卷
    48. configMap:
    49. name: node-problem-detector-config
  4. 使用新的配置文件重新创建节点问题检测器:

    1. # 如果你正在运行节点问题检测器,请先删除,然后再重新创建
    2. kubectl delete -f https://k8s.io/examples/debug/node-problem-detector.yaml
    3. kubectl apply -f https://k8s.io/examples/debug/node-problem-detector-configmap.yaml

说明: 此方法仅适用于通过 kubectl 启动的节点问题检测器。

如果节点问题检测器作为集群插件运行,则不支持覆盖配置。 插件管理器不支持 ConfigMap

问题守护程序

问题守护程序是节点问题检测器的子守护程序。 它监视特定类型的节点问题并报告给节点问题检测器。 支持下面几种类型的问题守护程序。

  • SystemLogMonitor 类型的守护程序根据预定义的规则监视系统日志并报告问题和指标。 你可以针对不同的日志源自定义配置如 filelogkmsgkernelabrtsystemd

  • SystemStatsMonitor 类型的守护程序收集各种与健康相关的系统统计数据作为指标。 你可以通过更新其配置文件来自定义其行为。

  • CustomPluginMonitor 类型的守护程序通过运行用户定义的脚本来调用和检查各种节点问题。 你可以使用不同的自定义插件监视器来监视不同的问题,并通过更新 配置文件 来定制守护程序行为。

  • HealthChecker 类型的守护程序检查节点上的 kubelet 和容器运行时的健康状况。

增加对其他日志格式的支持

系统日志监视器目前支持基于文件的日志、journald 和 kmsg。 可以通过实现一个新的 log watcher 来添加额外的日志源。

添加自定义插件监视器

你可以通过开发自定义插件来扩展节点问题检测器,以执行以任何语言编写的任何监控脚本。 监控脚本必须符合退出码和标准输出的插件协议。 有关更多信息,请参阅 插件接口提案.

导出器

导出器(Exporter)向特定后端报告节点问题和/或指标。 支持下列导出器:

  • Kubernetes exporter:此导出器向 Kubernetes API 服务器报告节点问题。 临时问题报告为事件,永久性问题报告为节点状况。

  • Prometheus exporter:此导出器在本地将节点问题和指标报告为 Prometheus(或 OpenMetrics)指标。 你可以使用命令行参数指定导出器的 IP 地址和端口。

  • Stackdriver exporter:此导出器向 Stackdriver Monitoring API 报告节点问题和指标。 可以使用配置文件自定义导出行为。

建议和限制

建议在集群中运行节点问题检测器以监控节点运行状况。 运行节点问题检测器时,你可以预期每个节点上的额外资源开销。 通常这是可接受的,因为:

  • 内核日志增长相对缓慢。
  • 已经为节点问题检测器设置了资源限制。
  • 即使在高负载下,资源使用也是可接受的。有关更多信息,请参阅节点问题检测器 基准结果