使用 ElasticSearch 和 Kibana 进行日志管理

在 Google Compute Engine (GCE) 平台上,默认的日志管理支持目标是 Stackdriver Logging, 在使用 Stackdriver Logging 管理日志 中详细描述了这一点。

本文介绍了如何设置一个集群,将日志导入 Elasticsearch,并使用 Kibana 查看日志,作为在 GCE 上 运行应用时使用 Stackdriver Logging 管理日志的替代方案。

说明: 你不能在 Google Kubernetes Engine 平台运行的 Kubernetes 集群上自动部署 Elasticsearch 和 Kibana。你必须手动部署它们。

要使用 Elasticsearch 和 Kibana 处理集群日志,你应该在使用 kube-up.sh 脚本创建集群时设置下面所示的环境变量:

  1. KUBE_LOGGING_DESTINATION=elasticsearch

你还应该确保设置了 KUBE_ENABLE_NODE_LOGGING=true (这是 GCE 平台的默认设置)。

现在,当你创建集群时,将有一条消息将指示每个节点上运行的 fluentd 日志收集守护进程 以 ElasticSearch 为日志输出目标:

  1. cluster/kube-up.sh
  1. ...
  2. Project: kubernetes-satnam
  3. Zone: us-central1-b
  4. ... calling kube-up
  5. Project: kubernetes-satnam
  6. Zone: us-central1-b
  7. +++ Staging server tars to Google Storage: gs://kubernetes-staging-e6d0e81793/devel
  8. +++ kubernetes-server-linux-amd64.tar.gz uploaded (sha1 = 6987c098277871b6d69623141276924ab687f89d)
  9. +++ kubernetes-salt.tar.gz uploaded (sha1 = bdfc83ed6b60fa9e3bff9004b542cfc643464cd0)
  10. Looking for already existing resources
  11. Starting master and configuring firewalls
  12. Created [https://www.googleapis.com/compute/v1/projects/kubernetes-satnam/zones/us-central1-b/disks/kubernetes-master-pd].
  13. NAME ZONE SIZE_GB TYPE STATUS
  14. kubernetes-master-pd us-central1-b 20 pd-ssd READY
  15. Created [https://www.googleapis.com/compute/v1/projects/kubernetes-satnam/regions/us-central1/addresses/kubernetes-master-ip].
  16. +++ Logging using Fluentd to elasticsearch

每个节点的 Fluentd Pod、Elasticsearch Pod 和 Kibana Pod 都应该在集群启动后不久运行在 kube-system 命名空间中。

  1. kubectl get pods --namespace=kube-system
  1. NAME READY STATUS RESTARTS AGE
  2. elasticsearch-logging-v1-78nog 1/1 Running 0 2h
  3. elasticsearch-logging-v1-nj2nb 1/1 Running 0 2h
  4. fluentd-elasticsearch-kubernetes-node-5oq0 1/1 Running 0 2h
  5. fluentd-elasticsearch-kubernetes-node-6896 1/1 Running 0 2h
  6. fluentd-elasticsearch-kubernetes-node-l1ds 1/1 Running 0 2h
  7. fluentd-elasticsearch-kubernetes-node-lz9j 1/1 Running 0 2h
  8. kibana-logging-v1-bhpo8 1/1 Running 0 2h
  9. kube-dns-v3-7r1l9 3/3 Running 0 2h
  10. monitoring-heapster-v4-yl332 1/1 Running 1 2h
  11. monitoring-influx-grafana-v1-o79xf 2/2 Running 0 2h

fluentd-elasticsearch Pod 从每个节点收集日志并将其发送到 elasticsearch-logging Pod, 该 Pod 是名为 elasticsearch-logging服务的一部分。 这些 ElasticSearch pod 存储日志,并通过 REST API 将其公开。 kibana-logging pod 提供了一个用于读取 ElasticSearch 中存储的日志的 Web UI, 它是名为 kibana-logging 的服务的一部分。

Elasticsearch 和 Kibana 服务都位于 kube-system 命名空间中,并且没有通过可公开访问的 IP 地址直接暴露。 要访问它们,请参照 访问集群中运行的服务 的说明进行操作。

如果你想在浏览器中访问 elasticsearch-logging 服务,你将看到类似下面的状态页面:

Elasticsearch Status

现在你可以直接在浏览器中输入 Elasticsearch 查询,如果你愿意的话。 请参考 Elasticsearch 的文档 以了解这样做的更多细节。

或者,你可以使用 Kibana 查看集群的日志(再次使用 访问集群中运行的服务的说明)。 第一次访问 Kibana URL 时,将显示一个页面,要求你配置所接收日志的视图。 选择时间序列值的选项,然后选择 @timestamp。 在下面的页面中选择 Discover 选项卡,然后你应该能够看到所摄取的日志。 你可以将刷新间隔设置为 5 秒,以便定期刷新日志。

以下是从 Kibana 查看器中摄取日志的典型视图:

Kibana logs

接下来

Kibana 为浏览你的日志提供了各种强大的选项!有关如何深入研究它的一些想法, 请查看 Kibana 的文档