使用 ElasticSearch 和 Kibana 进行日志管理

在 Google Compute Engine (GCE) 平台上,默认的日志管理支持目标是 Stackdriver Logging,在 使用 Stackdriver Logging 管理日志中详细描述了这一点。

本文介绍了如何设置一个集群,将日志导入Elasticsearch,并使用 Kibana 查看日志,作为在 GCE 上运行应用时使用 Stackdriver Logging 管理日志的替代方案。

注意:

您不能在 Google Kubernetes Engine 平台运行的 Kubernetes 集群上自动的部署 Elasticsearch 和 Kibana。您必须手动部署它们。

要使用 Elasticsearch 和 Kibana 处理集群日志,您应该在使用 kube-up.sh 脚本创建集群时设置下面所示的环境变量:

  1. KUBE_LOGGING_DESTINATION=elasticsearch

您还应该确保设置了 KUBE_ENABLE_NODE_LOGGING=true (这是 GCE 平台的默认设置)。

现在,当您创建集群时,将有一条消息将指示每个节点上运行的 Fluentd 日志收集守护进程以 ElasticSearch 为日志输出目标:

  1. $ cluster/kube-up.sh
  2. ...
  3. Project: kubernetes-satnam
  4. Zone: us-central1-b
  5. ... calling kube-up
  6. Project: kubernetes-satnam
  7. Zone: us-central1-b
  8. +++ Staging server tars to Google Storage: gs://kubernetes-staging-e6d0e81793/devel
  9. +++ kubernetes-server-linux-amd64.tar.gz uploaded (sha1 = 6987c098277871b6d69623141276924ab687f89d)
  10. +++ kubernetes-salt.tar.gz uploaded (sha1 = bdfc83ed6b60fa9e3bff9004b542cfc643464cd0)
  11. Looking for already existing resources
  12. Starting master and configuring firewalls
  13. Created [https://www.googleapis.com/compute/v1/projects/kubernetes-satnam/zones/us-central1-b/disks/kubernetes-master-pd].
  14. NAME ZONE SIZE_GB TYPE STATUS
  15. kubernetes-master-pd us-central1-b 20 pd-ssd READY
  16. Created [https://www.googleapis.com/compute/v1/projects/kubernetes-satnam/regions/us-central1/addresses/kubernetes-master-ip].
  17. +++ Logging using Fluentd to elasticsearch

每个节点的 Fluentd pod、Elasticsearch pod 和 Kibana pod 都应该在集群启动后不久运行在 kube-system 命名空间中。

  1. $ kubectl get pods --namespace=kube-system
  2. NAME READY STATUS RESTARTS AGE
  3. elasticsearch-logging-v1-78nog 1/1 Running 0 2h
  4. elasticsearch-logging-v1-nj2nb 1/1 Running 0 2h
  5. fluentd-elasticsearch-kubernetes-node-5oq0 1/1 Running 0 2h
  6. fluentd-elasticsearch-kubernetes-node-6896 1/1 Running 0 2h
  7. fluentd-elasticsearch-kubernetes-node-l1ds 1/1 Running 0 2h
  8. fluentd-elasticsearch-kubernetes-node-lz9j 1/1 Running 0 2h
  9. kibana-logging-v1-bhpo8 1/1 Running 0 2h
  10. kube-dns-v3-7r1l9 3/3 Running 0 2h
  11. monitoring-heapster-v4-yl332 1/1 Running 1 2h
  12. monitoring-influx-grafana-v1-o79xf 2/2 Running 0 2h

fluentd-elasticsearch pod 从每个节点收集日志并将其发送到 elasticsearch-logging pods,该 pod 是名为 elasticsearch-logging服务的一部分。 这些 ElasticSearch pod 存储日志,并通过 REST API 将其公开。 kibana-logging pod 提供了一个用于读取 ElasticSearch 中存储的日志的 Web UI,它是名为 kibana-logging 的服务的一部分。

Elasticsearch 和 Kibana 服务都位于 kube-system 命名空间中,并且没有通过可公开访问的 IP 地址直接暴露。 要访问它们,请参照访问集群中运行的服务的说明进行操作。

如果你想在浏览器中访问 elasticsearch-logging 服务,你将看到类似下面的状态页面:

Elasticsearch Status

现在你可以直接在浏览器中输入 Elasticsearch 查询,如果你愿意的话。 请参考 Elasticsearch 的文档 以了解这样做的更多细节。

或者,您可以使用 Kibana 查看集群的日志(再次使用访问集群中运行的服务的说明)。 第一次访问 Kibana URL 时,将显示一个页面,要求您配置所接收日志的视图。 选择时间序列值的选项,然后选择 @timestamp。 在下面的页面中选择 Discover 选项卡,然后您应该能够看到所摄取的日志。 您可以将刷新间隔设置为 5 秒,以便定期刷新日志。

以下是从 Kibana 查看器中摄取日志的典型视图:

Kibana logs

接下来

Kibana 为浏览您的日志提供了各种强大的选项!有关如何深入研究它的一些想法,请查看 Kibana 的文档