Telegraf 写入

Telegraf 是一款十分流行的指标采集开源软件。在数据采集和平台监控系统中,Telegraf 可以采集多种组件的运行信息,而不需要自己手写脚本定时采集,降低数据获取的难度。

只需要将 Telegraf 的输出配置增加指向 taosAdapter 对应的 url 并修改若干配置项即可将 Telegraf 的数据写入到 TDengine 中。将 Telegraf 的数据存在到 TDengine 中可以充分利用 TDengine 对时序数据的高效存储查询性能和集群处理能力。

前置条件

要将 Telegraf 数据写入 TDengine 需要以下几方面的准备工作。

  • TDengine 集群已经部署并正常运行
  • taosAdapter 已经安装并正常运行。具体细节请参考 taosAdapter 的使用手册
  • Telegraf 已经安装。安装 Telegraf 请参考官方文档
  • Telegraf 默认采集系统运行状态数据。通过使能输入插件方式可以输出其他格式的数据到 Telegraf 再写入到 TDengine中。

配置步骤

在 Telegraf 配置文件(默认位置 /etc/telegraf/telegraf.conf) 增加 outputs.http 输出模块配置:

  1. [[outputs.http]]
  2. url = "http://<taosAdapter's host>:<REST service port>/influxdb/v1/write?db=<database name>"
  3. ...
  4. username = "<TDengine's username>"
  5. password = "<TDengine's password>"
  6. ...

其中 <taosAdapter’s host> 请填写运行 taosAdapter 服务的服务器域名或 IP 地址,<REST service port> 请填写 REST 服务的端口(默认为 6041),<TDengine’s username> 和 <TDengine’s password> 请填写当前运行的 TDengine 实际配置,<database name> 请填写希望在 TDengine 保存 Telegraf 数据的数据库名。

示例如下:

  1. [[outputs.http]]
  2. url = "http://127.0.0.1:6041/influxdb/v1/write?db=telegraf"
  3. method = "POST"
  4. timeout = "5s"
  5. username = "root"
  6. password = "taosdata"
  7. data_format = "influx"

验证方法

重启 Telegraf 服务:

  1. sudo systemctl restart telegraf

使用 TDengine CLI 验证从 Telegraf 向 TDengine 写入数据并能够正确读出:

  1. taos> show databases;
  2. name |
  3. =================================
  4. information_schema |
  5. performance_schema |
  6. telegraf |
  7. Query OK, 3 rows in database (0.010568s)
  8. taos> use telegraf;
  9. Database changed.
  10. taos> show stables;
  11. name |
  12. =================================
  13. swap |
  14. cpu |
  15. system |
  16. diskio |
  17. kernel |
  18. mem |
  19. processes |
  20. disk |
  21. Query OK, 8 row(s) in set (0.000521s)
  22. taos> select * from telegraf.system limit 10;
  23. ts | load1 | load5 | load15 | n_cpus | n_users | uptime | uptime_format | host
  24. |
  25. =============================================================================================================================================================================================================================================
  26. 2022-04-20 08:47:50.000000000 | 0.000000000 | 0.050000000 | 0.070000000 | 4 | 1 | 5533 | 1:32 | shuduo-1804
  27. |
  28. 2022-04-20 08:48:00.000000000 | 0.000000000 | 0.050000000 | 0.070000000 | 4 | 1 | 5543 | 1:32 | shuduo-1804
  29. |
  30. 2022-04-20 08:48:10.000000000 | 0.000000000 | 0.040000000 | 0.070000000 | 4 | 1 | 5553 | 1:32 | shuduo-1804
  31. |
  32. Query OK, 3 row(s) in set (0.013269s)
Telegraf - 图1note
  • TDengine 接收 influxdb 格式数据默认生成的子表名是根据规则生成的唯一 ID 值。 用户如需指定生成的表名,可以通过在 taos.cfg 里配置 smlChildTableName 参数来指定。如果通过控制输入数据格式,即可利用 TDengine 这个功能指定生成的表名。 举例如下:配置 smlChildTableName=tname 插入数据为 st,tname=cpu1,t1=4 c1=3 1626006833639000000 则创建的表名为 cpu1。如果多行数据 tname 相同,但是后面的 tag_set 不同,则使用第一行自动建表时指定的 tag_set,其他的行会忽略)。TDengine 无模式写入参考指南