审计日志插件

Doris 的审计日志插件是在 FE 的插件框架基础上开发的。是一个可选插件。用户可以在运行时安装或卸载这个插件。

该插件可以将 FE 的审计日志定期的导入到指定 Doris 集群中，以方便用户通过 SQL 对审计日志进行查看和分析。

编译、配置和部署

FE 配置

FE的插件框架当前是实验性功能，Doris中默认关闭，在FE的配置文件中，增加plugin_enable = true启用plugin框架

AuditLoader 配置

auditloader plugin的配置位于${DORIS}/fe_plugins/auditloader/src/main/assembly/.

打开 plugin.conf 进行配置。配置项说明参见注释。

编译

在 Doris 代码目录下执行 sh build_plugin.sh 后，会在 fe_plugins/output 目录下得到 auditloader.zip 文件。

部署

您可以将这个文件放置在一个 http 服务器上，或者拷贝auditloader.zip(或者解压auditloader.zip)到所有 FE 的指定目录下。这里我们使用后者。

安装

部署完成后，安装插件前，需要创建之前在 plugin.conf 中指定的审计数据库和表。其中建表语句如下：

  1. create table doris_audit_tbl__
  2. (
  3.     query_id varchar(48) comment "Unique query id",
  4.     time datetime not null comment "Query start time",
  5.     client_ip varchar(32) comment "Client IP",
  6.     user varchar(64) comment "User name",
  7.     db varchar(96) comment "Database of this query",
  8.     state varchar(8) comment "Query result state. EOF, ERR, OK",
  9.     query_time bigint comment "Query execution time in millisecond",
  10.     scan_bytes bigint comment "Total scan bytes of this query",
  11.     scan_rows bigint comment "Total scan rows of this query",
  12.     return_rows bigint comment "Returned rows of this query",
  13.     stmt_id int comment "An incremental id of statement",
  14.     is_query tinyint comment "Is this statemt a query. 1 or 0",
  15.     frontend_ip varchar(32) comment "Frontend ip of executing this statement",
  16.     cpu_time_ms bigint comment "Total scan cpu time in millisecond of this query",
  17.     sql_hash varchar(48) comment "Hash value for this query",
  18.     peak_memory_bytes bigint comment "Peak memory bytes used on all backends of this query",
  19.     stmt string comment "The original statement, trimed if longer than 2G "
  20. ) engine=OLAP
  21. duplicate key(query_id, time, client_ip)
  22. partition by range(time) ()
  23. distributed by hash(query_id) buckets 1
  24. properties(
  25.     "dynamic_partition.time_unit" = "DAY",
  26.     "dynamic_partition.start" = "-30",
  27.     "dynamic_partition.end" = "3",
  28.     "dynamic_partition.prefix" = "p",
  29.     "dynamic_partition.buckets" = "1",
  30.     "dynamic_partition.enable" = "true",
  31.     "replication_num" = "3"
  32. );

注意

上面表结构中：stmt string ，这个只能在0.15及之后版本中使用，之前版本，字段类型使用varchar

其中 dynamic_partition 属性根据自己的需要，选择审计日志安保留的天数。

之后，连接到 Doris 后使用 INSTALL PLUGIN 命令完成安装。安装成功后，可以通过 SHOW PLUGINS 看到已经安装的插件，并且状态为 INSTALLED。

完成后，插件会不断的以指定的时间间隔将审计日志插入到这个表中。