Delete

Delete不同于其他导入方式，它是一个同步过程。和Insert into相似，所有的Delete操作在Doris中是一个独立的导入作业，一般Delete语句需要指定表和分区以及删除的条件来筛选要删除的数据，并将会同时删除base表和rollup表的数据。

语法

主要的Delete语法如下：

  1. DELETE FROM table_name [PARTITION partition_name]
  2. WHERE
  3. column_name1 op value[ AND column_name2 op value ...];

示例1：

  1. DELETE FROM my_table PARTITION p1 WHERE k1 = 3;

示例2:

  1. DELETE FROM my_table PARTITION p1 WHERE k1 < 3 AND k2 = "abc";

下面介绍删除语句中使用到的参数：

  • PARTITION

    Delete语句的目标分区，若未指定，则此表必须为单分区表，否则无法delete

  • WHERE

    Delete语句的条件语句，所有删除语句都必须指定WHERE语句

说明：

  1. Where语句中的op的类型可包括=,>,<,>=,<=,!=，目前暂时不支持 where key in (value1, value2, value3) 的方式选定范围，后续将加上此功能。
  2. Where语句中的列只能是key列
  3. 当选定的key列不存在某个rollup表内时，无法进行delete
  4. 条件语句中各个条件只能是and关系，如希望达成or可将条件分别写入两个delete语句中
  5. 如果指定表为RANGE分区表，则必须指定 PARTITION。如果是单分区表，可以不指定。
  6. 不同于Insert into命令，delete不能手动指定label，有关label的概念可以查看[Insert Into文档] (./insert-into-manual.md)

返回结果

Delete命令是一个SQL命令，返回结果是同步的，分为以下几种：

  1. 执行成功

    如果Delete顺利执行完成并可见，将返回下列结果，Query OK表示成功

    1. mysql> delete from test_tbl PARTITION p1 where k1 = 1;
    2. Query OK, 0 rows affected (0.04 sec)
    3. {'label':'delete_e7830c72-eb14-4cb9-bbb6-eebd4511d251', 'status':'VISIBLE', 'txnId':'4005'}

  2. 提交成功，但未可见

    Doris的事务提交分为两步：提交和发布版本，只有完成了发布版本步骤，结果才对用户是可见的。若已经提交成功了，那么就可以认为最终一定会发布成功，Doris会尝试在提交完后等待发布一段时间，如果超时后即使发布版本还未完成也会优先返回给用户，提示用户提交已经完成。若如果Delete已经提交并执行，但是仍未发布版本和可见，将返回下列结果

    1. mysql> delete from test_tbl PARTITION p1 where k1 = 1;
    2. Query OK, 0 rows affected (0.04 sec)
    3. {'label':'delete_e7830c72-eb14-4cb9-bbb6-eebd4511d251', 'status':'VISIBLE', 'txnId':'4005', 'err':'delete job is committed but may be taking effect later' }

    结果会同时返回一个json字符串：

    affected rows表示此次删除影响的行，由于Doris的删除目前是逻辑删除，因此对于这个值是恒为0。

    label为自动生成的 label，是该导入作业的标识。每个导入作业，都有一个在单 database 内部唯一的 Label。

    status表示数据删除是否可见，如果可见，显示VISIBLE，如果不可见,显示COMMITTED。

    txnId为这个Delete job对应的事务id

    err字段会显示一些本次删除的详细信息

  3. 提交失败，事务取消

    如果Delete语句没有提交成功，将会被Doris自动中止，返回下列结果

    1. mysql> delete from test_tbl partition p1 where k1 > 80;
    2. ERROR 1064 (HY000): errCode = 2, detailMessage = {错误原因}

    示例：

    比如说一个超时的删除，将会返回timeout时间和未完成的(tablet=replica)

    1. mysql> delete from test_tbl partition p1 where k1 > 80;
    2. ERROR 1064 (HY000): errCode = 2, detailMessage = failed to delete replicas from job: 4005, Unfinished replicas:10000=60000, 10001=60000, 10002=60000

    综上，对于Delete操作返回结果的正确处理逻辑为：

    1. 如果返回结果为ERROR 1064 (HY000)，则表示删除失败

    2. 如果返回结果为Query OK，则表示删除执行成功

      1. 如果status为COMMITTED，表示数据仍不可见，用户可以稍等一段时间再用show delete命令查看结果
      2. 如果status为VISIBLE，表示数据删除成功。

可配置项

FE配置

TIMEOUT配置

总体来说，Doris的删除作业的超时时间限制在30秒到5分钟时间内，具体时间可通过下面配置项调整

  • tablet_delete_timeout_second

    delete自身的超时时间是可受指定分区下tablet的数量弹性改变的，此项配置为平均一个tablet所贡献的timeout时间，默认值为2。

    假设此次删除所指定分区下有5个tablet，那么可提供给delete的timeout时间为10秒，由于低于最低超时时间30秒，因此最终超时时间为30秒。

  • load_straggler_wait_second

    如果用户预估的数据量确实比较大，使得5分钟的上限不足时，用户可以通过此项调整timeout上限，默认值为300。

    TIMEOUT的具体计算规则为(秒)

    TIMEOUT = MIN(load_straggler_wait_second, MAX(30, tablet_delete_timeout_second * tablet_num))

  • query_timeout

    因为delete本身是一个SQL命令，因此删除语句也会受session限制，timeout还受Session中的query_timeout值影响，可以通过SET query_timeout = xxx来增加超时时间，单位是秒。

查看历史记录

  1. 用户可以通过show delete语句查看历史上已执行完成的删除记录

    语法

    1. SHOW DELETE [FROM db_name]

    示例

    1. mysql> show delete from test_db;
    2. +-----------+---------------+---------------------+-----------------+----------+
    3. | TableName | PartitionName | CreateTime          | DeleteCondition | State    |
    4. +-----------+---------------+---------------------+-----------------+----------+
    5. | empty_tbl | p3            | 2020-04-15 23:09:35 | k1 EQ "1"       | FINISHED |
    6. | test_tbl  | p4            | 2020-04-15 23:09:53 | k1 GT "80"      | FINISHED |
    7. +-----------+---------------+---------------------+-----------------+----------+
    8. 2 rows in set (0.00 sec)