BITMAP

Create table

建表时需要使用聚合模型，数据类型是 bitmap , 聚合函数是 bitmap_union

  1. CREATE TABLE `pv_bitmap` (
  2.   `dt` int(11) NULL COMMENT "",
  3.   `page` varchar(10) NULL COMMENT "",
  4.   `user_id` bitmap BITMAP_UNION NULL COMMENT ""
  5. ) ENGINE=OLAP
  6. AGGREGATE KEY(`dt`, `page`)
  7. COMMENT "OLAP"
  8. DISTRIBUTED BY HASH(`dt`) BUCKETS 2;

注：当数据量很大时，最好为高频率的 bitmap_union 查询建立对应的 rollup 表

  1. ALTER TABLE pv_bitmap ADD ROLLUP pv (page, user_id);

Data Load

TO_BITMAP(expr) : 将 0 ~ 18446744073709551615 的 unsigned bigint 转为 bitmap

BITMAP_EMPTY(): 生成空 bitmap 列，用于 insert 或导入的时填充默认值

BITMAP_HASH(expr): 将任意类型的列通过 Hash 的方式转为 bitmap

Stream Load

  1. cat data | curl --location-trusted -u user:passwd -T - -H "columns: dt,page,user_id, user_id=to_bitmap(user_id)"   http://host:8410/api/test/testDb/_stream_load
  1. cat data | curl --location-trusted -u user:passwd -T - -H "columns: dt,page,user_id, user_id=bitmap_hash(user_id)"   http://host:8410/api/test/testDb/_stream_load
  1. cat data | curl --location-trusted -u user:passwd -T - -H "columns: dt,page,user_id, user_id=bitmap_empty()"   http://host:8410/api/test/testDb/_stream_load

Insert Into

id2 的列类型是 bitmap

  1. insert into bitmap_table1 select id, id2 from bitmap_table2;

id2 的列类型是 bitmap

  1. INSERT INTO bitmap_table1 (id, id2) VALUES (1001, to_bitmap(1000)), (1001, to_bitmap(2000));

id2 的列类型是 bitmap

  1. insert into bitmap_table1 select id, bitmap_union(id2) from bitmap_table2 group by id;

id2 的列类型是 int

  1. insert into bitmap_table1 select id, to_bitmap(id2) from table;

id2 的列类型是 String

  1. insert into bitmap_table1 select id, bitmap_hash(id_string) from table;

Data Query

Syntax

BITMAP_UNION(expr) : 计算输入 Bitmap 的并集，返回新的bitmap

BITMAP_UNION_COUNT(expr): 计算输入 Bitmap 的并集，返回其基数，和 BITMAP_COUNT(BITMAP_UNION(expr)) 等价。目前推荐优先使用 BITMAP_UNION_COUNT ，其性能优于 BITMAP_COUNT(BITMAP_UNION(expr))

BITMAP_UNION_INT(expr) : 计算 TINYINT,SMALLINT 和 INT 类型的列中不同值的个数，返回值和 COUNT(DISTINCT expr) 相同

INTERSECT_COUNT(bitmap_column_to_count, filter_column, filter_values ...) : 计算满足 filter_column 过滤条件的多个 bitmap 的交集的基数值。 bitmap_column_to_count 是 bitmap 类型的列，filter_column 是变化的维度列，filter_values 是维度取值列表

Example

下面的 SQL 以上面的 pv_bitmap table 为例：

计算 user_id 的去重值：

  1. select bitmap_union_count(user_id) from pv_bitmap;
  3. select bitmap_count(bitmap_union(user_id)) from pv_bitmap;

计算 id 的去重值：

  1. select bitmap_union_int(id) from pv_bitmap;

计算 user_id 的 留存:

  1. select intersect_count(user_id, page, 'meituan') as meituan_uv,
  2. intersect_count(user_id, page, 'waimai') as waimai_uv,
  3. intersect_count(user_id, page, 'meituan', 'waimai') as retention //在 'meituan' 和 'waimai' 两个页面都出现的用户数
  4. from pv_bitmap
  5. where page in ('meituan', 'waimai');

keyword

BITMAP,BITMAP_COUNT,BITMAP_EMPTY,BITMAP_UNION,BITMAP_UNION_INT,TO_BITMAP,BITMAP_UNION_COUNT,INTERSECT_COUNT