背景介绍

在现实场景中,随着数据量的增大, 对数据进行去重分析的压力会越来越大。当数据的规模大到一定程度的时候,进行精确去重的成本会比较高。此时用户通常会采用近似算法来降低计算压力。本节将要介绍的 HyperLogLog(简称 HLL)是一种近似去重算法,它的特点是具有非常优异的空间复杂度O(mloglogn),  时间复杂度为O(n), 并且计算结果的误差可控制在1%—10%左右,误差与数据集大小以及所采用的哈希函数有关。

什么是HyperLogLog

HyperLogLog是一种近似的去重算法,能够使用极少的存储空间计算一个数据集的不重复元素的个数。HLL类型是基于HyperLogLog算法的工程实现。用于保存HyperLogLog计算过程的中间结果,它只能作为数据表的指标列类型。

由于HLL 算法的原理涉及到比较多的数学知识,在这里我们仅通过一个实际例子来说明。假设我们设计随机试验A:  做抛币的独立重复试验, 直到首次出现正面; 记录首次出现正面的抛币次数为随机变量X,则:

  • X=1, 概率P(X=1)=1/2
  • X=2, 概率P(X=2)=1/4
  • ...
  • X=n, 概率P(X=n)=(1/2)n

我们用试验A构造随机试验B: 做N次独立重复试验A, 产生N个独立同分布的随机变量X1, X2, X3, ..., XN; 取这组随机变量的最大值为Xmax。结合极大似然估算的方法,N的估算值为2Xmax


现在, 我们在给定的数据集上, 使用哈希函数模拟上述试验:

  • 试验A:  对数据集的元素计算哈希值, 记录哈希值的二进制表示形式中, 从最低位算起, 记录bit 1首次出现的位置。
  • 试验B:  遍历数据集, 对数据集的元素做试验A的处理, 每次试验时, 更新bit 1首次出现的最大位置m;
  • 估算数据集中不重复元素的个数为m2

事实上,HLL算法根据元素哈希值的低k位,将元素划分到K=2k个桶中,统计桶内元素的第k+1位起bit 1首次出现位置的最大值m1, m2,..., mk, 估算桶内不重复元素元素的个数2m1, 2m2,..., 2mk, 数据集的不重复元素个数为桶的数量乘以桶内不重复元素个数的调和平均数: N = K(K/(2-m1+2-m2,..., 2-mK))。


HLL为了使结果更加精确,用修正因子和估算结果相乘, 得出最终结果.

为了方面读者的理解, 我们参考文章https://gist.github.com/avibryant/8275649, 用StarRocks的SQL语句实现HLL去重算法:

SELECT floor((0.721 * 1024 * 1024) / (sum(pow(2, m * -1)) + 1024 - count(*))) AS estimate
FROM(select(murmur_hash3_32(c2) & 1023) AS bucket,
     max((31 - CAST(log2(murmur_hash3_32(c2) & 2147483647) AS INT))) AS m
     FROM db0.table0
     GROUP BY bucket) bucket_values;

该算法对db0.table0的col2进行去重分析。

  • 使用哈希函数murmur_hash3_32对col2计算hash值为32有符号整数;
  • 采用1024个桶, 此时修正因子为0.721, 取hash值低10bit为桶的下标;
  • 忽略hash值的符号位, 从次高位开始向低位查找, 确定bit 1首次出现的位置;
  • 把算出的hash值, 按bucket分组, 桶内使用MAX聚合求bit 1的首次出现的最大位置;
  • 分组聚合的结果作为子查询, 最后求所有桶的估算值的调和平均数, 乘以桶数和修正因子。
  • 注意空桶计数为1。

上述算法在数据规模较大时, 误差很低.

这就是 HLL 算法的核心思想。有兴趣的同学可以参考HyperLogLog论文

如何使用HyperLogLog

  1. 使用HyperLogLog去重, 需要在建表语句中, 将目标的指标列的类型设置为HLL,聚合函数设置为HLL_UNION。
  2. 目前, 只有聚合表支持HLL类型的指标列。
  3. 当在HLL类型列上使用count distinct时,StarRocks会自动转化为HLL_UNION_AGG计算。

具体函数语法参见 HLL_UNION_AGG

示例

首先,创建一张含有HLL列的表,其中uv列为聚合列,列类型为HLL,聚合函数为HLL_UNION

CREATE TABLE test(
        dt DATE,
        id INT,
        uv HLL HLL_UNION
)
DISTRIBUTED BY HASH(ID) BUCKETS 32;
  • 注:当数据量很大时,最好为高频率的 HLL 查询建立对应的 rollup 表

导入数据,Stream Load模式:

curl --location-trusted -u root: -H "label:label_1600997542287" \
    -H "column_separator:," \
    -H "columns:dt,id,user_id, uv=hll_hash(user_id)" -T /root/test.csv http://starrocks_be0:8040/api/db0/test/_stream_load
{
    "TxnId": 2504748,
    "Label": "label_1600997542287",
    "Status": "Success",
    "Message": "OK",
    "NumberTotalRows": 5,
    "NumberLoadedRows": 5,
    "NumberFilteredRows": 0,
    "NumberUnselectedRows": 0,
    "LoadBytes": 120,
    "LoadTimeMs": 46,
    "BeginTxnTimeMs": 0,
    "StreamLoadPutTimeMs": 1,
    "ReadDataTimeMs": 0,
    "WriteDataTimeMs": 29,
    "CommitAndPublishTimeMs": 14
}

Broker Load模式:

LOAD LABEL test_db.label
 (
    DATA INFILE("hdfs://hdfs_host:hdfs_port/user/palo/data/input/file")
    INTO TABLE `test`
    COLUMNS TERMINATED BY ","
    (dt, id, user_id)
    SET (
      uv = HLL_HASH(user_id)
    )
 );

查询数据

  • HLL列不允许直接查询它的原始值,可以用函数HLL_UNION_AGG进行查询
  • 求总uv

SELECT HLL_UNION_AGG(uv) FROM test;

该语句等价于

SELECT COUNT(DISTINCT uv) FROM test;

  • 求每一天的uv

SELECT COUNT(DISTINCT uv) FROM test GROUP BY dt;

注意事项

Bitmap和HLL应该如何选择?如果数据集的基数在百万、千万量级,并拥有几十台机器,那么直接使用 count distinct 即可。如果基数在亿级以上,并且需要精确去重,那么只能用Bitmap类型;如果可以接受近似去重,那么还可以使用HLL类型。

Bitmap只支持TINYINT, SMALLINT, INT, BIGINT, (注意不支持LARGEINT), 对其他类型数据集去重, 则需要构建词典, 将原类型映射到整数类型.  词典构建比较复杂, 需要权衡数据量, 更新频率, 查询效率, 存储等一系列问题. HLL则没有必要构建词典, 只需要对应的数据类型支持哈希函数即可, 甚至在没有内部支持HLL的分析系统中, 依然可以使用系统提供的hash,用SQL实现HLL去重。

对于普通列,用户还可以使用NDV函数进行近似去重计算。NDV函数返回值是COUNT(DISTINCT col) 结果的近似值聚合函数,底层实现将数据存储类型转为HyperLogLog类型进行计算。NDV函数在计算的时候比较消耗资源,不太适合并发高的场景。

如果您希望进行用户行为分析,可以考虑 IntersectCount 或者自定义 UDAF。