Redis 在 2.8.9 版本添加了 HyperLogLog 结构。Redis HyperLogLog 是用来做基数统计的算法,HyperLogLog 的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定的、并且是很小的。
在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存,就可以计算接近 2^64 个不同元素的基数。和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。
因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。
比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。 基数估计就是在误差可接受的范围内,快速计算基数。
pfadd 添加
127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2 (integer) 1
pfcount 获得基数值
127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2 (integer) 1 127.0.0.1:6379> pfcount m1 (integer) 4
pfmerge 合并多个key
127.0.0.1:6379> pfadd m1 1 2 3 4 1 2 3 2 2 2 2 (integer) 1 127.0.0.1:6379> pfcount m1 (integer) 4 127.0.0.1:6379> pfadd m2 3 3 3 4 4 4 5 5 5 6 6 6 1 (integer) 1 127.0.0.1:6379> pfcount m2 (integer) 5 127.0.0.1:6379> pfmerge mergeDes m1 m2 OK 127.0.0.1:6379> pfcount mergeDes (integer) 6
应用场景
基数不大,数据量不大就用不上,会有点大材小用浪费空间,有局限性,就是只能统计基数数量,而没办法去知道具体的内容是什么,和bitmap相比,属于两种特定统计情况,简单来说,HyperLogLog 去重比 bitmap 方便很多,一般可以bitmap和hyperloglog配合使用,bitmap标识哪些用户活跃,hyperloglog计数
一般使用:
统计注册 IP 数
统计每日访问 IP 数
统计页面实时 UV 数
统计在线用户数
统计用户每天搜索不同词条的个数
redisTemplate:
@Test public void hyperloglog() { HyperLogLogOperations<String, String> vo = stringredisTemplate.opsForHyperLogLog(); vo.add("book", "a","b","c"); vo.add("bag", "a","e","d"); vo.add("del", "f","g","h"); System.out.println(vo.size("book")); System.out.println(vo.size("bag")); System.out.println(vo.size("del")); System.out.println(vo.size("book","bag","del")); vo.delete("del"); System.out.println(vo.size("book","bag","del")); vo.union("total", "book","bag","del"); System.out.println(vo.size("total")); }
参考:https://www.cnblogs.com/loveLands/articles/10987055.html