ES的聚合是其一大特色。然而出于性能的考慮， ES的聚合是以分片Shard為單位，而非Index為單位， 所以
有些聚合的準(zhǔn)確性是需要注意的。 比如： TermAggregations.

成都創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供榮昌網(wǎng)站建設(shè)、榮昌做網(wǎng)站、榮昌網(wǎng)站設(shè)計(jì)、榮昌網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)與制作、榮昌企業(yè)網(wǎng)站模板建站服務(wù)，十年榮昌做網(wǎng)站經(jīng)驗(yàn)，不只是建網(wǎng)站，更提供有價(jià)值的思路和整體網(wǎng)絡(luò)服務(wù)。

es的基數(shù)聚合使用到了hyperloglog算法。 出于好奇，了解了一下。

在海量數(shù)據(jù)場(chǎng)景下， 我們通常會(huì)遇到這樣的兩個(gè)問題:

1. 數(shù)據(jù)排重。比如在推送消息場(chǎng)景，消息重復(fù)對(duì)用戶是打擾， 用戶發(fā)券場(chǎng)景， 重復(fù)發(fā)券就是損失了。

2. pv/uv統(tǒng)計(jì)。這類場(chǎng)景下， 對(duì)精確度要求沒必要錙銖必較。

如何高效解決這兩類問題呢？

對(duì)于數(shù)據(jù)排重， 我們可以使用布隆過濾器。java 樣列代碼如下:

BloomFilter<String> bloomFilter = BloomFilter.create(new Funnel<String>() {

            private static final long serialVersionUID = 1L;

            @Override
            public void funnel(String arg0, PrimitiveSink arg1) {

                arg1.putString(arg0, Charsets.UTF_8);
            }

        }, 1024*1024*32);

        bloomFilter.put("asdf");
        bloomFilter.mightContain("asdf");

對(duì)于計(jì)數(shù)， 我們可以使用HyperLogLog算法，ES中已經(jīng)有相關(guān)的實(shí)現(xiàn)。

其實(shí)封裝一下，布隆過濾器也是能直接實(shí)現(xiàn)HyperLogLog算法的功能的。

這里遺留幾個(gè)問題，思考清楚后補(bǔ)充:

1. BloomFilter跟HyperLogLog算法的原理
2. 相同量級(jí)數(shù)據(jù)下的效率及內(nèi)存消耗
3. 各自的適用場(chǎng)景有哪些

標(biāo)題名稱：ES聚合學(xué)習(xí)筆記之--HyperLogLog與BloomFilter
網(wǎng)站鏈接：http://www.aaarwkj.com/article10/gjoido.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供手機(jī)網(wǎng)站建設(shè)、面包屑導(dǎo)航、外貿(mào)建站、響應(yīng)式網(wǎng)站、自適應(yīng)網(wǎng)站、關(guān)鍵詞優(yōu)化

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)