免费可以看的无遮挡av无码|国产在线拍揄自揄视频网站|在线无码精品视频播放在|欧美亚洲国产成人精品,国产成人久久77777精品,亚洲欧美视频在线观看,色偷偷色噜噜狠狠网站久久

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  應聘面試  >  大數(shù)據(jù)面試題  > Flink實時去重方案(UV計算)怎么做?

Flink實時去重方案(UV計算)怎么做?

來源:千鋒教育
發(fā)布人:wjy
時間: 2022-09-02 15:42:05 1662104525

業(yè)務計算中,我們經(jīng)常會遇到使用Flink實時計算UV的問題,比如計算一天的實時UV,或者每個小時的UV。

應為UV是需要去重的,再大數(shù)據(jù)量的情況下,如何使用Flink進行高效的UV統(tǒng)計呢#比如計算一天實時UV

Flink實時去重方案(UV計算)怎么做?

1. windowAll+HashSet大數(shù)據(jù)量不可行,因為要緩存一天數(shù)據(jù),OOM問題隨時會發(fā)生

2. keyBy+window+MapState+配置RocksDB轉(zhuǎn)態(tài)存儲可行,只是因為MapState每次都需要變量才能獲取到總數(shù)據(jù)量大小,效率不高

3. keyBy+window+ValueState+BloomFilter+配置RocksDB轉(zhuǎn)態(tài)存儲,可行,BloomFilter的加入使得計算變得高效,但是BloomFliter有誤判率,不能實現(xiàn)100%精確,但是一般的業(yè)務場景,對于實時UV也并非要求100%精確,因此這是一個不錯的選擇.(這里的BloomFilter也可以使用HyperLogLog數(shù)據(jù)結構,都有誤判率)

4. 將數(shù)據(jù)存儲到第三方系統(tǒng),比如Redis或者HBase,之后再統(tǒng)計計算. 在Redis中存儲可用使用bitmap數(shù)據(jù)結構,空間占用小。

也可以使用HyperLogLog數(shù)據(jù)結構`(每個 HyperLogLog 鍵只需要花費12 KB 內(nèi)存,就可以計算接近2^64個不同元素的基數(shù))`,不能保證精確,但是比bitmap數(shù)據(jù)結構占用空間更小。

tags:
聲明:本站稿件版權均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內(nèi)將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT
快速通道