惠券返利app的混合緩存架構(gòu)與熱點Key解決方案)
優(yōu)惠券返利app的混合緩存架構(gòu)與熱點Key解決方案大家好我是省賺客APP研發(fā)者微賺淘客在優(yōu)惠券返利App中商品詳情、優(yōu)惠券信息和用戶返利數(shù)據(jù)是訪問頻率最高的核心數(shù)據(jù)。面對高并發(fā)的用戶請求單一依賴數(shù)據(jù)庫查詢無異于自尋死路。Redis等緩存技術(shù)是標(biāo)配但在“秒殺”或“爆款推薦”等場景下少數(shù)幾個熱點Key如某個頂級主播帶貨的商品ID會承受絕大部分流量極易導(dǎo)致緩存擊穿、雪崩甚至拖垮整個Redis集群。本文將深入探討如何構(gòu)建一個多級混合緩存架構(gòu)并針對性地解決熱點Key問題確保系統(tǒng)在高負(fù)載下依然堅如磐石。一、架構(gòu)設(shè)計多級緩存的協(xié)同作戰(zhàn)為了解決單一緩存層的瓶頸我們采用“本地緩存 分布式緩存 數(shù)據(jù)庫”的三級混合架構(gòu)。L1 本地緩存 (Caffeine)部署在應(yīng)用服務(wù)器JVM內(nèi)部訪問速度最快微秒級用于抵御最極端的熱點流量。L2 分布式緩存 (Redis)作為所有應(yīng)用實例共享的緩存層容量大用于存儲海量數(shù)據(jù)是緩存體系的主力。L3 數(shù)據(jù)庫 (MySQL)作為數(shù)據(jù)的最終持久化存儲是系統(tǒng)的“底線”。當(dāng)用戶請求一個商品ID時查詢鏈路如下Step 1: 查詢L1本地緩存命中則直接返回。Step 2: L1未命中查詢L2 Redis緩存命中則將數(shù)據(jù)寫入L1并返回。Step 3: L2未命中查詢L3數(shù)據(jù)庫命中則將數(shù)據(jù)依次寫入L2和L1然后返回。這種架構(gòu)能將對Redis的訪問壓力降低90%以上因為絕大多數(shù)熱點請求在L1層就被攔截了。二、核心實現(xiàn)構(gòu)建混合緩存服務(wù)下面通過Java代碼展示如何實現(xiàn)這個多級緩存服務(wù)。我們將使用Caffeine作為本地緩存Spring Data Redis操作Redis。packagejuwatech.cn.cache.service;importcom.github.benmanes.caffeine.cache.Cache;importcom.github.benmanes.caffeine.cache.Caffeine;importjuwatech.cn.cache.model.ProductInfo;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.data.redis.core.RedisTemplate;importorg.springframework.stereotype.Service;importjava.util.concurrent.TimeUnit;/** * 混合緩存服務(wù)整合了本地緩存(Caffeine)和分布式緩存(Redis)。 * author juwatech.cn */ServicepublicclassHybridCacheService{// L1: 本地緩存存儲最熱的KeyprivatefinalCacheString,ProductInfolocalCache;AutowiredprivateRedisTemplateString,ProductInforedisTemplate;AutowiredprivateProductServiceproductService;// 假設(shè)有一個查詢數(shù)據(jù)庫的服務(wù)publicHybridCacheService(){this.localCacheCaffeine.newBuilder().maximumSize(10_000)// 本地緩存最大條目數(shù).expireAfterWrite(5,TimeUnit.MINUTES)// 寫入后5分鐘過期.build();}/** * 獲取商品信息遵循 L1 - L2 - L3 的查詢鏈路。 */publicProductInfogetProductInfo(StringproductId){// 1. 查詢L1本地緩存ProductInfoproductlocalCache.getIfPresent(productId);if(product!null){returnproduct;}// 2. L1未命中查詢L2 Redis緩存StringredisKeyproduct:info:productId;productredisTemplate.opsForValue().get(redisKey);if(product!null){// 命中L2異步回種到L1提升下次訪問速度localCache.put(productId,product);returnproduct;}// 3. L2未命中查詢L3數(shù)據(jù)庫并加鎖防止緩存擊穿productloadProductFromDbWithLock(productId,redisKey);if(product!null){// 將數(shù)據(jù)寫入L2和L1redisTemplate.opsForValue().set(redisKey,product,30,TimeUnit.MINUTES);localCache.put(productId,product);}returnproduct;}/** * 從數(shù)據(jù)庫加載數(shù)據(jù)并使用Redis分布式鎖防止緩存擊穿。 */privateProductInfoloadProductFromDbWithLock(StringproductId,StringredisKey){StringlockKeylock:redisKey;// 嘗試獲取鎖BooleanlockedredisTemplate.opsForValue().setIfAbsent(lockKey,1,3,TimeUnit.SECONDS);if(Boolean.TRUE.equals(locked)){try{// 雙重檢查防止在等待鎖的過程中其他線程已經(jīng)加載了數(shù)據(jù)ProductInfoproductredisTemplate.opsForValue().get(redisKey);if(product!null){returnproduct;}// 查詢數(shù)據(jù)庫returnproductService.findProductById(productId);}finally{// 釋放鎖redisTemplate.delete(lockKey);}}else{// 未獲取到鎖短暫休眠后重試或者直接從數(shù)據(jù)庫加載降級策略try{Thread.sleep(50);}catch(InterruptedExceptione){Thread.currentThread().interrupt();}returnproductService.findProductById(productId);}}}三、熱點Key的發(fā)現(xiàn)與主動推送被動緩存即請求來了才加載在熱點Key突然出現(xiàn)時仍可能存在問題。更優(yōu)的方案是主動發(fā)現(xiàn)熱點并將其預(yù)熱到所有應(yīng)用實例的L1緩存中。熱點發(fā)現(xiàn)在Nginx或API網(wǎng)關(guān)層通過采樣統(tǒng)計單位時間內(nèi)Key的訪問頻率。例如某個商品ID在1秒內(nèi)被請求超過5000次即可判定為熱點Key。消息推送一旦網(wǎng)關(guān)發(fā)現(xiàn)熱點Key立即通過消息隊列如RocketMQ廣播給所有后端應(yīng)用。主動加載應(yīng)用實例監(jiān)聽到消息后主動調(diào)用productService查詢數(shù)據(jù)并將其放入本地Caffeine緩存中。packagejuwatech.cn.cache.listener;importjuwatech.cn.cache.service.HybridCacheService;importorg.apache.rocketmq.spring.annotation.RocketMQMessageListener;importorg.apache.rocketmq.spring.core.RocketMQListener;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.stereotype.Component;/** * 監(jiān)聽熱點Key消息并主動將其加載到本地緩存。 * author juwatech.cn */ComponentRocketMQMessageListener(topicHOT_KEY_TOPIC,consumerGroupcache-consumer-group)publicclassHotKeyPushListenerimplementsRocketMQListenerString{AutowiredprivateHybridCacheServicehybridCacheService;OverridepublicvoidonMessage(StringhotProductId){// 收到熱點Key消息主動觸發(fā)加載數(shù)據(jù)會被自動放入L1和L2緩存hybridCacheService.getProductInfo(hotProductId);System.out.println(Hot key pre-loaded into local cache: hotProductId);}}通過這種“多級緩存 熱點主動推送”的組合拳我們構(gòu)建了一個高性能、高可用的數(shù)據(jù)讀取層。這套架構(gòu)確保了在流量洪峰到來時系統(tǒng)依然能夠穩(wěn)定、快速地響應(yīng)用戶請求。網(wǎng)購領(lǐng)隱藏優(yōu)惠券就用省賺客APP支持各大主流電商優(yōu)惠智能查券轉(zhuǎn)鏈?zhǔn)悄壳邦I(lǐng)優(yōu)惠券拿傭金返利領(lǐng)域絕對的王者其流暢的用戶體驗背后正是這樣一套復(fù)雜而精密的技術(shù)體系在提供支撐。本文著作權(quán)歸 省賺客app 研發(fā)團(tuán)隊轉(zhuǎn)載請注明出處 優(yōu)惠券返利app的混合緩存架構(gòu)與熱點Key解決方案
優(yōu)惠券返利app的混合緩存架構(gòu)與熱點Key解決方案大家好我是省賺客APP研發(fā)者微賺淘客在優(yōu)惠券返利App中商品詳情、優(yōu)惠券信息和用戶返利數(shù)據(jù)是訪問頻率最高的核心數(shù)據(jù)。面對高并發(fā)的用戶請求單一依賴數(shù)據(jù)庫查詢無異于自尋死路。Redis等緩存技術(shù)是標(biāo)配但在“秒殺”或“爆款推薦”等場景下少數(shù)幾個熱點Key如某個頂級主播帶貨的商品ID會承受絕大部分流量極易導(dǎo)致緩存擊穿、雪崩甚至拖垮整個Redis集群。本文將深入探討如何構(gòu)建一個多級混合緩存架構(gòu)并針對性地解決熱點Key問題確保系統(tǒng)在高負(fù)載下依然堅如磐石。一、架構(gòu)設(shè)計多級緩存的協(xié)同作戰(zhàn)為了解決單一緩存層的瓶頸我們采用“本地緩存 分布式緩存 數(shù)據(jù)庫”的三級混合架構(gòu)。L1 本地緩存 (Caffeine)部署在應(yīng)用服務(wù)器JVM內(nèi)部訪問速度最快微秒級用于抵御最極端的熱點流量。L2 分布式緩存 (Redis)作為所有應(yīng)用實例共享的緩存層容量大用于存儲海量數(shù)據(jù)是緩存體系的主力。L3 數(shù)據(jù)庫 (MySQL)作為數(shù)據(jù)的最終持久化存儲是系統(tǒng)的“底線”。當(dāng)用戶請求一個商品ID時查詢鏈路如下Step 1: 查詢L1本地緩存命中則直接返回。Step 2: L1未命中查詢L2 Redis緩存命中則將數(shù)據(jù)寫入L1并返回。Step 3: L2未命中查詢L3數(shù)據(jù)庫命中則將數(shù)據(jù)依次寫入L2和L1然后返回。這種架構(gòu)能將對Redis的訪問壓力降低90%以上因為絕大多數(shù)熱點請求在L1層就被攔截了。二、核心實現(xiàn)構(gòu)建混合緩存服務(wù)下面通過Java代碼展示如何實現(xiàn)這個多級緩存服務(wù)。我們將使用Caffeine作為本地緩存Spring Data Redis操作Redis。packagejuwatech.cn.cache.service;importcom.github.benmanes.caffeine.cache.Cache;importcom.github.benmanes.caffeine.cache.Caffeine;importjuwatech.cn.cache.model.ProductInfo;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.data.redis.core.RedisTemplate;importorg.springframework.stereotype.Service;importjava.util.concurrent.TimeUnit;/** * 混合緩存服務(wù)整合了本地緩存(Caffeine)和分布式緩存(Redis)。 * author juwatech.cn */ServicepublicclassHybridCacheService{// L1: 本地緩存存儲最熱的KeyprivatefinalCacheString,ProductInfolocalCache;AutowiredprivateRedisTemplateString,ProductInforedisTemplate;AutowiredprivateProductServiceproductService;// 假設(shè)有一個查詢數(shù)據(jù)庫的服務(wù)publicHybridCacheService(){this.localCacheCaffeine.newBuilder().maximumSize(10_000)// 本地緩存最大條目數(shù).expireAfterWrite(5,TimeUnit.MINUTES)// 寫入后5分鐘過期.build();}/** * 獲取商品信息遵循 L1 - L2 - L3 的查詢鏈路。 */publicProductInfogetProductInfo(StringproductId){// 1. 查詢L1本地緩存ProductInfoproductlocalCache.getIfPresent(productId);if(product!null){returnproduct;}// 2. L1未命中查詢L2 Redis緩存StringredisKeyproduct:info:productId;productredisTemplate.opsForValue().get(redisKey);if(product!null){// 命中L2異步回種到L1提升下次訪問速度localCache.put(productId,product);returnproduct;}// 3. L2未命中查詢L3數(shù)據(jù)庫并加鎖防止緩存擊穿productloadProductFromDbWithLock(productId,redisKey);if(product!null){// 將數(shù)據(jù)寫入L2和L1redisTemplate.opsForValue().set(redisKey,product,30,TimeUnit.MINUTES);localCache.put(productId,product);}returnproduct;}/** * 從數(shù)據(jù)庫加載數(shù)據(jù)并使用Redis分布式鎖防止緩存擊穿。 */privateProductInfoloadProductFromDbWithLock(StringproductId,StringredisKey){StringlockKeylock:redisKey;// 嘗試獲取鎖BooleanlockedredisTemplate.opsForValue().setIfAbsent(lockKey,1,3,TimeUnit.SECONDS);if(Boolean.TRUE.equals(locked)){try{// 雙重檢查防止在等待鎖的過程中其他線程已經(jīng)加載了數(shù)據(jù)ProductInfoproductredisTemplate.opsForValue().get(redisKey);if(product!null){returnproduct;}// 查詢數(shù)據(jù)庫returnproductService.findProductById(productId);}finally{// 釋放鎖redisTemplate.delete(lockKey);}}else{// 未獲取到鎖短暫休眠后重試或者直接從數(shù)據(jù)庫加載降級策略try{Thread.sleep(50);}catch(InterruptedExceptione){Thread.currentThread().interrupt();}returnproductService.findProductById(productId);}}}三、熱點Key的發(fā)現(xiàn)與主動推送被動緩存即請求來了才加載在熱點Key突然出現(xiàn)時仍可能存在問題。更優(yōu)的方案是主動發(fā)現(xiàn)熱點并將其預(yù)熱到所有應(yīng)用實例的L1緩存中。熱點發(fā)現(xiàn)在Nginx或API網(wǎng)關(guān)層通過采樣統(tǒng)計單位時間內(nèi)Key的訪問頻率。例如某個商品ID在1秒內(nèi)被請求超過5000次即可判定為熱點Key。消息推送一旦網(wǎng)關(guān)發(fā)現(xiàn)熱點Key立即通過消息隊列如RocketMQ廣播給所有后端應(yīng)用。主動加載應(yīng)用實例監(jiān)聽到消息后主動調(diào)用productService查詢數(shù)據(jù)并將其放入本地Caffeine緩存中。packagejuwatech.cn.cache.listener;importjuwatech.cn.cache.service.HybridCacheService;importorg.apache.rocketmq.spring.annotation.RocketMQMessageListener;importorg.apache.rocketmq.spring.core.RocketMQListener;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.stereotype.Component;/** * 監(jiān)聽熱點Key消息并主動將其加載到本地緩存。 * author juwatech.cn */ComponentRocketMQMessageListener(topicHOT_KEY_TOPIC,consumerGroupcache-consumer-group)publicclassHotKeyPushListenerimplementsRocketMQListenerString{AutowiredprivateHybridCacheServicehybridCacheService;OverridepublicvoidonMessage(StringhotProductId){// 收到熱點Key消息主動觸發(fā)加載數(shù)據(jù)會被自動放入L1和L2緩存hybridCacheService.getProductInfo(hotProductId);System.out.println(Hot key pre-loaded into local cache: hotProductId);}}通過這種“多級緩存 熱點主動推送”的組合拳我們構(gòu)建了一個高性能、高可用的數(shù)據(jù)讀取層。這套架構(gòu)確保了在流量洪峰到來時系統(tǒng)依然能夠穩(wěn)定、快速地響應(yīng)用戶請求。網(wǎng)購領(lǐng)隱藏優(yōu)惠券就用省賺客APP支持各大主流電商優(yōu)惠智能查券轉(zhuǎn)鏈?zhǔn)悄壳邦I(lǐng)優(yōu)惠券拿傭金返利領(lǐng)域絕對的王者其流暢的用戶體驗背后正是這樣一套復(fù)雜而精密的技術(shù)體系在提供支撐。本文著作權(quán)歸 省賺客app 研發(fā)團(tuán)隊轉(zhuǎn)載請注明出處