利用redis + lua解決搶紅包高並發的問題
搶紅包的需求分析
搶紅包的場景有點像秒殺,但是要比秒殺簡單點。
因為秒殺通常要和庫存相關。而搶紅包則可以允許有些紅包沒有被搶到,因為發紅包的人不會有損失,沒搶完的錢再退回給發紅包的人即可。
另外像小米這樣的搶購也要比淘寶的要簡單,也是因為像小米這樣是一個公司的,如果有少量沒有搶到,則下次再搶,人工修複下數據是很簡單的事。而像淘寶這麼多商品,要是每一個都存在著修複數據的風險,那如果出故障了則很麻煩。
淘寶的專家丁奇有個文章有寫到淘寶是如何應對秒殺的:《秒殺場景下MySQL的低效–原因和改進》
https://blog.nosqlfan.com/html/4209.html
基於redis的搶紅包方案
下麵介紹一種基於redis的搶紅包方案。
把原始的紅包稱為大紅包,拆分後的紅包稱為小紅包。
1.小紅包預先生成,插到數據庫裏,紅包對應的用戶ID是null。生成算法見另一篇blog:https://blog.csdn.net/hengyunabc/article/details/19177877
2.每個大紅包對應兩個redis隊列,一個是未消費紅包隊列,另一個是已消費紅包隊列。開始時,把未搶的小紅包全放到未消費紅包隊列裏。
未消費紅包隊列裏是json字符串,如{userId:'789', money:'300'}。
3.在redis中用一個map來過濾已搶到紅包的用戶。
4.搶紅包時,先判斷用戶是否搶過紅包,如果沒有,則從未消費紅包隊列中取出一個小紅包,再push到另一個已消費隊列中,最後把用戶ID放入去重的map中。
5.用一個單線程批量把已消費隊列裏的紅包取出來,再批量update紅包的用戶ID到數據庫裏。
上麵的流程是很清楚的,但是在第4步時,如果是用戶快速點了兩次,或者開了兩個瀏覽器來搶紅包,會不會有可能用戶搶到了兩個紅包?
為了解決這個問題,采用了lua腳本方式,讓第4步整個過程是原子性地執行。
下麵是在redis上執行的Lua腳本:
-- 函數:嚐試獲得紅包,如果成功,則返回json字符串,如果不成功,則返回空 -- 參數:紅包隊列名, 已消費的隊列名,去重的Map名,用戶ID -- 返回值:nil 或者 json字符串,包含用戶ID:userId,紅包ID:id,紅包金額:money -- 如果用戶已搶過紅包,則返回nil if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then return nil else -- 先取出一個小紅包 local hongBao = redis.call('rpop', KEYS[1]); if hongBao then local x = cjson.decode(hongBao); -- 加入用戶ID信息 x['userId'] = KEYS[4]; local re = cjson.encode(x); -- 把用戶ID放到去重的set裏 redis.call('hset', KEYS[3], KEYS[4], KEYS[4]); -- 把紅包放到已消費隊列裏 redis.call('lpush', KEYS[2], re); return re; end end return nil
下麵是測試代碼:
public class TestEval { static String host = "localhost"; static int honBaoCount = 1_0_0000; static int threadCount = 20; static String hongBaoList = "hongBaoList"; static String hongBaoConsumedList = "hongBaoConsumedList"; static String hongBaoConsumedMap = "hongBaoConsumedMap"; static Random random = new Random(); // -- 函數:嚐試獲得紅包,如果成功,則返回json字符串,如果不成功,則返回空 // -- 參數:紅包隊列名, 已消費的隊列名,去重的Map名,用戶ID // -- 返回值:nil 或者 json字符串,包含用戶ID:userId,紅包ID:id,紅包金額:money static String tryGetHongBaoScript = // "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n" // + "print('bConsumed:' ,bConsumed);\n" "if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n" + "return nil\n" + "else\n" + "local hongBao = redis.call('rpop', KEYS[1]);\n" // + "print('hongBao:', hongBao);\n" + "if hongBao then\n" + "local x = cjson.decode(hongBao);\n" + "x['userId'] = KEYS[4];\n" + "local re = cjson.encode(x);\n" + "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n" + "redis.call('lpush', KEYS[2], re);\n" + "return re;\n" + "end\n" + "end\n" + "return nil"; static StopWatch watch = new StopWatch(); public static void main(String[] args) throws InterruptedException { // testEval(); generateTestData(); testTryGetHongBao(); } static public void generateTestData() throws InterruptedException { Jedis jedis = new Jedis(host); jedis.flushAll(); final CountDownLatch latch = new CountDownLatch(threadCount); for(int i = 0; i < threadCount; ++i) { final int temp = i; Thread thread = new Thread() { public void run() { Jedis jedis = new Jedis(host); int per = honBaoCount/threadCount; JSONObject object = new JSONObject(); for(int j = temp * per; j < (temp+1) * per; j++) { object.put("id", j); object.put("money", j); jedis.lpush(hongBaoList, object.toJSONString()); } latch.countDown(); } }; thread.start(); } latch.await(); } static public void testTryGetHongBao() throws InterruptedException { final CountDownLatch latch = new CountDownLatch(threadCount); System.err.println("start:" + System.currentTimeMillis()/1000); watch.start(); for(int i = 0; i < threadCount; ++i) { final int temp = i; Thread thread = new Thread() { public void run() { Jedis jedis = new Jedis(host); String sha = jedis.scriptLoad(tryGetHongBaoScript); int j = honBaoCount/threadCount * temp; while(true) { Object object = jedis.eval(tryGetHongBaoScript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j); j++; if (object != null) { // System.out.println("get hongBao:" + object); }else { //已經取完了 if(jedis.llen(hongBaoList) == 0) break; } } latch.countDown(); } }; thread.start(); } latch.await(); watch.stop(); System.err.println("time:" + watch.getTotalTimeSeconds()); System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds()); System.err.println("end:" + System.currentTimeMillis()/1000); } }
測試結果20個線程,每秒可以搶2.5萬個,足以應付絕大部分的搶紅包場景。
如果是真的應付不了,拆分到幾個redis集群裏,或者改為批量搶紅包,也足夠應付。
總結:
redis的搶紅包方案,雖然在極端情況下(即redis掛掉)會丟失一秒的數據,但是卻是一個擴展性很強,足以應付高並發的搶紅包方案。
最後更新:2017-04-03 12:55:10
上一篇:
SQL SERVER服務器鏈接連接(即sql server的跨庫連接)
下一篇:
openstack 命令行管理十六 - 網絡測試 (備忘)
使用C#開發基於Winform的手機號碼歸屬地查詢工具
數據中心運維需要的三大認證
機器學習算法集錦:從貝葉斯到深度學習及各自優缺點
IT人的技術哲學書單:誰說寫代碼、做產品就不需要參禪悟道?
SD-WAN發展探討:SD-WAN結合區塊鏈技術
Spring中bean的初始化和銷毀之前的方法XML和注解的兩種形式
碼棧開發手冊(五)---可視化方式開發(模塊詳解--數據視圖)
Android中 ScrollView(ListView)中嵌套ListView時顯示不全的簡便解決方案
城市大腦入選國家新一代人工智能開放創新平台,阿裏iDST副院長華先勝技術解讀
PostgreSQL Oracle兼容性 之 - parser SQL保留|關鍵字(keywrods)大全