利用redis + lua解決搶紅包高並發的問題
搶紅包的需求分析
搶紅包的場景有點像秒殺,但是要比秒殺簡單點。
因為秒殺通常要和庫存相關。而搶紅包則可以允許有些紅包沒有被搶到,因為發紅包的人不會有損失,沒搶完的錢再退回給發紅包的人即可。
另外像小米這樣的搶購也要比淘寶的要簡單,也是因為像小米這樣是一個公司的,如果有少量沒有搶到,則下次再搶,人工修複下數據是很簡單的事。而像淘寶這麼多商品,要是每一個都存在著修複數據的風險,那如果出故障了則很麻煩。
淘寶的專家丁奇有個文章有寫到淘寶是如何應對秒殺的:《秒殺場景下MySQL的低效–原因和改進》
https://blog.nosqlfan.com/html/4209.html
基於redis的搶紅包方案
下麵介紹一種基於redis的搶紅包方案。
把原始的紅包稱為大紅包,拆分後的紅包稱為小紅包。
1.小紅包預先生成,插到數據庫裏,紅包對應的用戶ID是null。生成算法見另一篇blog:https://blog.csdn.net/hengyunabc/article/details/19177877
2.每個大紅包對應兩個redis隊列,一個是未消費紅包隊列,另一個是已消費紅包隊列。開始時,把未搶的小紅包全放到未消費紅包隊列裏。
未消費紅包隊列裏是json字符串,如{userId:'789', money:'300'}。
3.在redis中用一個map來過濾已搶到紅包的用戶。
4.搶紅包時,先判斷用戶是否搶過紅包,如果沒有,則從未消費紅包隊列中取出一個小紅包,再push到另一個已消費隊列中,最後把用戶ID放入去重的map中。
5.用一個單線程批量把已消費隊列裏的紅包取出來,再批量update紅包的用戶ID到數據庫裏。
上麵的流程是很清楚的,但是在第4步時,如果是用戶快速點了兩次,或者開了兩個瀏覽器來搶紅包,會不會有可能用戶搶到了兩個紅包?
為了解決這個問題,采用了lua腳本方式,讓第4步整個過程是原子性地執行。
下麵是在redis上執行的Lua腳本:
-- 函數:嚐試獲得紅包,如果成功,則返回json字符串,如果不成功,則返回空
-- 參數:紅包隊列名, 已消費的隊列名,去重的Map名,用戶ID
-- 返回值:nil 或者 json字符串,包含用戶ID:userId,紅包ID:id,紅包金額:money
-- 如果用戶已搶過紅包,則返回nil
if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
return nil
else
-- 先取出一個小紅包
local hongBao = redis.call('rpop', KEYS[1]);
if hongBao then
local x = cjson.decode(hongBao);
-- 加入用戶ID信息
x['userId'] = KEYS[4];
local re = cjson.encode(x);
-- 把用戶ID放到去重的set裏
redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
-- 把紅包放到已消費隊列裏
redis.call('lpush', KEYS[2], re);
return re;
end
end
return nil
下麵是測試代碼:
public class TestEval {
static String host = "localhost";
static int honBaoCount = 1_0_0000;
static int threadCount = 20;
static String hongBaoList = "hongBaoList";
static String hongBaoConsumedList = "hongBaoConsumedList";
static String hongBaoConsumedMap = "hongBaoConsumedMap";
static Random random = new Random();
// -- 函數:嚐試獲得紅包,如果成功,則返回json字符串,如果不成功,則返回空
// -- 參數:紅包隊列名, 已消費的隊列名,去重的Map名,用戶ID
// -- 返回值:nil 或者 json字符串,包含用戶ID:userId,紅包ID:id,紅包金額:money
static String tryGetHongBaoScript =
// "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n"
// + "print('bConsumed:' ,bConsumed);\n"
"if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n"
+ "return nil\n"
+ "else\n"
+ "local hongBao = redis.call('rpop', KEYS[1]);\n"
// + "print('hongBao:', hongBao);\n"
+ "if hongBao then\n"
+ "local x = cjson.decode(hongBao);\n"
+ "x['userId'] = KEYS[4];\n"
+ "local re = cjson.encode(x);\n"
+ "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n"
+ "redis.call('lpush', KEYS[2], re);\n"
+ "return re;\n"
+ "end\n"
+ "end\n"
+ "return nil";
static StopWatch watch = new StopWatch();
public static void main(String[] args) throws InterruptedException {
// testEval();
generateTestData();
testTryGetHongBao();
}
static public void generateTestData() throws InterruptedException {
Jedis jedis = new Jedis(host);
jedis.flushAll();
final CountDownLatch latch = new CountDownLatch(threadCount);
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
int per = honBaoCount/threadCount;
JSONObject object = new JSONObject();
for(int j = temp * per; j < (temp+1) * per; j++) {
object.put("id", j);
object.put("money", j);
jedis.lpush(hongBaoList, object.toJSONString());
}
latch.countDown();
}
};
thread.start();
}
latch.await();
}
static public void testTryGetHongBao() throws InterruptedException {
final CountDownLatch latch = new CountDownLatch(threadCount);
System.err.println("start:" + System.currentTimeMillis()/1000);
watch.start();
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
String sha = jedis.scriptLoad(tryGetHongBaoScript);
int j = honBaoCount/threadCount * temp;
while(true) {
Object object = jedis.eval(tryGetHongBaoScript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);
j++;
if (object != null) {
// System.out.println("get hongBao:" + object);
}else {
//已經取完了
if(jedis.llen(hongBaoList) == 0)
break;
}
}
latch.countDown();
}
};
thread.start();
}
latch.await();
watch.stop();
System.err.println("time:" + watch.getTotalTimeSeconds());
System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());
System.err.println("end:" + System.currentTimeMillis()/1000);
}
}
測試結果20個線程,每秒可以搶2.5萬個,足以應付絕大部分的搶紅包場景。
如果是真的應付不了,拆分到幾個redis集群裏,或者改為批量搶紅包,也足夠應付。
總結:
redis的搶紅包方案,雖然在極端情況下(即redis掛掉)會丟失一秒的數據,但是卻是一個擴展性很強,足以應付高並發的搶紅包方案。
最後更新:2017-04-03 12:55:10
上一篇:
SQL SERVER服務器鏈接連接(即sql server的跨庫連接)
下一篇:
openstack 命令行管理十六 - 網絡測試 (備忘)
使用C#開發基於Winform的手機號碼歸屬地查詢工具
數據中心運維需要的三大認證
機器學習算法集錦:從貝葉斯到深度學習及各自優缺點
IT人的技術哲學書單:誰說寫代碼、做產品就不需要參禪悟道?
SD-WAN發展探討:SD-WAN結合區塊鏈技術
Spring中bean的初始化和銷毀之前的方法XML和注解的兩種形式
碼棧開發手冊(五)---可視化方式開發(模塊詳解--數據視圖)
Android中 ScrollView(ListView)中嵌套ListView時顯示不全的簡便解決方案
城市大腦入選國家新一代人工智能開放創新平台,阿裏iDST副院長華先勝技術解讀
PostgreSQL Oracle兼容性 之 - parser SQL保留|關鍵字(keywrods)大全