輕鬆hold住雙11數據洪峰背後的秘密
雙11剛剛拉下帷幕,激動的心還停留在那一刻——當秒針剛跨過11號零點的一瞬間,來自線上線下的千萬剁手黨在第一時間湧入了這場年度大趴——從進入會場到點擊詳情頁,再到下單付款一氣嗬成。
前台在大家狂歡的同時,後台數據流量也正以突破曆史新高的洪峰形式急劇湧入:
- 支付成功峰值達 25.6 萬筆/秒
- 實時數據處理峰值 4.72億條/秒
而作為實時數據處理任務中最為重要的集團數據公共層(保障著業務的實時數據、媒體大屏等核心任務),在當天的總數據處理峰值更是創曆史新高達1.8億/秒!
想象下,1秒鍾時間內千萬人湧入雙11會場的同時,依然應對自如!
麵對流量峰值為去年100%增幅的數據洪峰,流計算技術今天我們突破的不止一點點,現在讓我們揭開覆蓋全集團實時數據的最新流計算技術吧!
流計算的產生即來源於數據加工時效性的嚴苛需求:
由於數據的業務價值會隨著時間的流失而迅速降低,因此在數據發生後必須盡快對其進行計算和處理,從而能夠通過數據第一時間掌握業務情況。今年雙11的流計算也麵臨著一場實時數據洪峰的考驗。
首先來展示今年(2017年)較去年(2016年)數據洪峰峰值的比較:
2016年:支付成功峰值12萬筆/秒,總數據處理峰值9300萬/秒
2017年:支付成功峰值25.6 萬筆/秒,實時數據處理峰值 4.72億條/秒,阿裏巴巴集團數據公共層總數據處理峰值1.8億/秒
在今年雙11流量峰值翻翻的情況下,依然穩固做到實時數據更新頻率:
——從第1秒千萬剁手黨湧入到下單付款,到完成實時計算投放至媒體大屏全路徑,秒級響應!
麵對越發抬升的流量麵前,實時數據卻越來越快、越來越準!在輕鬆hold住數據洪峰的背後,是阿裏巴巴流計算技術的全麵升級。
阿裏數據在11月28日的北京,將會舉辦一場閉門分享。你可以了解,技術創新的背後,數據人是如何為之努力的。針對流計算環節,我們將分享
流計算應用場景
數據中台流計算實踐中的數據鏈路
計算引擎升級及優化
……
同時,本次雙11閉門分享還會涉及:雙11數據保障始末、又準又快的實時計算、酷炫到飛起來的媒體大屏……
同時,本次雙11閉門分享還會涉及:雙11數據保障始末、又準又快的實時計算、酷炫到飛起來的媒體大屏……
原文發布時間為:2017-11-21
本文作者:雙11分享北京站
本文來自雲棲社區合作夥伴“阿裏數據”,了解相關信息可以關注“阿裏數據”微信公眾號
最後更新:2017-11-26 22:05:07