閱讀391 返回首頁    go 阿裏雲 go 技術社區[雲棲]


輕鬆hold住雙11數據洪峰背後的秘密

雙11剛剛拉下帷幕,激動的心還停留在那一刻——當秒針剛跨過11號零點的一瞬間,來自線上線下的千萬剁手黨在第一時間湧入了這場年度大趴——從進入會場到點擊詳情頁,再到下單付款一氣嗬成。

前台在大家狂歡的同時,後台數據流量也正以突破曆史新高的洪峰形式急劇湧入:
- 支付成功峰值達 25.6 萬筆/秒
- 實時數據處理峰值 4.72億條/秒

而作為實時數據處理任務中最為重要的集團數據公共層(保障著業務的實時數據、媒體大屏等核心任務),在當天的總數據處理峰值更是創曆史新高達1.8億/秒!

想象下,1秒鍾時間內千萬人湧入雙11會場的同時,依然應對自如!

麵對流量峰值為去年100%增幅的數據洪峰,流計算技術今天我們突破的不止一點點,現在讓我們揭開覆蓋全集團實時數據的最新流計算技術吧!

流計算的產生即來源於數據加工時效性的嚴苛需求:

由於數據的業務價值會隨著時間的流失而迅速降低,因此在數據發生後必須盡快對其進行計算和處理,從而能夠通過數據第一時間掌握業務情況。今年雙11的流計算也麵臨著一場實時數據洪峰的考驗。

首先來展示今年(2017年)較去年(2016年)數據洪峰峰值的比較:

2016年:支付成功峰值12萬筆/秒,總數據處理峰值9300萬/秒
2017年:支付成功峰值25.6 萬筆/秒,實時數據處理峰值 4.72億條/秒,阿裏巴巴集團數據公共層總數據處理峰值1.8億/秒

在今年雙11流量峰值翻翻的情況下,依然穩固做到實時數據更新頻率:
——從第1秒千萬剁手黨湧入到下單付款,到完成實時計算投放至媒體大屏全路徑,秒級響應!

麵對越發抬升的流量麵前,實時數據卻越來越快、越來越準!在輕鬆hold住數據洪峰的背後,是阿裏巴巴流計算技術的全麵升級。

050af07f6c998f98379563e2153eaf4187fc4ed5

阿裏數據在11月28日的北京,將會舉辦一場閉門分享。你可以了解,技術創新的背後,數據人是如何為之努力的。針對流計算環節,我們將分享

流計算應用場景

數據中台流計算實踐中的數據鏈路

計算引擎升級及優化

……

同時,本次雙11閉門分享還會涉及:雙11數據保障始末、又準又快的實時計算、酷炫到飛起來的媒體大屏……

同時,本次雙11閉門分享還會涉及:雙11數據保障始末、又準又快的實時計算、酷炫到飛起來的媒體大屏……

09fdd2a77a4516466f914e77c67731e5e70132fa



原文發布時間為:2017-11-21

本文作者:雙11分享北京站

本文來自雲棲社區合作夥伴“阿裏數據”,了解相關信息可以關注“阿裏數據”微信公眾號

最後更新:2017-11-26 22:05:07

  上一篇:go  基因大數據分析的雲計算實踐
  下一篇:go  41歲阿裏工程師:35歲轉管理,真的是必經之路嗎?