205
技術社區[雲棲]
ApsaraDB雲數據庫助力優駕產品升級和架構變革
2017雲棲大會POLARDB專場,廣州通易科技有限公司技術負責人劉錟帶來ApsaraDB雲數據庫助力優駕產品升級和架構變革的演講。本文主要先介紹了優駕產品,接著介紹了應用需求與技術架構,最後分享了上雲之路和使用雲數據庫的體會。
以下是精彩內容分享:
優駕產品
我們做的產品是車聯網的產品,最右邊是連接汽車API的盒子,我們做APP連接盒子。我們出了一個旗艦產品,4G後視鏡和車的連接大屏,產品本質上來講就是AI助理,幫助大家解決一些用車的小問題,怎麼開車出行,怎麼精明養車等。
我們的產品深度支持100多個車品牌,我們能讀出來的數據能力和專業4S店診斷儀診斷出來的數據一樣。
應用需求與技術架構
這是數據的架構,車裏傳感器非常多,很多數據流都在汽車總線上跑。而車對外暴露一個API 16楨接口,把車和網絡連接起來。盒子不管是和手機、平板、後視鏡、車機,都是通過藍牙連接,數據上傳到雲分析數據。
汽車裏的數據流比我們想象當中要多,儀表上可見的都是數據流,儀表上不可見的也有各種各樣數據流,還包括在車上能看到各種各樣故障燈。假設有100個數據流,每個數據流都是在50毫秒產生一個數字的變化,這個時候數據量是很大的,比如在國慶期間,有一位用戶大概15天的時間從廣西南寧出發,然後把青藏線和川藏線全部走了一遍,跑了8千多公裏,他把8千多公裏數據在一個時間點提交傳上來,他的數據一天行車1200公裏,1200公裏數據大概有50萬條原始數據,還不是我們處理後的數據,這意味著8千公裏大概就是350萬條左右,一次性一個峰值一個用戶就把數據提交上來,我們就很痛苦自己多出一個BUG,導致不正常。
現在數據庫存儲成本高,我們並沒有把所有數據都存到數據庫。大家知道一個應用隻有10萬個用戶,其實是非常小的應用,但它的數據量很高。我們想要做的事情是在車出現異常之前發現它,發現它之後找到解決方案,我作為一個車主能不能去之前就知道車可能會怎麼修,哪一個部件壞了,甚至於部件在網上哪個賣家賣得最便宜,這是我們想要解決的問題。
我們通過大數據預測車況異常,數據接進來之後用一些機器學習算法,包括專家的知識庫做一個問題預測。然後能夠把維修方案給出來,跟哪個部件有關,然後再去做維修配件電商全網比價,把所有電商上汽車配件全部抓下來,看它的價格比較,告訴你去哪一家買是最便宜的。這個應用的範圍很廣。
與雲共舞
最開始產品上線的時候,我們自己弄了一個服務器,用戶量很少。大家也知道應用的特性,數據快速增長,我們天天還想著開發一些業務的功能,數據庫性能也很差,用戶工作量也很大。後來阿裏雲技術專家提了很多意見,和我們探討怎麼把自建服務器上環境遷移到雲上麵來。
上雲之路
最開始我們用雲的時候,買InnoDB的實例,性能很高,運維起來很簡單。我們沒有DBA,隻有開發人員客串DBA。這時候還是有兩個問題:第一,數據還是快速增長,數據存儲成本肯定還會很高;第二,當時數據庫實例是2TB,通過2TB的上線,這時候要做分庫分表,再買個實例很麻煩。
MySQL的RDS是2個TB,hadoop是PB級別的。大家有沒有想過一個問題,10個TB的數據和100個TB的數據也要用hadoop嗎?有沒有一類產品,它能夠突破這個上線,因為MySQL我們用起來很熟悉,MySQL能不能支持大數據產品的應用。阿裏雲出來一個產品支持TokuDB存儲引擎,5倍的壓縮比。當時我們把一些事物處理放在InnoDB,OLAP放在TokuDB上。
但問題又來了,TokuDB還是有上限的,後來出現了Hybrid,我的體會有幾點:
第一,它依然是支持MySQL的,所以用起來不需要再去學習什麼,很方便;
第二,它存儲成本會相對低一些,因為它是SSD和SATA混合,也支持高壓縮,TokuDB引擎在裏麵依然可以用;
第三,一份存儲數據既可以做TP業務,也可以用AP業務。大家也知道要把這些數據拿出來做分析,要把數據拖到另外一個地方去,用之前準備工作太長,這個數據庫好的地方在於我寫一次,APP業務也可以在上麵跑,有分布式數據庫;
第四,直接可用,最後數據突破上限PB級。
其實產品出來之後,一樣還存在問題,隻讀實例,成本線性增加、創建速度慢;數據備份,2TB、50小時。POLARDB一次性滿足了我全部的幻想,我們作為一個不知名的廠商在做很小的產品,在解決一些很小的問題,使用POLARDB,我可以用很少的成本。
使用雲數據庫的體會
雲數據庫用了這麼久,在這幾年用阿裏雲的數據庫產品給我印象最深刻的是阿裏雲的價值觀,他們能把客戶放在第一位。
首先,它不怠慢客戶。我們的產品在剛剛出來時也沒有什麼用處,隻是自己有問題而已。在這個時候他們不會因為你是一個很小的客戶,提出問題就不重視。我們從當時提出問題到現在阿裏雲推出的各個產品線,解決了當時提的問題,MySQL能不能支持大數據場景下的應用。
其次,積極互動。他們的產品有什麼意見,他們會經常主動問意見。
第三點,阿裏雲的數據庫有一個特點,你有什麼新的需求我們就開發新的產品對應你。
第四點也是最重要的一點,堅持性價比。性價比很重要,我之所以用你,你的東西固然好,但必須得便宜,中小企業關注的是成本。
最後更新:2017-10-27 20:03:49