閱讀338 返回首頁    go 阿裏雲 go 技術社區[雲棲]


從未停止進化的MaxCompute

2017雲棲大會·杭州峰會將於10月10日-14日在杭州雲棲小鎮隆重舉行,據相關數據顯示大會多場主題分論壇門票都已經售罄。在這110餘場主題分論壇中,可能備受大家最為感興趣是人工智能、大數據的專場。大數據的熱度在深圳峰會、成都峰會、上海峰會都逐一印證。

a866d69c-0c07-41c6-92a6-c0e6c632a3b0.png
提到阿裏巴巴、阿裏雲大家都會想到大數據、科技,也會聯想到阿裏巴巴自研的大數據平台MaxCompute。MaxCompute從誕生至今也已經有7個年頭了:從 2010 年 4 月,MaxCompute正式投入阿裏雲金融生產到2016 年 MaxCompute 2.0 雲棲大會正式對外發布,無不證明MaxCompute在成長、在壯大、在擁抱生態、在賦能更多夥伴實現業務數據化,數據業務化。
c320fc5c-7e3c-40f8-858d-135c3e781ff0.png
(圖:2016杭州雲棲大會 計算平台負責人關濤做MaxCompute2.0發布)
距離2016年雲棲大會已經整整一年,今年雲棲大會·杭州峰會,MaxCompute會給大家帶來什麼不一樣的主題分享呢?我們先看今年阿裏雲大數據計算服務(MaxCompute)專場的議題安排,在10月14日上午,具體如下:
時間
主題
講師
9:00——9:30
MaxCompute 2.0:阿裏巴巴的大數據進化之路
關濤 Senior Staff Engineer
9:30——10:00
MaxCompute擁抱開源大數據技術生態
李睿博 高級專家
10:00——10:30
MaxCompute的索引與優化實踐分享
戴謝寧 高級專家
10:30——11:00
MaxCompute助力眾安保險快速成長
王超群 眾安保險數據總監
11:00——11:30
MaxCompute基於BigBench標準的最新測試進展
路璐 技術專家
11:30——12:00
大數據計算服務MaxCompute的技術回顧與發展
林偉 阿裏雲首席架構師
MaxCompute 2.0從對外發布至今已經一年之餘(MaxCompute在對外發布、上線都是需要在阿裏巴巴集團內生產上錘煉並按期穩定運行2個月才能對外),那在這一年阿裏巴巴的大數據技術都在哪些方麵進化了,從架構上,從計算效率上,從存儲成本上,從擁抱開源生態上、從對非結構化數據的支持上等,MaxCompute2.0一直在進化,從未停止過。這裏有我們MaxCompute掌門人關濤對各位開發者做一個年度總結,總結MaxCompute 2.0在這一年是如何蛻變?
acb2ab3a-c756-4a8c-836e-c7980edf1429.png
那提起阿裏巴巴自主研發的大數據計算平台MaxCompute,更多人可能都喜歡將其與Hadoop、Spark、Flink等開源社區的產品做對比。Hadoop生態的繁榮是所有開發者都毋庸置疑的,但是並不代表其可以被所有開發者乃至創業公司、經過幾輪融資的風口公司以及數據業務壯大的公司所能夠有效掌控利用起來的。需要的運維團隊、機房建設、網絡建設等都是互聯網風頭上公司不可承受的時間成本和財務成本。而MaxCompute在公共雲上對外提供服務,所有開發者隻需要1分鍾開箱即用,無需關心底層架構、運維等,同時MaxCompute在擁抱生態上也有了大幅度提升,用戶可以無縫將任務遷移至MaxCompute,等等。這一塊由MaxCompute生態研發主管李睿博為大家帶來精彩分享。
58d953ae-2a44-443f-af1f-b7c5911e18cf.png
MaxCompute在這一年來也做了很多優化,對阿裏巴巴集團內以及對外部的客戶都無形中釋放了很多紅利,比如MaxCompute 2.0在索引與優化上做了很多優化。隨著業務的複雜性提升,MaxCompute遇到的問題千奇百怪,五花八門,匪夷所思。本Topic皆在解密MaxCompute2.0索引的原理以及如何優化慢查詢的實踐。
為此,MaxCompute 運營團隊要邀請到眾安保險數據總監王超群,為大家分享,眾安保險是如何用MaxCompute為眾安保險插上了大數據的翅膀。眾安保險是一家數據驅動的創新型互聯網保險公司,這家公司通過大數據的手段挖掘新的社會需求、創造新的產品,公司幾乎所有的數據業務、算法模型都每天安全可靠的運行在MaxCompute上。MaxCompute是如何助力眾安保險在雲計算時代快速成長,為數據驅動的公司帶來了哪些價值。
1eb9f222-8603-41ac-a713-8cd05a4963cb.png
對於MaxCompute 有了一個全新的SQL 2.0引擎,無不實現高性能與低成本。這些在國際上都是有相關記錄,在2015年Sort Benchmark在官方網站公布了2015年排序競賽的最終成績。其中,阿裏雲用不到7分鍾(377秒)就完成了100TB的數據排序,打破了Apache Spark的紀錄23.4分鍾。Sort Benchmark有全球科技公司“計算奧運會”之稱,更早之前Hadoop的記錄是72分鍾。
2016 年 11 月 10 日,Sort Benchmark 在官方網站公布了 2016 年排序競賽 CloudSort 項目的最終成績。阿裏雲以$1.44/TB 的成績獲得 Indy(專用目的排序)和 Daytona(通用目的排序) 兩個子項的世界冠軍,打破了 AWS 在 2014 年保持的紀錄 4.51$/TB。這意味著阿裏雲將世界頂級的計算能力,變成普惠科技的雲產品。CloudSort 又被稱為“雲計算效率之爭”,這項目賽比拚的是完成 100T 數據排序誰的花費更少,也是 Sortbenchmark 的各項比賽當中最具現實意義的項目之一。
c345a5c8-3c94-457a-a1c9-c761ee950e33.png
那2017年,MaxCompute研發團隊並沒有閑著,他們到底在這一塊標準測試中有哪些進展?本次也會由路璐技術專家為大家同步並介紹這一年來的測試進展。
從ODPS到MaxCompute,從MaxCompute到MaxCompute2.0,產品和技術上都得到很大提升,也很大服務將技術紅利讓給我們的用戶,從計算、存儲成本的節省,到開發效率的提升,再到生態開源的對接,MaxCompute一直在成長,那未來的路應該怎麼順應大數據時代潮流,如何滿足不斷變化的需求,首席架構師林偉親自為大家解讀。
8fe65731-eeed-43bf-a1a3-b05eee786b67.png
2017 杭州· 雲棲大會 阿裏雲大數據計算服務(MaxCompute)專場不見不散!

最後更新:2017-09-25 12:04:12

  上一篇:go  素描個人展-徐昕
  下一篇:go  深度學習的挑戰