293
魔獸
Web控製台介紹__使用指南_DataHub實時數據通道_大數據計算服務-阿裏雲
控製台地址 DataHub WebConsole
創建Project
在WebConsole中直接點擊創建Project後填寫相關信息
查看Project
用戶點擊Project列表中的查看按鈕,可查看該Project的詳細信息以及該Project下的Topic列表。
刪除Project
用戶點擊Project列表中的刪除按鈕進行Project的刪除。需要注意的是,一旦刪除Project,該Project下所有Topic,數據,及資源均被刪除,無法恢複,請謹慎操作。
創建Topic
用戶點擊Project詳情頁麵中的創建Topic按鈕,進行Topic的創建。
可以通過兩種方式創建Topic
自定義格式直接創建
用戶可根據業務需求進行Topic的創建,各選項的意義可查看幫助文檔中的基本概念。
通過導入MaxCompute表結構進行創建
需要指定訪問MaxCompute的相關參數:
該種方式創建Topic可以自動創建導入數據到MaxCompute的Connector,勾選如下圖所示選項即可,選中後將不可修改格式:
刪除Topic
用戶點擊Topic列表中的刪除按鈕可進行Topic的刪除。需要注意的是,一旦刪除Topic,該Topic下的數據,資源(Shard, Connector)均被刪除,無法恢複,請謹慎操作。
查看Topic
用戶點擊Topic列表中的查看按鈕,可查看該Topic詳細信息以及該Topic下的資源列表,包括Shard和Connector
Topic詳情展示了Topic的創建/修改時間,shard數量,Topic的生命周期以及注釋等信息;
Shard列表中包括ShardId,各個Shard狀態;其中ShardId是該Shard在Topic中的唯一標識; Shard狀態反應該Shard是否可進行數據發布與訂閱;
Connector列表展示該Topic下存在的Connector信息: 內部標識唯一確定該Topic下的Connector; 類型表示該Connector所指向的目的端,目前隻有Odps;目的項目名稱以及目的表名稱指定需要歸檔到的ODPS項目和表名稱;
數據采集
Web Console集成了上傳文件到DataHub的功能。
選擇Topic之後,指定與Topic對應格式的文件,並點擊 “開始上傳文件按鈕“,文件中的數據就按照指定要求上傳到對應的Topic中。
數據抽樣
Web Console提供對Shard的基於時間的數據抽樣功能。用戶可在Shard列表中選擇Shard點擊列表尾端的數據抽樣按鈕,進入數據抽樣頁麵。
設置指定時間與數量限製,展示在指定時間之後寫入的指定數量的Record,當Record數不足指定數量時,展示僅有的Records。當指定時間大於等於當前時間,僅展示最後一條記錄。
歸檔MaxCompute
目前,DataHub僅提供創建歸檔到MaxCompute的Connector的功能。在Topic詳情頁中,點擊歸檔MaxCompute按鈕,進入創建Connector頁麵
MaxCompute Project: 指定Topic需要同步到的MaxCompute project名稱;
MaxCompute Table: 指定Topic需要同步到的MaxCompute table名稱;
AccessId/AccessKey: 訪問MaxCompute所需要的AK對,該AK必須是子用戶AK,並且具有指定的MaxCompute table下CreateInstance、Desc、Alter權限;
歸檔詳情
歸檔詳情提供歸檔任務的基本信息,包括DataHub的Topic以及需要歸檔到的MaxCompute項目和表;以及整體歸檔進度,包括最新寫入時間、已歸檔時間和歸檔延遲。最新寫入時間表示指定Topic中最新的寫入記錄的係統時間; 已歸檔時間表示在該時間之前的記錄已全部歸檔; 延遲時長為最新寫入時間和已歸檔時間的差值,單位秒。
歸檔詳情中可以查看該Connector歸檔任務中每個shard的歸檔狀況。當運行狀態為”ERROR”時,鼠標移動到幫助圖標會顯示該Shard歸檔任務終止的詳細報錯信息,並且該Shard的重啟功能可用。用戶可根據報錯信息進行修複(如,因為刪除MaxCompute Partition導致的任務終止,可以通過MaxCompute控製台,SDK等創建Partition,修複完成後,點擊該Shard的”重啟”按鈕,該Shard的歸檔任務將重新被調度,並且從上次終止的記錄開始進行歸檔。若所有Shard或者大部分Shard處於非”RUNNING”狀態,可點擊”重啟歸檔”按鈕,重啟所有Shard的歸檔任務。
Metric查看
Web Console目前提供Metric功能,用戶可以通過Metric界麵查看準實時的Topic級別流量等信息,目前提供的指標有:
- 讀寫Request/Second
- 讀寫Record/Second
- 讀寫Throughput/Second (單位KB)
- 讀寫請求Latency/Request (單位微秒)
可以指定曆史時間段,目前僅支持一次最多查詢4個小時內的統計信息,暫不支持一次查詢中時間跨天。如圖,選定一個時間範圍將會顯示對應期間的Metric信息。
最後更新:2016-11-23 16:04:20
上一篇:
SDK介紹__使用指南_DataHub實時數據通道_大數據計算服務-阿裏雲
下一篇:
數據歸檔MaxCompute__高級特性_DataHub實時數據通道_大數據計算服務-阿裏雲
5.2 數據導入狀態查詢__第五章 Data Pipeline_使用手冊_分析型數據庫-阿裏雲
定時任務__應用管理_用戶指南_容器服務-阿裏雲
阿裏雲總裁胡曉明:當製造業和雲計算結合,智能製造才真正開始
ECS係統盤和數據盤二次分區FAQ
準備後端實例__設置準備_用戶指南_負載均衡-阿裏雲
使用ECS的API和SDK查詢內容隻能返回10條信息的原因__附錄_API 參考_雲服務器 ECS-阿裏雲
掛載文件係統__快速入門_文件存儲-阿裏雲
API概覽__API參考_高性能計算-阿裏雲
查看雲服務器實例的監控信息__監控相關接口_API 參考_雲服務器 ECS-阿裏雲
函數__基本概念_基本介紹_大數據計算服務-阿裏雲
相關內容
常見錯誤說明__附錄_大數據計算服務-阿裏雲
發送短信接口__API使用手冊_短信服務-阿裏雲
接口文檔__Android_安全組件教程_移動安全-阿裏雲
運營商錯誤碼(聯通)__常見問題_短信服務-阿裏雲
設置短信模板__使用手冊_短信服務-阿裏雲
OSS 權限問題及排查__常見錯誤及排除_最佳實踐_對象存儲 OSS-阿裏雲
消息通知__操作指南_批量計算-阿裏雲
設備端快速接入(MQTT)__快速開始_阿裏雲物聯網套件-阿裏雲
查詢API調用流量數據__API管理相關接口_API_API 網關-阿裏雲
使用STS訪問__JavaScript-SDK_SDK 參考_對象存儲 OSS-阿裏雲