閱讀293 返回首頁    go 魔獸


Web控製台介紹__使用指南_DataHub實時數據通道_大數據計算服務-阿裏雲

控製台地址 DataHub WebConsole

創建Project

在WebConsole中直接點擊創建Project後填寫相關信息

create_project

查看Project

用戶點擊Project列表中的查看按鈕,可查看該Project的詳細信息以及該Project下的Topic列表。

detail_project

刪除Project

用戶點擊Project列表中的刪除按鈕進行Project的刪除。需要注意的是,一旦刪除Project,該Project下所有Topic,數據,及資源均被刪除,無法恢複,請謹慎操作。

delete_project

創建Topic

用戶點擊Project詳情頁麵中的創建Topic按鈕,進行Topic的創建。

可以通過兩種方式創建Topic

自定義格式直接創建

create_topic

用戶可根據業務需求進行Topic的創建,各選項的意義可查看幫助文檔中的基本概念。

通過導入MaxCompute表結構進行創建

需要指定訪問MaxCompute的相關參數:

import_odps_schema

該種方式創建Topic可以自動創建導入數據到MaxCompute的Connector,勾選如下圖所示選項即可,選中後將不可修改格式:

auto_create_connector

刪除Topic

用戶點擊Topic列表中的刪除按鈕可進行Topic的刪除。需要注意的是,一旦刪除Topic,該Topic下的數據,資源(Shard, Connector)均被刪除,無法恢複,請謹慎操作。

delete_topic

查看Topic

用戶點擊Topic列表中的查看按鈕,可查看該Topic詳細信息以及該Topic下的資源列表,包括Shard和Connector

Topic詳情展示了Topic的創建/修改時間,shard數量,Topic的生命周期以及注釋等信息;

detail_topic

Shard列表中包括ShardId,各個Shard狀態;其中ShardId是該Shard在Topic中的唯一標識; Shard狀態反應該Shard是否可進行數據發布與訂閱;

list_shard

Connector列表展示該Topic下存在的Connector信息: 內部標識唯一確定該Topic下的Connector; 類型表示該Connector所指向的目的端,目前隻有Odps;目的項目名稱以及目的表名稱指定需要歸檔到的ODPS項目和表名稱;

list_connector

數據采集

Web Console集成了上傳文件到DataHub的功能。

file_upload

選擇Topic之後,指定與Topic對應格式的文件,並點擊 “開始上傳文件按鈕“,文件中的數據就按照指定要求上傳到對應的Topic中。

數據抽樣

Web Console提供對Shard的基於時間的數據抽樣功能。用戶可在Shard列表中選擇Shard點擊列表尾端的數據抽樣按鈕,進入數據抽樣頁麵。

sample_shard

設置指定時間與數量限製,展示在指定時間之後寫入的指定數量的Record,當Record數不足指定數量時,展示僅有的Records。當指定時間大於等於當前時間,僅展示最後一條記錄。

歸檔MaxCompute

目前,DataHub僅提供創建歸檔到MaxCompute的Connector的功能。在Topic詳情頁中,點擊歸檔MaxCompute按鈕,進入創建Connector頁麵

create_odps_connector_detail

MaxCompute Project: 指定Topic需要同步到的MaxCompute project名稱;

MaxCompute Table: 指定Topic需要同步到的MaxCompute table名稱;

AccessId/AccessKey: 訪問MaxCompute所需要的AK對,該AK必須是子用戶AK,並且具有指定的MaxCompute table下CreateInstance、Desc、Alter權限;

歸檔詳情

歸檔詳情提供歸檔任務的基本信息,包括DataHub的Topic以及需要歸檔到的MaxCompute項目和表;以及整體歸檔進度,包括最新寫入時間、已歸檔時間和歸檔延遲。最新寫入時間表示指定Topic中最新的寫入記錄的係統時間; 已歸檔時間表示在該時間之前的記錄已全部歸檔; 延遲時長為最新寫入時間和已歸檔時間的差值,單位秒。

connector_detail

歸檔詳情中可以查看該Connector歸檔任務中每個shard的歸檔狀況。當運行狀態為”ERROR”時,鼠標移動到幫助圖標會顯示該Shard歸檔任務終止的詳細報錯信息,並且該Shard的重啟功能可用。用戶可根據報錯信息進行修複(如,因為刪除MaxCompute Partition導致的任務終止,可以通過MaxCompute控製台,SDK等創建Partition,修複完成後,點擊該Shard的”重啟”按鈕,該Shard的歸檔任務將重新被調度,並且從上次終止的記錄開始進行歸檔。若所有Shard或者大部分Shard處於非”RUNNING”狀態,可點擊”重啟歸檔”按鈕,重啟所有Shard的歸檔任務。

connector_error

Metric查看

Web Console目前提供Metric功能,用戶可以通過Metric界麵查看準實時的Topic級別流量等信息,目前提供的指標有:

  • 讀寫Request/Second
  • 讀寫Record/Second
  • 讀寫Throughput/Second (單位KB)
  • 讀寫請求Latency/Request (單位微秒)

metric

可以指定曆史時間段,目前僅支持一次最多查詢4個小時內的統計信息,暫不支持一次查詢中時間跨天。如圖,選定一個時間範圍將會顯示對應期間的Metric信息。

time_span

最後更新:2016-11-23 16:04:20

  上一篇:go SDK介紹__使用指南_DataHub實時數據通道_大數據計算服務-阿裏雲
  下一篇:go 數據歸檔MaxCompute__高級特性_DataHub實時數據通道_大數據計算服務-阿裏雲