閱讀443 返回首頁    go 阿裏雲 go 技術社區[雲棲]


編寫Graph__快速開始_大數據計算服務-阿裏雲

Graph作業的提交方式與 MapReduce基本相同。下麵,以SSSP算法為例,說明如何提交Graph作業。使用Maven的用戶可以從Maven庫中搜索”odps-sdk-graph”獲取不同版本的Java SDK,相關配置信息:

  1. <dependency>
  2. <groupId>com.aliyun.odps</groupId>
  3. <artifactId>odps-sdk-graph</artifactId>
  4. <version>0.20.7</version>
  5. </dependency>

下麵將以運行示例程序單源最短距離(Single Source Shortest Path,簡寫:SSSP)為例, 幫助您快速掌握如何運行Graph作業。

1 進入console並運行odpscmd。

2 創建輸入輸出表。

  1. create table sssp_in (v bigint, es string);
  2. create table sssp_out (v bigint, l bigint);

備注:創建Table語句請參考 SQL Create描述

3 上傳數據

本地數據內容如下:

  1. 1 2:2,3:1,4:4
  2. 2 1:2,3:2,4:1
  3. 3 1:1,2:2,5:1
  4. 4 1:4,2:1,5:1
  5. 5 3:1,4:1

以空格鍵做兩列的分隔符,執行tunnel命令上傳數據:

  1. tunnel u -fd " " sssp.txt sssp_in;

4 編寫sssp示例:

根據 Graph開發插件 的介紹,本地編譯、調試SSSP算法示例。本示例中假定代碼被打包為odps-graph-example-sssp.jar。

備注:請注意,僅需要將SSSP代碼打包即可,不需要同時將SDK打入”odps-graph-example-sssp.jar”中。

5 添加jar資源:

  1. add jar $LOCAL_JAR_PATH/odps-graph-example-sssp.jar

備注:創建資源介紹請參考 資源操作

6 運行sssp:

  1. jar -libjars odps-graph-example-sssp.jar -classpath $LOCAL_JAR_PATH/odps-graph-example-sssp.jar com.aliyun.odps.graph.examples.SSSP 1 sssp_in sssp_out;

jar命令用於運行 MaxCompute GRAPH 作業,用法與 MapReduce 作業的運行命令完全一致。

GRAPH作業執行時命令行會打印作業實例ID,執行進度,結果Summary等。

7 輸出示例如下:

  1. ID = 20130730160742915gl205u3
  2. 2013-07-31 00:18:36 SUCCESS
  3. Summary:
  4. Graph Input/Output
  5. Total input bytes=211
  6. Total input records=5
  7. Total output bytes=161
  8. Total output records=5
  9. graph_input_[bsp.sssp_in]_bytes=211
  10. graph_input_[bsp.sssp_in]_records=5
  11. graph_output_[bsp.sssp_out]_bytes=161
  12. graph_output_[bsp.sssp_out]_records=5
  13. Graph Statistics
  14. Total edges=14
  15. Total halted vertices=5
  16. Total sent messages=28
  17. Total supersteps=4
  18. Total vertices=5
  19. Total workers=1
  20. Graph Timers
  21. Average superstep time (milliseconds)=7
  22. Load time (milliseconds)=8
  23. Max superstep time (milliseconds) =14
  24. Max time superstep=0
  25. Min superstep time (milliseconds)=5
  26. Min time superstep=2
  27. Setup time (milliseconds)=277
  28. Shutdown time (milliseconds)=20
  29. Total superstep time (milliseconds)=30
  30. Total time (milliseconds)=344
  31. OK

注意:如果用戶需要使用Graph功能,需要在工單係統上提交申請,提供項目空間名稱,簡單描述使用場景。隻有申請通過,開通好權限後才可以使用。

最後更新:2016-05-18 17:56:39

  上一篇:go 編寫MapReduce__快速開始_大數據計算服務-阿裏雲
  下一篇:go 處理非結構化數據__快速開始_大數據計算服務-阿裏雲