閱讀160 返回首頁    go 財經資訊


集群腳本__集群_用戶指南_E-MapReduce-阿裏雲

集群腳本的作用

集群,特別是包年報月集群,在使用過程中,可能會有新的安裝第三方軟件,修改集群運行環境的需求。集群腳本功能可以在集群創建好後批量選擇節點,運行您指定的腳本,以實現個性化的需求。

集群腳本類似引導操作,您可以在集群創建好後安裝很多目前集群尚未支持的軟件到您的集群上,例如:

  • 使用 yum 安裝已經提供的軟件。

  • 直接下載公網上的一些公開的軟件。

  • 讀取 OSS 中您的自有數據。

  • 安裝並運行一個服務,例如 Flink 或者 Impala,但需要編寫的腳本會複雜些。

強烈建議您先用單個節點進行集群腳本的測試,測試都正確以後再在整個集群上操作。

如何使用

  1. 集群狀態是空閑或者運行中的集群可以運行集群腳本,集群列表頁麵點擊對應集群的查看詳情按鈕

  2. 左側菜單單擊集群腳本,即會進入該集群的集群腳本執行界麵,右側是已經執行過的集群腳本列表。

  3. 單擊右上角創建並執行,進入創建界麵。

  4. 填寫創建界麵上的配置項,選擇執行的節點,點擊執行,完成添加並執行操作。

  5. 集群腳本列表可以看到新創建的集群腳本,點擊刷新可以更新集群腳本的狀態。

  6. 點擊查看詳情可以看到腳本在各個節點上的運行情況,點擊刷新可以更新腳本在各個節點上的運行狀態。

隻有空閑或者運行中的可用集群才能使用集群腳本功能。集群腳本適用於長期存在的集群,對按需創建的臨時集群,應使用引導操作來完成集群初始化工作。

集群腳本會在您指定的節點上下載oss上的腳本並運行,根據返回值是否為0判斷執行成功還是失敗。如果運行狀態是失敗,您可以登錄到各個節點上查看運行日誌,運行日誌記錄在每個節點的/var/log/cluster-scripts/clusterScriptId目錄下。如果集群配置了oss日誌目錄,運行日誌也會上傳到osslogpath/clusterId/ip/cluster-scripts/clusterScriptId目錄下方便查看。

默認會使用 root 賬戶執行您指定的腳本,您可以在腳本中使用 su hadoop 切換到 Hadoop 賬戶。

集群腳本可能在部分節點上運行成功,部分節點上運行失敗,例如節點重啟導致的腳本運行失敗。您可以在解決異常問題後,單獨指定失敗的節點再次運行。當集群擴容後,您也可以指定擴容的節點單獨運行集群腳本。

1個集群同一時間隻能運行一個集群腳本,如果有正在運行的集群腳本,無法提交執行新的集群腳本。每個集群最多保留10個集群腳本記錄,超過10個需要將之前的記錄刪除才能創建新的集群腳本。

腳本的例子

類似引導操作的腳本,您可以在腳本中指定從 OSS 下載需要的文件,下麵的例子會將 oss://yourbucket/myfile.tar.gz 這個文件下載到本地,並解壓到 /yourdir 目錄下:

  1. #!/bin/bash
  2. osscmd --id=<yourid> --key=<yourkey> --host=oss-cn-hangzhou-internal.aliyuncs.com get oss://<yourbucket>/<myfile>.tar.gz ./<myfile>.tar.gz
  3. mkdir -p /<yourdir>
  4. tar -zxvf <myfile>.tar.gz -C /<yourdir>

osscmd 已預安裝在節點上,可以直接調用來下載文件。

注意:OSS 地址 host 有內網地址、外網地址和 VPC 網絡地址之分。如果用經典網絡,需要指定內網地址,杭州是 oss-cn-hangzhou-internal.aliyuncs.com。如果用 VPC 網絡,要指定 VPC 內網可訪問的域名,杭州是 vpc100-oss-cn-hangzhou.aliyuncs.com。

腳本也可以通過 yum 安裝額外的係統軟件包,下麵的例子會安裝 ld-linux.so.2:

  1. #!/bin/bash
  2. yum install -y ld-linux.so.2

最後更新:2016-11-23 16:04:18

  上一篇:go 服務列表__集群_用戶指南_E-MapReduce-阿裏雲
  下一篇:go 集群續費__集群_用戶指南_E-MapReduce-阿裏雲