160
財經資訊
集群腳本__集群_用戶指南_E-MapReduce-阿裏雲
集群腳本的作用
集群,特別是包年報月集群,在使用過程中,可能會有新的安裝第三方軟件,修改集群運行環境的需求。集群腳本功能可以在集群創建好後批量選擇節點,運行您指定的腳本,以實現個性化的需求。
集群腳本類似引導操作,您可以在集群創建好後安裝很多目前集群尚未支持的軟件到您的集群上,例如:
使用 yum 安裝已經提供的軟件。
直接下載公網上的一些公開的軟件。
讀取 OSS 中您的自有數據。
安裝並運行一個服務,例如 Flink 或者 Impala,但需要編寫的腳本會複雜些。
強烈建議您先用單個節點進行集群腳本的測試,測試都正確以後再在整個集群上操作。
如何使用
集群狀態是空閑或者運行中的集群可以運行集群腳本,集群列表頁麵點擊對應集群的查看詳情按鈕
左側菜單單擊集群腳本,即會進入該集群的集群腳本執行界麵,右側是已經執行過的集群腳本列表。
單擊右上角創建並執行,進入創建界麵。
填寫創建界麵上的配置項,選擇執行的節點,點擊執行,完成添加並執行操作。
集群腳本列表可以看到新創建的集群腳本,點擊刷新可以更新集群腳本的狀態。
點擊查看詳情可以看到腳本在各個節點上的運行情況,點擊刷新可以更新腳本在各個節點上的運行狀態。
隻有空閑或者運行中的可用集群才能使用集群腳本功能。集群腳本適用於長期存在的集群,對按需創建的臨時集群,應使用引導操作來完成集群初始化工作。
集群腳本會在您指定的節點上下載oss上的腳本並運行,根據返回值是否為0判斷執行成功還是失敗。如果運行狀態是失敗,您可以登錄到各個節點上查看運行日誌,運行日誌記錄在每個節點的/var/log/cluster-scripts/clusterScriptId目錄下。如果集群配置了oss日誌目錄,運行日誌也會上傳到osslogpath/clusterId/ip/cluster-scripts/clusterScriptId目錄下方便查看。
默認會使用 root 賬戶執行您指定的腳本,您可以在腳本中使用 su hadoop 切換到 Hadoop 賬戶。
集群腳本可能在部分節點上運行成功,部分節點上運行失敗,例如節點重啟導致的腳本運行失敗。您可以在解決異常問題後,單獨指定失敗的節點再次運行。當集群擴容後,您也可以指定擴容的節點單獨運行集群腳本。
1個集群同一時間隻能運行一個集群腳本,如果有正在運行的集群腳本,無法提交執行新的集群腳本。每個集群最多保留10個集群腳本記錄,超過10個需要將之前的記錄刪除才能創建新的集群腳本。
腳本的例子
類似引導操作的腳本,您可以在腳本中指定從 OSS 下載需要的文件,下麵的例子會將 oss://yourbucket/myfile.tar.gz 這個文件下載到本地,並解壓到 /yourdir 目錄下:
#!/bin/bash
osscmd --id=<yourid> --key=<yourkey> --host=oss-cn-hangzhou-internal.aliyuncs.com get oss://<yourbucket>/<myfile>.tar.gz ./<myfile>.tar.gz
mkdir -p /<yourdir>
tar -zxvf <myfile>.tar.gz -C /<yourdir>
osscmd 已預安裝在節點上,可以直接調用來下載文件。
注意:OSS 地址 host 有內網地址、外網地址和 VPC 網絡地址之分。如果用經典網絡,需要指定內網地址,杭州是 oss-cn-hangzhou-internal.aliyuncs.com。如果用 VPC 網絡,要指定 VPC 內網可訪問的域名,杭州是 vpc100-oss-cn-hangzhou.aliyuncs.com。
腳本也可以通過 yum 安裝額外的係統軟件包,下麵的例子會安裝 ld-linux.so.2:
#!/bin/bash
yum install -y ld-linux.so.2
最後更新:2016-11-23 16:04:18
上一篇:
服務列表__集群_用戶指南_E-MapReduce-阿裏雲
下一篇:
集群續費__集群_用戶指南_E-MapReduce-阿裏雲
阿裏雲發布Link物聯網平台,庫偉:未來五年將推動服務100萬的開發者
VPC如何綁定彈性公網IP(EIP)__常見問題_專有網絡 VPC-阿裏雲
分區設計__最佳實踐_雲數據庫 PetaData-阿裏雲
通過客戶端加密保護數據__數據安全_最佳實踐_對象存儲 OSS-阿裏雲
映射(Mappings)__模板語法_資源編排-阿裏雲
公共請求頭__API-Reference_日誌服務-阿裏雲
自定義鏡像__操作指南_批量計算-阿裏雲
阿裏雲大數據平台服務協議__相關協議_平台介紹_數加平台介紹-阿裏雲
ALIYUN::SLS::MachineGroup__資源列表_資源編排-阿裏雲
統計aggregate子句__搜索子句介紹_API參考手冊_開放搜索-阿裏雲
相關內容
常見錯誤說明__附錄_大數據計算服務-阿裏雲
發送短信接口__API使用手冊_短信服務-阿裏雲
接口文檔__Android_安全組件教程_移動安全-阿裏雲
運營商錯誤碼(聯通)__常見問題_短信服務-阿裏雲
設置短信模板__使用手冊_短信服務-阿裏雲
OSS 權限問題及排查__常見錯誤及排除_最佳實踐_對象存儲 OSS-阿裏雲
消息通知__操作指南_批量計算-阿裏雲
設備端快速接入(MQTT)__快速開始_阿裏雲物聯網套件-阿裏雲
查詢API調用流量數據__API管理相關接口_API_API 網關-阿裏雲
使用STS訪問__JavaScript-SDK_SDK 參考_對象存儲 OSS-阿裏雲