引導操作__用戶指南_E-MapReduce-阿裏雲
引導操作的作用
引導操作的作用是在集群啟動 Hadoop 前執行您自定義的腳本,以便安裝您需要的第三方軟件,或者修改集群運行環境。
通過引導操作,您可以安裝很多目前集群尚未支持的東西到您的集群上,例如:
使用 yum 安裝已經提供的軟件。
直接下載公網上的一些公開的軟件。
讀取 OSS 中您的自有數據。
安裝並運行一個服務,例如 Flink 或者 Impala,但需要編寫的腳本會複雜些。
強烈建議您先用按量付費的集群來進行引導操作的測試,測試都正確以後再創建包年包月的集群。
如何使用
在上方選擇所在的地域(Region),所創建集群將會在對應的 Region 內。
單擊創建集群,即會進入創建集群的操作界麵。
在創建集群的基本信息頁麵,單擊添加引導操作,進入其操作界麵。
填寫添加引導操作界麵上的配置項,完成添加。
您最多可以添加 16 個引導操作,它們會按照您指定的順序在集群初始化時執行。默認會使用 root 賬戶執行您指定的腳本,您可以在腳本中使用 su hadoop 切換到 Hadoop 賬戶。
引導操作可能會執行失敗。為方便您的使用,引導操作失敗並不會影響集群的創建。集群創建成功後,您可以在集群詳情頁集群信息欄內的引導/軟件配置查看是否有異常發生。如果有異常,您可以登錄到各個節點上查看運行日誌,運行日誌在 /var/log/bootstrap-actions 目錄下。
引導操作類型
引導操作有兩種,一種是自定義引導操作,另一種是運行條件引導操作。兩者的主要區別是運行條件引導操作隻會在滿足條件的節點上運行您的指定操作。
自定義引導操作
自定義引導操作需要指定引導操作名稱和執行腳本在 OSS 中的位置,根據需要指定可選參數。集群初始化時各個節點會下載您指定的 OSS 腳本,直接執行或者附加上可選參數執行。
您可以在腳本中指定從 OSS 下載需要的文件,下麵的例子會將 oss://yourbucket/myfile.tar.gz 這個文件下載到本地,並解壓到 /yourdir 目錄下:
#!/bin/bash
osscmd --id=<yourid> --key=<yourkey> --host=oss-cn-hangzhou-internal.aliyuncs.com get oss://<yourbucket>/<myfile>.tar.gz ./<myfile>.tar.gz
mkdir -p /<yourdir>
tar -zxvf <myfile>.tar.gz -C /<yourdir>
osscmd 已預安裝在節點上,可以直接調用來下載文件。
注意:OSS 地址 host 有內網地址、外網地址和 VPC 網絡地址之分。如果用經典網絡,需要指定內網地址,杭州是 oss-cn-hangzhou-internal.aliyuncs.com。如果用 VPC 網絡,要指定 VPC 內網可訪問的域名,杭州是 vpc100-oss-cn-hangzhou.aliyuncs.com。
引導操作也可以通過 yum 安裝額外的係統軟件包,下麵的例子會安裝 ld-linux.so.2:
#!/bin/bash
yum install -y ld-linux.so.2
運行條件引導操作
運行條件引導操作的執行腳本是預定義的不需要您額外指定,您隻需要指定名稱和可選參數。運行條件引導操作必須提供可選參數,可選參數需要包括運行條件和操作命令,以空格間隔。運行條件支持 instance.isMaster=true/false,指定隻在 master 或者在非 master 節點上運行。以下示例為運行條件引導操作下麵的可選參數指定隻在 master 節點上創建目錄:
instance.isMaster=true mkdir -p /tmp/abc
如果需要指定多個操作命令,您可以用分號“;”分割多個語句,例如:instance.isMaster=true mkdir -p /tmp/abc;mkdir -p /tmp/def
最後更新:2016-11-23 16:03:59
上一篇:
軟件配置__用戶指南_E-MapReduce-阿裏雲
下一篇:
專有網絡__用戶指南_E-MapReduce-阿裏雲
切換主備實例__實例管理_用戶指南_雲數據庫 RDS 版-阿裏雲
雲服務器 ECS > Linux操作運維問題 > 安裝環境 > 工具:auto_fdisk_ssd.sh
1.2 3步完成建表__1. RDS快速開始_數據庫RDS 體驗_體驗館-阿裏雲
不使用主賬號__權限管理_最佳實踐_對象存儲 OSS-阿裏雲
刪除執行計劃__執行計劃_API參考_E-MapReduce-阿裏雲
項目空間的權限管理__安全相關語句匯總_安全指南_大數據計算服務-阿裏雲
DeleteTrail__實例相關接口_API參考_操作審計-阿裏雲
審核失敗 - 主域名不能為空__常見問題_產品常見問題_證書服務-阿裏雲
主機重啟遷移幫助文檔__網站上傳/下載_使用指南_雲虛機主機-阿裏雲
錄製工具安裝__腳本編寫_使用手冊_性能測試-阿裏雲
相關內容
常見錯誤說明__附錄_大數據計算服務-阿裏雲
發送短信接口__API使用手冊_短信服務-阿裏雲
接口文檔__Android_安全組件教程_移動安全-阿裏雲
運營商錯誤碼(聯通)__常見問題_短信服務-阿裏雲
設置短信模板__使用手冊_短信服務-阿裏雲
OSS 權限問題及排查__常見錯誤及排除_最佳實踐_對象存儲 OSS-阿裏雲
消息通知__操作指南_批量計算-阿裏雲
設備端快速接入(MQTT)__快速開始_阿裏雲物聯網套件-阿裏雲
查詢API調用流量數據__API管理相關接口_API_API 網關-阿裏雲
使用STS訪問__JavaScript-SDK_SDK 參考_對象存儲 OSS-阿裏雲