閱讀916 返回首頁    go windows


調度資源__組織管理手冊_用戶操作指南_大數據開發套件-阿裏雲

阿裏雲數加平台>數據開發套件>數據開發>組織管理>調度資源中,您可新建、配置、編輯調度資源。

調度資源屬於組織範疇內的對象,一個專用的調度資源可以擁有若幹台物理機或ECS虛機,用於運行指定的任務。組織管理員可在調度資源頁麵中新建、配置調度資源以完成專用調度資源的創建,也可對已有的調度資源進行編輯。

新建調度資源

組織管理員可以新建專用的調度資源,以便後續可將專用的調度資源分配給某些項目空間來執行特定的任務。指定的任務可以是數據同步任務、SHELL腳本、ODPS SQL腳本,也可以是OPEN MR和機器學習等任務。而在未指定專用調度資源的情況下,項目空間內的所有任務都將默認使用係統托管集群中的資源。

應用實例

新建調度資源可解決如下問題:

1)大量任務處於“等待資源狀態”;當前項目的任務量達到一定的量值,已有gateway的資源已經不滿足業務需求,需要擴大資源,申請添加gateway。

【注意】:數據同步任務一個任務會占用10個機器槽位(即10個並發數),默認資源組資源有限,所以在做數據生產過程中,數據同步任務一般都需要用自建資源組來運行以保證任務不會一直等待資源。

2)項目下有一些特殊的任務(比如某些shell腳本)需要在特定的機器上執行,需申請自己的gateway作為任務執行機器。

現假設由於具體的數據開發項目等因素,組織管理員需創建專用的調度資源以分配給特殊需求的項目空間來運行指定的數據同步任務。

實現過程

組織管理員新建調度資源的具體步驟如下:

步驟1:以組織管理員的身份登錄阿裏雲數加平台,進入數據開發套件-數據開發。

步驟2:在頂部菜單欄中點擊組織管理,導航至調度資源。

步驟3:點擊增加調度資源。

步驟4:在新建調資源彈出框中配置資源名稱和資源唯一標識。

group_SR_1.JPG

新建調度資源配置項,具體說明如下:

■ 資源名稱:由中文、英文字母、下劃線、數字組成,不超過60個字符。

■ 資源唯一標識:由字母、數字、下劃線組成的資源名稱的唯一標識符,需在組織內全局唯一,且創建後不支持修改。

步驟5:點擊提交。

group_SR_2.JPG

配置服務器

組織管理員成功添加調度資源後,還需通過綁定服務器來完成專用調度資源的配置。專用調度資源綁定服務器不超過1000台,且隻能從屬於該組織範疇內的ECS機器列表中選取,同時一台ECS虛機隻能屬於一個自定義調度資源。

實現過程

組織管理員完成上述兩種場景,需滿足如下前提條件:

步驟1購買ECS雲服務器

【說明】1、建議使用centos6、centos7,或者aliyunos;2、如果您添加的ecs需要執行odps任務或者同步任務,需要檢查當前ecs的python版本是否是python2.6.5以上的版本(centos5的版本為2.4的,其餘os自帶了2.6以上版本);3、請確保ECS有公網IP;4、建議ECS的內存大小在4G以上;5、用戶自定義添加的ECS隻能支持執行ODPS_SQL、MR、SHELL、同步任務,其餘任務類型不支持。

步驟2:查看ECS主機名和IP地址。

DM_5_12

【說明】如果您在購買ecs的時候沒有修改機器名稱,那麼主機名和IP如下截圖所示; 如果修改過機器名稱,請到ecs服務器上執行hostname,和hostname -i獲取主機名稱和IP。

步驟3:組織管理員進入數據開發套件,導航至組織管理>調度資源,點擊增加調度資源,將購買的ECS雲服務器添加到資源組。

DM_5_12

DM_5_12

點擊新建調度資源操作欄中的配置服務器,進入服務器添加頁麵。

DM_5_12

點擊添加服務器,並在添加服務器彈出框中輸入ECS主機名和IP地址,然後點擊提交

添加服務器

步驟4:經過上述步驟後,已經將新購買的ECS信息注冊到了數據開發套件中,但是目前為止還不能服務。如果是新添加機器,請按照如下步驟操作:

執行服務器初始化

【說明】如果執行install.sh過程中出錯或需要重新執行,請先刪除已經生成的文件,請在跟install.sh同一個目錄下執行:rm –rf base-biz*;然後在去執行install.sh

DM_5_12

  • 步驟4.4:稍後(大約15秒後)在添加服務器頁麵,點擊刷新按鈕,觀察服務狀態是否轉為“正常”狀態,若顯示正常則表示新建ECS服務注冊成功。

DM_5_12

【說明】步驟5.2和步驟5.3中的命名都可通過點擊執行初始化按鈕來直接查看與複製。

DM_5_12

步驟5:導航至組織管理>項目管理,在項目空間列表中點擊編輯,並在彈出框調度資源配置項中選擇新建的資源組,然後點擊提交。

DM_5_12

DM_5_12

步驟6:導航至運維中心>任務管理>節點定義,在節點列表中勾選需要配置的節點,並點擊修改資源組,選擇新建的資源組。

編輯調度資源

已新建、配置的專用調度資源也可修改其調度資源名稱。

應用實例

為項目成員快速分辨與使用專用調度資源,組織管理需對已配置的調度資源進行編輯修改。

實現過程

組織管理員要修改已配置的專用調度資源需通過如下步驟來完成:

步驟1:以組織管理員身份登錄阿裏雲數加平台,進入數據開發套件-數據開發。

步驟2:點擊頂部菜單中的組織管理,導航至調度資源。

步驟3:在組織管理>調度資源列表搜索框中,輸入調度資源名稱來進行模煳匹配查找需要編輯的調度資源。

步驟4:點擊編輯。

group_SR_7.JPG

步驟5:在編輯資源彈出框中編輯資源名稱。

【注意】調度資源名稱由中文、英文字母、下劃線、數字組成,不能超過60個字符。

步驟6:點擊提交。

最後更新:2016-11-23 16:04:07

  上一篇:go 項目管理__手冊_用戶操作指南_大數據開發套件-阿裏雲
  下一篇:go 數據同步簡介__數據同步手冊_用戶操作指南_大數據開發套件-阿裏雲