809
iPhone_iPad_Mac_手机_平板_苹果apple
引导操作__用户指南_E-MapReduce-阿里云
引导操作的作用
引导操作的作用是在集群启动 Hadoop 前执行您自定义的脚本,以便安装您需要的第三方软件,或者修改集群运行环境。
通过引导操作,您可以安装很多目前集群尚未支持的东西到您的集群上,例如:
使用 yum 安装已经提供的软件。
直接下载公网上的一些公开的软件。
读取 OSS 中您的自有数据。
安装并运行一个服务,例如 Flink 或者 Impala,但需要编写的脚本会复杂些。
强烈建议您先用按量付费的集群来进行引导操作的测试,测试都正确以后再创建包年包月的集群。
如何使用
在上方选择所在的地域(Region),所创建集群将会在对应的 Region 内。
单击创建集群,即会进入创建集群的操作界面。
在创建集群的基本信息页面,单击添加引导操作,进入其操作界面。
填写添加引导操作界面上的配置项,完成添加。
您最多可以添加 16 个引导操作,它们会按照您指定的顺序在集群初始化时执行。默认会使用 root 账户执行您指定的脚本,您可以在脚本中使用 su hadoop 切换到 Hadoop 账户。
引导操作可能会执行失败。为方便您的使用,引导操作失败并不会影响集群的创建。集群创建成功后,您可以在集群详情页集群信息栏内的引导/软件配置查看是否有异常发生。如果有异常,您可以登录到各个节点上查看运行日志,运行日志在 /var/log/bootstrap-actions 目录下。
引导操作类型
引导操作有两种,一种是自定义引导操作,另一种是运行条件引导操作。两者的主要区别是运行条件引导操作只会在满足条件的节点上运行您的指定操作。
自定义引导操作
自定义引导操作需要指定引导操作名称和执行脚本在 OSS 中的位置,根据需要指定可选参数。集群初始化时各个节点会下载您指定的 OSS 脚本,直接执行或者附加上可选参数执行。
您可以在脚本中指定从 OSS 下载需要的文件,下面的例子会将 oss://yourbucket/myfile.tar.gz 这个文件下载到本地,并解压到 /yourdir 目录下:
#!/bin/bash
osscmd --id=<yourid> --key=<yourkey> --host=oss-cn-hangzhou-internal.aliyuncs.com get oss://<yourbucket>/<myfile>.tar.gz ./<myfile>.tar.gz
mkdir -p /<yourdir>
tar -zxvf <myfile>.tar.gz -C /<yourdir>
osscmd 已预安装在节点上,可以直接调用来下载文件。
注意:OSS 地址 host 有内网地址、外网地址和 VPC 网络地址之分。如果用经典网络,需要指定内网地址,杭州是 oss-cn-hangzhou-internal.aliyuncs.com。如果用 VPC 网络,要指定 VPC 内网可访问的域名,杭州是 vpc100-oss-cn-hangzhou.aliyuncs.com。
引导操作也可以通过 yum 安装额外的系统软件包,下面的例子会安装 ld-linux.so.2:
#!/bin/bash
yum install -y ld-linux.so.2
运行条件引导操作
运行条件引导操作的执行脚本是预定义的不需要您额外指定,您只需要指定名称和可选参数。运行条件引导操作必须提供可选参数,可选参数需要包括运行条件和操作命令,以空格间隔。运行条件支持 instance.isMaster=true/false,指定只在 master 或者在非 master 节点上运行。以下示例为运行条件引导操作下面的可选参数指定只在 master 节点上创建目录:
instance.isMaster=true mkdir -p /tmp/abc
如果需要指定多个操作命令,您可以用分号“;”分割多个语句,例如:instance.isMaster=true mkdir -p /tmp/abc;mkdir -p /tmp/def
最后更新:2016-11-23 16:03:59
上一篇:
软件配置__用户指南_E-MapReduce-阿里云
下一篇:
专有网络__用户指南_E-MapReduce-阿里云
切换主备实例__实例管理_用户指南_云数据库 RDS 版-阿里云
云服务器 ECS > Linux操作运维问题 > 安装环境 > 工具:auto_fdisk_ssd.sh
1.2 3步完成建表__1. RDS快速开始_数据库RDS 体验_体验馆-阿里云
不使用主账号__权限管理_最佳实践_对象存储 OSS-阿里云
删除执行计划__执行计划_API参考_E-MapReduce-阿里云
项目空间的权限管理__安全相关语句汇总_安全指南_大数据计算服务-阿里云
DeleteTrail__实例相关接口_API参考_操作审计-阿里云
审核失败 - 主域名不能为空__常见问题_产品常见问题_证书服务-阿里云
主机重启迁移帮助文档__网站上传/下载_使用指南_云虚机主机-阿里云
录制工具安装__脚本编写_使用手册_性能测试-阿里云
相关内容
常见错误说明__附录_大数据计算服务-阿里云
发送短信接口__API使用手册_短信服务-阿里云
接口文档__Android_安全组件教程_移动安全-阿里云
运营商错误码(联通)__常见问题_短信服务-阿里云
设置短信模板__使用手册_短信服务-阿里云
OSS 权限问题及排查__常见错误及排除_最佳实践_对象存储 OSS-阿里云
消息通知__操作指南_批量计算-阿里云
设备端快速接入(MQTT)__快速开始_阿里云物联网套件-阿里云
查询API调用流量数据__API管理相关接口_API_API 网关-阿里云
使用STS访问__JavaScript-SDK_SDK 参考_对象存储 OSS-阿里云