阿里云创建E-MapReduce 3 创建作业
要运行一个计算任务,首先需要定义一个作业,其步骤如下:
2.选择地域(Region),则作业将会创建在对应的地域内。
3.单击该页右上角的创建作业,进入创建作业页面,如下图所示:
4.填写作业名称。
5.选择作业类型。
6.填写作业的应用参数。应用参数需要完整填写该作业运行的 jar 包、作业的数据输入输出地址以及一些命令行参数,也就是将用户在命令行的所有参数填写在这里。如果有使用到 OSS 的路径,可以单击下方的“选择 OSS 路径”选择 OSS 资源路径。关于各作业类型的参数配置,请参见用户指南中的作业。
7.实际执行命令。这里会显示作业在 ECS 上实际被执行的命令。用户如果把这个命令直接复制下来,就能够在 E-MapReduce 集群的命令行环境中直接运行。
8.选择执行失败后策略。暂停当前执行计划会在这个作业失败后,暂停当前整个执行计划,等待用户处理。而继续执行下一个作业在这个作业失败以后,会忽略这个错误继续执行后一个作业。
9.单击确定完成创建。
作业示例
这是一个 Spark 类型的作业,应用参数中设置了相关的参数,输入输出路径等。
注意:本作业仅仅示例,不能实际运行。
oss 与 ossref
oss:// 的前缀代表数据路径指向一个 OSS 路径,当要读写该数据的时候,这个指明了操作的路径,与 hdfs:// 类似。
ossref:// 同样是指向一个 OSS 的路径,不同的是它会将对应的代码资源下载到本地,然后将命令行中的路径替换为本地路径。它是用于更方便地运行一些本地代码,而不需要登录到机器上去上传代码和依赖的资源包。
上面的例子中, ossref://xxxxxx/xxx.jar 这个参数代表作业资源的jar,这个jar存放在OSS上,在运行的时候,E-MapReduce会自动下载到集群中运行。而跟在jar后面的2个 oss://xxxx 以及另外2个值则是作为参数出现,他们会被作为参数传递给jar中的主类来处理。
注意: ossref 不可以用来下载过大的数据资源,否则会导致集群作业的失败。
最后更新:2017-08-31 23:32:58
上一篇:
Gartner存储魔力象限前四,阿里云如何成为“领头羊”?
下一篇:
阿里云创建E-MapReduce 1 快速开始
jqm文件上传,上传图片,jqm的表单操作,jqm的ajax的使用,jqm文件操作大全,文件操作demo
实施人员如何保证ERP项目成功
“无人超市”热潮 主要依靠网络技术
使用HashMap对象传递url参数实用工具类
Facebook、中国BAT均落选,高盛全球“漂亮50”有哪些潜力股?
C#.Net操作注册表RegistryKey
如何用数据驱动企业研发效率提升?云效2.0新品度量实践解读
如何领取并使用阿里云幸运券教程!--阿里云幸运券有使用上限限制吗?
Oracle无法启动2——监听程序当前无法识别连接描述符中请求的服务
tomcat:一台机器上同时启动两个tomcat的注意点