661
財經資訊
其他操作__常用命令_基本介紹_大數據計算服務-阿裏雲
Alias功能主要為了滿足在不修改代碼的前提下,在 MapReduce 或 自定義函數(UDF) 代碼中,通過某個固定的資源名讀取不同資源(數據)的需求。命令格式:
ALIAS <alias>=<real>;
用途:為資源創建別名。
示例:
ADD TABLE src_part PARTITION (ds='20121208') AS res_20121208;
ADD TABLE src_part PARTITION (ds='20121209') AS res_20121209;
ALIAS resName=res_20121208;
jar -resources resName -libjars work.jar -classpath ./work.jar com.company.MainClass args ...; // 作業一
ALIAS resName=res_20121209;
jar -resources resName -libjars work.jar -classpath ./work.jar com.company.MainClass args ...; // 作業二
上麵的資源別名“resName” 在兩個作業裏引用到不同的資源表,代碼可以不做修改也能讀取到不同的數據。
Set
命令格式:
set ["<KEY>=<VALUE>"]
說明:用戶可以使用set命令設置MaxCompute 或用戶自定義的係統變量影響MaxCompute 的行為。
目前,MaxCompute 支持的係統變量包括:
--MaxCompute SQL及新版本Mapreduce支持的Set命令
set odps.stage.mapper.mem= --設置每個map worker的內存大小,單位是M,默認值1024M
set odps.stage.reducer.mem= --設置每個reduce worker的內存大小,單位是M,默認值1024M
set odps.stage.joiner.mem= --設置每個join worker的內存大小,單位是M,默認值1024M
set odps.stage.mem =
--設置MaxCompute 指定任務下所有worker的內存大小。優先級低於以上三個set key,單位M,無默認值
set odps.stage.mapper.split.size=
-- 修改每個map worker的輸入數據量,即輸入文件的分片大小,
-- 從而間接控製每個map階段下worker的數量,單位M,默認值256M
set odps.stage.reducer.num= --修改每個reduce階段worker數量,無默認值。
set odps.stage.joiner.num= --修改每個join階段worker數量,無默認值。
set odps.stage.num= --修改MaxCompute 指定任務的所有階段的worker的並發度,優先級低於以上三者,無默認值。
Show Flags
顯示Set設置的參數,命令格式:
show flags;
說明:運行Use Project命令會清除掉set命令設置的配置。
SetProject
命令格式:
setproject ["<KEY>=<VALUE>"];
說明:
- 用戶可以使用setproject命令設置Project屬性;
- 當不指定< KEY >=< VALUE > 時,顯示當前Project屬性配置;
Project屬性的詳細說明如下:
屬性名稱 | 設置權限 | 屬性描述 | 取值範圍 |
---|---|---|---|
odps.table.drop.ignorenonexistent | 所有用戶 | 當刪除不存在的表時,是否報錯。true時不報錯 | true(不報錯)/false |
odps.security.ip.whitelist | ProjectOwner | 指定訪問Project的IP白名單 | ip列表,逗號分隔 |
odps.table.lifecycle | ProjectOwner | optional:創建表時,lifecycle子句為可選,如果用戶不設置 生命周期,則此表永久有效;mandatory:lifecycle子句為必 選;inherit:如果用戶不指定生命周期,該表的生命周期為 odps.table.lifecycle.value的值; | optional /mandatory/inherit |
odps.table.lifecycle.value | ProjectOwner | 默認的生命周期值 | 1 ~ 37231(默認) |
odps.instance.remain.days | ProjectOwner | Instance信息保留時間 | 3 ~ 30 |
odps.function.strictmode | ProjectOwner | 內置函數遇到髒數據時,返回NULL(false),或者拋異常(true) | true/false |
READ_TABLE_MAX_ROW | ProjectOwner | Select語句返回給客戶端的數據條數 | 1~10000 |
計量預估(Cost SQL命令)
命令格式:
cost sql <SQL Sentence>;
用途:預估出一條sql的計量信息,包含輸入數據的大小,UDF個數以及SQL複雜等級。需要注意的是,該信息不能夠作為實際計費標準,僅具有參考意義。
示例:
odps@ $odps_project >cost sql select distinct project_name, user_name from meta.m_security_users distribute by project_name sort by project_name;
ID = 20150715113033121gmsbjxl1
Input:65727592 Bytes
UDF:0
Complexity:1.0
最後更新:2016-11-23 17:16:04
上一篇:
Tunnel命令操作__常用命令_基本介紹_大數據計算服務-阿裏雲
下一篇:
限製描述__DataHub實時數據通道_大數據計算服務-阿裏雲
遷移 RDS 數據到其他實例__數據遷移_用戶指南_雲數據庫 RDS 版-阿裏雲
查詢水印模板__水印模板接口_API使用手冊_媒體轉碼-阿裏雲
注冊賬戶__設置準備_用戶指南_負載均衡-阿裏雲
GroupDesc__數據類型_API文檔_批量計算-阿裏雲
創建表格存儲實例(可選)__用戶指南_推薦引擎-阿裏雲
雲監控ECS監控插件安裝方法__技術分享_技術運維問題_雲監控-阿裏雲
獲取主題屬性__主題使用幫助_控製台使用幫助_消息服務-阿裏雲
項目空間操作__常用命令_基本介紹_大數據計算服務-阿裏雲
安全服務__快速入門(開放API)_API 網關-阿裏雲
QueueMessage__基本概念_API使用手冊_消息服務-阿裏雲
相關內容
常見錯誤說明__附錄_大數據計算服務-阿裏雲
發送短信接口__API使用手冊_短信服務-阿裏雲
接口文檔__Android_安全組件教程_移動安全-阿裏雲
運營商錯誤碼(聯通)__常見問題_短信服務-阿裏雲
設置短信模板__使用手冊_短信服務-阿裏雲
OSS 權限問題及排查__常見錯誤及排除_最佳實踐_對象存儲 OSS-阿裏雲
消息通知__操作指南_批量計算-阿裏雲
設備端快速接入(MQTT)__快速開始_阿裏雲物聯網套件-阿裏雲
查詢API調用流量數據__API管理相關接口_API_API 網關-阿裏雲
使用STS訪問__JavaScript-SDK_SDK 參考_對象存儲 OSS-阿裏雲