898
windows
消费日志__loghub-消费_用户指南_日志服务-阿里云
数据收集至日志服务LogHub后,有三种方法可以消费日志:
方式 | 场景 | 实时性 | 存储时间 |
---|---|---|---|
实时消费(LogHub) | 流计算、实时计算等 | 实时 | 48小时 |
索引查询(LogSearch) | 适合最近热数据的在线查询 | 30秒 | 7天、30天、90天 |
投递存储(LogShipper) | 适合全量存储日志,进行离线分析 | 5-30分钟 | 依赖于存储系统 |
实时消费
在写入日志后,最基本功能就是如何消费日志(消费日志与查询日志都意味着“读取”日志,两者区别见这里)。对于一个Shard中日志,消费过程如下:
- 根据时间、Begin、End等条件获得游标
- 通过游标、步长参数读取日志,同时返回下一个位置游标
- 不断移动游标进行日志消费
除最基本的API外,日志服务提供SDK,Storm Spout, Spark Client,Web Console等方式进行日志消费:
- 使用Spark Client消费日志: 参考EMR SDK/Log Service章节。
- 使用Storm Spout消费日志:日志服务提供一个Loghub Storm Spout来完成storm和loghub对接
- 使用StreamCompute消费日志:在StreamCompute中创建一个数据源完成和loghub对接
- 使用loghub client lib消费日志Loghub Consumer Library是对LogHub消费者提供的高级模式,解决多个消费者同时消费logstore时自动分配shard问题。
- 使用SDK消费日志:日志服务提供多种语言(Java和Python)的SDK,且这些语言的SDK都支持日志消费接口。关于SDK的更多信息请参考日志服务SDK。
- 访问日志统计镜像:对常用日志进行实时分析Docker镜像,免费使用
索引查询
- 使用日志服务控制消费日志:可以参考日志库操作了解控制台上的消费日志界面及交互方式
- 使用日志服务SDK/API查询日志:日志服务提供REST风格的API,基于HTTP协议实现。日志服务的API同样提供全功能的日志查询接口。具体参考请见日志服务API
投递存储
- 投递OSS:长时间存储、或使用E-MapReduce分析日志
- 投递表格存储(TS): 使用表格存储(NoSQL)存储日志
- 投递MaxCompute:使用ODPS分析日志
其他
- 安全日志服务: 日志服务与安全云产品对接,可通过ISV消费云产品日志
最后更新:2016-11-23 16:04:02
上一篇:
unity3d__loghub-采集_用户指南_日志服务-阿里云
下一篇:
多实例协同消费__loghub-消费_用户指南_日志服务-阿里云
TXC 简介__TXC for EDAS_二方服务_企业级分布式应用服务 EDAS-阿里云
重置消费位点__消费管理相关接口_Open API_消息队列 MQ-阿里云
表格存储的数据操作__开发指南_表格存储-阿里云
Policy语法结构__附录1: 授权策略语言_用户指南_访问控制-阿里云
生成证书__证书管理_用户指南_负载均衡-阿里云
BatchFailResultType__数据类型_API文档_云解析-阿里云
多任务支持__命令行工具_批量计算-阿里云
日志查询工具__开发者工具_消息服务-阿里云
删除文件__快速入门_对象存储 OSS-阿里云
云上系统专家保障(标准版)__工作说明书_尊享服务_支持计划-阿里云
相关内容
常见错误说明__附录_大数据计算服务-阿里云
发送短信接口__API使用手册_短信服务-阿里云
接口文档__Android_安全组件教程_移动安全-阿里云
运营商错误码(联通)__常见问题_短信服务-阿里云
设置短信模板__使用手册_短信服务-阿里云
OSS 权限问题及排查__常见错误及排除_最佳实践_对象存储 OSS-阿里云
消息通知__操作指南_批量计算-阿里云
设备端快速接入(MQTT)__快速开始_阿里云物联网套件-阿里云
查询API调用流量数据__API管理相关接口_API_API 网关-阿里云
使用STS访问__JavaScript-SDK_SDK 参考_对象存储 OSS-阿里云