阅读898 返回首页    go windows


消费日志__loghub-消费_用户指南_日志服务-阿里云

数据收集至日志服务LogHub后,有三种方法可以消费日志:

方式 场景 实时性 存储时间
实时消费(LogHub) 流计算、实时计算等 实时 48小时
索引查询(LogSearch) 适合最近热数据的在线查询 30秒 7天、30天、90天
投递存储(LogShipper) 适合全量存储日志,进行离线分析 5-30分钟 依赖于存储系统

实时消费

在写入日志后,最基本功能就是如何消费日志(消费日志与查询日志都意味着“读取”日志,两者区别见这里)。对于一个Shard中日志,消费过程如下:

  1. 根据时间、Begin、End等条件获得游标
  2. 通过游标、步长参数读取日志,同时返回下一个位置游标
  3. 不断移动游标进行日志消费

除最基本的API外,日志服务提供SDK,Storm Spout, Spark Client,Web Console等方式进行日志消费:

  • 使用Spark Client消费日志: 参考EMR SDK/Log Service章节
  • 使用Storm Spout消费日志:日志服务提供一个Loghub Storm Spout来完成storm和loghub对接
  • 使用StreamCompute消费日志:在StreamCompute中创建一个数据源完成和loghub对接
  • 使用loghub client lib消费日志Loghub Consumer Library是对LogHub消费者提供的高级模式,解决多个消费者同时消费logstore时自动分配shard问题。
  • 使用SDK消费日志:日志服务提供多种语言(Java和Python)的SDK,且这些语言的SDK都支持日志消费接口。关于SDK的更多信息请参考日志服务SDK
  • 访问日志统计镜像:对常用日志进行实时分析Docker镜像,免费使用

索引查询

  • 使用日志服务控制消费日志:可以参考日志库操作了解控制台上的消费日志界面及交互方式
  • 使用日志服务SDK/API查询日志:日志服务提供REST风格的API,基于HTTP协议实现。日志服务的API同样提供全功能的日志查询接口。具体参考请见日志服务API

投递存储

其他

  • 安全日志服务: 日志服务与安全云产品对接,可通过ISV消费云产品日志

最后更新:2016-11-23 16:04:02

  上一篇:go unity3d__loghub-采集_用户指南_日志服务-阿里云
  下一篇:go 多实例协同消费__loghub-消费_用户指南_日志服务-阿里云