全部产品
存储与CDN 数据库 安全 应用服务 数加·人工智能 数加·大数据基础服务 互联网中间件 视频服务 开发者工具 解决方案 物联网 钉钉智能硬件
日志服务

日志消费与查询区别

更新时间:2017-06-07 13:26:11

日志服务提供了两项功能都和“读”有关:

日志收集与消费(LogHub):提供公共的日志收集、分发通道。全量数据顺序(FIFO)读写,提供类似Kafka的功能

  • 每个LogStore有一个或多个Shard,数据写入时,随机落到某一个shard中
  • 可以从指定shard中,按照日志写入shard的顺序批量读取日志
  • 可以根据server端接收日志的时间,设置批量拉取shard日志的起始位置(cursor)
  • 日志在LogHub中,默认保留2天时间,在此期间,日志可消费

日志查询(Index):在LogHub基础上提供海量日志查询功能,根据关键词的数据随机查询

  • 通过关键词查找,只抓取符合要求的数据
  • 支持关键词 AND、NOT、OR的布尔组合
  • 数据查询不区分shard

两者区别

功能 日志查询(LogSearch) 日志收集与消费(LogHub)
关键词查找 支持 不支持
小量数据读取
全量数据读取 慢(100条日志100ms,不建议这样使用) 快 (1MB日志10ms,推荐方式)
读取是否区分topic 区分 不区分,只以shard作为标识
读取是否区分shard 不区分,查询所有shard 区分,单次读取需要指定shard
费用 较高
适用场景 监控、问题调查等需要过滤数据的场景 流式计算、批量处理等全量处理场景
本文导读目录