通过Sidecar方式采集日志

阿里云日志服务SLS支持通过Sidecar模式采集ECI日志。本文介绍如何部署Sidecar容器,以及创建Logtail配置,实现容器日志的采集。

前提条件

  • 已创建ACK Serverless集群。具体操作,请参见创建集群

  • 已开通日志服务。

    登录日志服务控制台时,如果没有开通日志服务,将收到相关提示,可根据页面提示开通。

背景信息

阿里云日志服务SLS支持在ECI中通过Sidecar模式采集日志,即在每个ECI实例中,除业务容器外,运行一个Sidecar容器作为日志Agent,用于采集业务容器产生的日志。

重要

Sidecar模式基于Logtail实现,Logtail必须和业务容器共享日志目录,业务容器将日志写入到共享目录中,Logtail通过监控共享目录中日志文件的变化并采集日志。

采集的日志可以分为以下两种:

  • 标准输出

    采集标准输出依赖于ECIstdlog卷。创建Pod时可以将该卷挂载到Sidecar容器上,Sidecar可以直接以文件的方式访问ECI基础组件收集的标准输出日志。

  • 文本文件

    采集文本文件可以通过Pod内共享的Volume实现。Pod内同一个Volume可以挂载到多个容器,Sidecar可以直接收集业务容器输出到对应Volume内的文本文件。

步骤一:部署Sidecar容器

  1. 创建一个包含Sidecar容器的Deployment。

    YAML内容示例如下,请根据实际情况将占位符变量替换为实际值。

    apiVersion: apps/v1
    kind: Deployment
    metadata:
      labels:
        app: nginx-log-sidecar-demo
      name: nginx-log-sidecar-demo
    spec:
      replicas: 2
      selector:
        matchLabels:
          app: nginx-log-sidecar-demo
      template:
        metadata:
          labels:
            app: nginx-log-sidecar-demo
        spec:
          containers:
            - name: nginx-log-demo
              image: registry-vpc.${RegionId}.aliyuncs.com/log-service/docker-log-test:latest
              command:
                - /bin/mock_log
              args:
                - '--log-type=nginx'
                - '--stdout=false'
                - '--stderr=true'
                - '--path=/var/log/nginx/access.log'
                - '--total-count=100000000'
                - '--logs-per-sec=100'
              imagePullPolicy: Always
              volumeMounts:
                - mountPath: /var/log/nginx
                  name: nginx-log
            - name: logtail
              image: registry-vpc.${RegionId}.aliyuncs.com/log-service/logtail:latest
              env:
                - name: ALIYUN_LOGTAIL_USER_ID
                  value: "${Aliuid}"
                - name: ALIYUN_LOGTAIL_USER_DEFINED_ID
                  value: nginx-log-sidecar
                - name: ALIYUN_LOGTAIL_CONFIG
                  value: /etc/ilogtail/conf/${RegionId}/ilogtail_config.json
                - name: aliyun_logs_machinegroup
                  value: k8s-group-app-alpine
              imagePullPolicy: Always
              volumeMounts:
                - mountPath: /var/log/nginx
                  name: nginx-log
                - mountPath: /stdlog
                  name: stdlog
          volumes:
            - emptyDir: {}        #文本文件日志存储到emptyDir卷
              name: nginx-log
            - name: stdlog        #标准输出日志存储到stdlog卷
              flexVolume:
                driver: alicloud/pod-stdlog
  2. 获取Pod信息。

    kubectl get pods -l app=nginx-log-sidecar-demo

    预期返回结果如下:

    NAME                                      READY   STATUS    RESTARTS   AGE
    nginx-log-sidecar-demo-84587d9796-krn5z   2/2     Running   0          32m
    nginx-log-sidecar-demo-84587d9796-vhnld   2/2     Running   0          32m
  3. 查看日志。

步骤二:配置Logtail采集日志

部署Sidecar容器后,需要在日志服务控制台创建Logtail配置来采集日志。

  1. 登录日志服务控制台

  2. 在控制台右侧单击快速接入数据卡片,然后在接入数据页面,单击正则 - 文本日志

  3. 选择日志空间,然后单击下一步

    请选择ProjectLogstore。如果没有,也可直接单击立即创建进行创建。

    说明

    系统默认会为每个K8s集群生成一个名为k8s-log-{K8s集群ID}Project。

  4. 完成机器组配置,然后单击下一步

    • 使用场景:选择K8s场景

    • 部署方式:选择Sidecar

    • 选择机器组:在源机器组区域选择目标机器组,将该机器组移动到应用机器组区域。如果没有机器组,请单击创建机器组

  5. 完成Logtail配置,然后单击下一步

    Logtail支持通过极简单行、正则解析、分隔符解析、JSON解析等模式采集文本日志。更多信息,请参见主机文本日志采集

    以下为配置示例:

    • 标准输出示例

      采集标准输出时,日志路径为stdlog卷在容器的挂载路径。示例参数配置如下:

      配置区域

      参数

      示例

      全局配置

      配置名称

      stdout

      输入配置

      Logtail部署模式

      文本日志采集

      文件路径

      /stdlog/**/*.log

      处理配置

      处理模式

      说明

      如需添加处理插件,请参见数据采集时处理(处理插件)

    • 文本文件示例

      采集文本文件时,日志路径为共享Volume在容器的挂载路径。示例参数配置如下:

      配置区域

      参数

      示例

      全局配置

      配置名称

      file

      输入配置

      Logtail部署模式

      文本日志采集

      文件路径

      /var/log/nginx/**/*.log

      处理配置

      处理模式

      说明

      如需添加处理插件,请参见数据采集时处理(处理插件)

  6. 查询分析配置。

    默认已设置索引,您也可以根据业务需求,重新设置索引。具体操作,请参见配置索引

  7. 查看采集的ECI日志。

    完成上述配置后,日志服务SLS即可开始采集ECI日志。下图为标准输出日志采集到SLS日志库的效果示例。

    Sidecar6