基于阿里云ARMS Grafana构建线下IDC Zabbix和云上Prometheus的统一监控

更新时间:

方案概述

有许多客户在线下IDC机房和阿里云上都部署有服务器资源。部分客户之前线下IDC的统一监控是基于Zabbix实现的,在使用了阿里云后,希望可以通过阿里云的监控服务来实现云上云下的监控数据在同一个监控平台,实现统一监控。

本方案旨在给出阿里云上统一纳管线下Zabbix监控和云上Prometheus的一种解决方案。

本方案用阿里云的一个单独的地域模拟线下IDC环境,在其中通过terraform自动化脚本部署:

  • 一台ECS作为Zabbix Server服务器提供监控服务;

  • 一台ECS作为Zabbix Agent,它是Zabbix Server的监控对象和数据来源;

  • 相关必要的VPC、交换机、弹性公网IP、安全组。

然后,把该Zabbix监控接入到阿里云统一监控平台--应用实时监控服务ARMS中的Grafana工作区;再把云上Prometheus监控接入到上述Grafana工作区;最后,把线下IDC Zabbix监控和云上Prometheus监控集成到同一个仪表盘文件夹。

方案优势

  • 实现云上云下统一监控,方便客户运维;

  • 实现不同监控协议的统一接入,让客户线下Zabbix配置无需改造即可快速接入阿里云监控平台;

客户场景

有些企业线下IDC和阿里云上都部署有服务器资源;同时,很多企业之前线下IDC的统一监控是基于Zabbix实现的,在使用了阿里云后,希望可以通过阿里云的监控服务,把云上云下监控数据集成到同一个监控平台,实现统一监控。

方案架构

本方案:

  • 首先,在阿里云上一个单独的地域(本例中为青岛)构建了一个Zabbix服务器和一个Zabbix Agent作为Zabbix的监控数据源,以此模拟线下IDCZabbix服务;此外,考虑到Zabbix服务搭建需要很多安装步骤和参数的调整,这里使用了terraform工具把所有命令行相关的配置通过脚本的形式实现了自动化部署;

  • 然后,在阿里云应用实时监控服务ARMS中创建了一个Grafana工作区;

  • 随后,配置线下IDCZabbix数据源接入到阿里云上创建的Grafana工作区;

  • 为了体现云上云下统一监控,我们还配置了云上Prometheus监控接入到上述Grafana工作区;

  • 最后,再把线下IDC Zabbix监控和云上Prometheus监控集成到同一个仪表盘文件夹。

产品费用及名词

产品费用

产品名称

产品说明

产品费用

云服务器ECS

云服务器ECS(Elastic Compute Service)是一种简单高效、处理能力可弹性伸缩的计算服务。帮助您构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新。

收费,详情参见产品计费

可观测可视化 Grafana 版

可观测可视化 Grafana 版作为云原生数据可视化平台,为运维SRE、研发工程师等不同角色提供一站式可视化平台,满足运维监控、经营分析、汇报展示等不同场景的数据查询、可视化、告警需求。

收费,详情参见产品计费

应用实时监控服务ARMS

应用实时监控服务ARMS作为一款云原生可观测产品平台,包含应用监控、前端监控、Prometheus监控、云拨测、Grafana服务、告警管理等一系列子产品。其覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景,帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率,减少运维工作量。

收费,详情参见产品计费

专有网络VPC

专有网络VPC(Virtual Private Cloud)是您专有的云上私有网络。您可以完全掌控自己的专有网络,例如选择IP地址范围、配置路由表和网关等,您可以在自己定义的专有网络中使用阿里云资源,如云服务器、云数据库RDS和负载均衡等。

本身免费,详情参见产品计费

交换机vSwitch

交换机(vSwitch)是组成专有网络的基础网络模块,用来连接不同的云资源。成功创建交换机后,您可以在交换机中创建云资源、绑定自定义路由表或者绑定网络ACL。

免费,详情参见VPC产品计费

弹性公网IP(EIP)

弹性公网IP(Elastic IP Address,简称EIP)是可以独立购买和持有的公网IP地址资源。目前,EIP仅支持绑定到专有网络类型的ECS实例、专有网络类型的私网SLB实例、专有网络类型的辅助弹性网卡、NAT网关和高可用虚拟IP上。

收费,详情参见产品计费

名词解释

名称

说明

Terraform Explorer

Terraform Explorer 是一款面向 Terraform 的在线调试工具,可以帮助开发者实现 0 门槛体验 Terraform,让「自动化」更轻松。

安全性

应用实时服务监控ARMS访问控制

应用实时监控服务,借助访问控制RAMRAM用户,您可以实现权限分割的目的,按需为RAM用户赋予不同权限,并避免因暴露阿里云账号密钥造成的安全风险,相关介绍参见访问控制概述使用RAM进行访问控制

可观测可视化 Grafana 版访问控制

可观测可视化 Grafana 版可以借助RAM角色实现跨账号授权及资源访问的控制,相关介绍参见访问控制

VPC安全性

专有网络VPC具有安全可靠、灵活可控、灵活可用以及较强的可扩展性,详情参见产品优势访问控制

注意事项

Terraform Provider版本

本次实施中,使用的Terraform Provider版本为1.240.0。

实施步骤

实施准备

  • 确保已有相关阿里云账号,并有足够访问控制权限(详见“安全性”章节的各个访问控制说明)。

实施规划

本次实施中,我们用阿里云的一个单独的地域模拟线下IDC环境:

  • 首先,在阿里云上一个单独的地域(本例中为青岛)构建了一个Zabbix服务器和一个Zabbix Agent作为Zabbix的监控数据源,以此模拟线下IDCZabbix服务;此外,考虑到Zabbix服务搭建需要很多安装步骤和参数的调整,这里使用了terraform工具把所有命令行相关的配置通过脚本的形式实现了自动化部署;

  • 然后,在阿里云应用实时监控服务ARMS中创建了一个Grafana工作区;

  • 随后,配置线下IDCZabbix数据源接入到阿里云上创建的Grafana工作区;

  • 为了体现云上云下统一监控,我们还配置了云上Prometheus监控接入到上述Grafana工作区;

  • 最后,再把线下IDC Zabbix监控和云上Prometheus监控集成到同一个仪表盘文件夹。

实施时长

在实施准备工作完成的情况下,本方案实施预计时长:60分钟。

操作步骤

1. terraform部署Zabbix ServerAgent

1.1. 用阿里云Terraform Explorer创建调试任务并创建资源

确保已登录阿里云账号(并保证有足够的权限),并浏览器访问Terraform Explorer

点击示例模板--创建模板--创建空白模板,填写模板名称和模板描述;

点击下图红框打开编辑模式;

贴入github链接代码库中的main.tf中的代码;

点击发起调试;

点击预览并执行;

整个创建资源的过程大概需要3~5分钟,执行成功后,界面如下图;

点击执行详情,把日志拉到最底部,可以看到该terraform脚本设置的三个Outputs输出,其中第一个和第三个参数之后会用到。

1.2. 进行Zabbix管理界面初始化配置

如下步骤需要通过浏览器白屏进行操作。

用浏览器访问上一步中的zabbix_Server_URL,本例中为 http://47.104.144.42/zabbix;

点击进入页面后的Next step;

下个页面再次点击Next step;

下个页面,Password输入terraform脚本中设置的密码 zabbix,其他参数保持默认,并点击Next step;

注:若想自定义上述密码,可修改terraform脚本中如下参数;

variable "mysql_zabbix_password" {
  default = "zabbix"
}

下个页面,Name输入zabbix,其他参数保持默认,并点击Next step;

下个页面再次点击Next step;

完成配置,点击Finish;

自动进入登录页面,默认的登录账号和密码为:Admin/zabbix,填入信息点击Sign in,请留意用户名密码的大小写;

注:为保障安全,登录后建议及时修改默认密码。

登录后可见控制台页面如下图;

可选操作:设置控制台界面为中文。

点击左边菜单栏的 User settings--Language--选择 Chinese(zh_CN),再点击 Update 完成更新。

1.3. Zabbix管理页面中加入被监控主机

点击左边菜单栏【配置】中的【主机】,点击【创建主机】;

【主机名称】设置成 zbx-agent01

【可见的名称】设置成 zbx-agent01-172.16.0.155

【群组】选择 Linux server

【Interfaces】的【IP地址】设置成172.16.0.155

这里的IP地址172.16.0.155,请按照terraform执行详情最后的Outputs中的zabbix_Agent_Private_IP的实际显示IP进行配置;

完成上述配置后,先不要点击添加;

请点击【模板】进入模板配置;

在链接新模板中,输入linux,选中“Template OS Linux by Zabbix agent”;

此时点击添加,完成配置。

管理平台会返回如下页面;

此时,点击左边栏监测--主机,可以看到zbx-agent01的可用性一栏中,ZBX为绿色,代表已成功接入;

点击最新数据,也可以看到该Agent的相关监控数据,如下图;

2. 在阿里云应用实时监控服务ARMS中创建Grafana工作区

访问阿里云可观测可视化 Grafana 版产品页面,点击如下购买按钮。

在工作区购买页面设置以下参数,然后单击立即购买

配置项

设定值

工作区名称

Grafana云上云下统一监控

Admin 密码

Test@12345

地域

上海

版本

开发者版

Grafana版本号

Grafana 10.0.X

用户账号数量

1个用户账号

购买时长

1个月

到期自动续费

不勾选

资源组

默认不填

标签

默认不填

确认订单并完成支付。

随后,访问Grafana服务的工作区管理或者通过登录ARMS控制台,在左侧导航栏选择Grafana服务 > 工作区管理进入如下页面。

点击上图红框,进入如下页面;

访问上图的【公网地址】的链接,通过用户名密码:admin/Test@12345完成登录;

3. 配置线下IDC Zabbix数据源接入Grafana

3.1. 配置Zabbix数据源

单击Grafana首页左上角的图标。

grafana左侧导航栏,单击管理--数据源

数据源页面,单击Add new data source

Add data source页面的搜索框中搜索并单击Zabbix

Settings页面设置以下参数。

参数

说明

示例值

Name

自定义数据源名称。

Zabbix-IDC

URL

Zabbix服务地址。

[zabbix_Server_URL]/api_jsonrpc.php

本例中为:

http://47.104.144.42/zabbix/api_jsonrpc.php

Username

Zabbix服务账号。

默认:Admin

Password

Zabbix服务密码。

默认:zabbix

其他参数保持默认不动,点击Save&test;

点击后得到test结果如下;

3.2. 使用Zabbix数据源创建Grafana仪表盘

在上一步的相同页面中(或者从管理--数据源--Zabbix-IDC重新进入该页面),回到页面最上方,点击Dashboards;

然后点击“Zabbix Template Linux Server”右侧的Import;

得到如下结果;

单击Grafana首页左上角的图标;

grafana左侧导航栏,单击仪表盘

在页面中,单击“Zabbix Template Linux Server”进入该仪表盘;

得到如下页面;

已经可以看到zbx-agent01的监控数据,如上图;

Group如果选择Zabbix servers,也可以看到Zabbix服务器的监控数据,如下图。

至此,线下IDCZabbix数据源已成功接入到阿里云上Grafana统一监控大盘。

4. 配置云上Prometheus数据源接入Grafana

4.1. 新建Prometheus实例并配置主机监控

访问应用实时监控服务ARMS,选择上海区域;

Prometheus监控--实例列表--接入数据--基础设施中选择主机监控;

选择想要监控ECS主机所属的VPC,在本例中,我上海VPC1中有两台ECS,因此我选择该VPC。

其他配置保持默认,点击确定开始配置;

完成配置后,点击接入管理;

可得如下界面,可以看到该VPC下两台ECS,已经安装了相应的探针和服务组件;

4.2. Prometheus监控集成到Grafana

访问应用实时监控服务ARMS,通过Grafana服务--工作区管理,进入之前创建的Grafana工作区,如下图;

选择刚刚创建的Prometheus监控服务,并点击对应的【集成】,如下图;

点击确认;

完成后效果如下图;

此时我们点击Grafana公网地址可再次访问Grafana统一监控页,如上图红框;

此时,在Grafana仪表盘中,已经可以看到云上ECS相关监控;

5. 将线下IDC Zabbix监控和云上Prometheus监控集成到同一仪表盘文件夹

Grafana管理页面的仪表盘中,点击“Env-VPC-上海VPC1-cn-shanghai”--Settings;

将文件夹名改为“云上云下统一监控”,并点击Save;

在仪表盘页面,单击“Zabbix Template Linux Server”进入仪表盘,并点击下图红框的仪表盘设置;

点击Folder,下拉框中选择“云上云下统一监控”,然后点击左上角“Save dashboard”;

点击Save;

点击Save as;

点击Save;

至此,在“云上云下统一监控”下,可以同时看到线下IDC Zabbix和云上PrometheusDashboard。

方案卸载

Terraform Explorer页面中点击“销毁资源”,如下图;

等待几分钟,出现预览结果“成功”,点击“执行”,进行资源销毁;

等待出现执行结果“成功”,如下图,即可;此时,之前通过Terraform创建的资源会全部释放掉;

其他通过控制台白屏创建的资源和配置,也按需删除或释放即可。