钉钉接入运维系统(封神-核心功能)

1. 开发背景

1.1 用户痛点

①租户侧运维能力弱问题:租户侧,客户没有有效途径,及时地获取实例级的状态、性能、容量的数据。现状:每日固定时间,驻场需要人肉收集数据,钉钉定时推送给客户。②问题排查效率低问题:应用业务有问题,云平台产品正常,客户并不认可,需要帮助客户解决问题。现状:发现应用实例出现性能、容量被打满的问题,这个排查过程往往冗长, 效率很低。③监控能力缺失问题:云平台监控不全,容量管理、性能管理等报表能力缺失。现状:驻场需要通过大量人肉巡检,或者编写脚本。④监控 方式时效性低问题:业务侧总会优先于应用与云平台感知到故障,运维非常被动 。现状:客户发现问题,通知应用,应用检查后,再溯源到云平台,排查链路串行并且低效。

1.2 解决方案

①保障业务稳定通过云产品的服务能力的变化情况及业务仿真模型的建立,提前预知客户业务健康度,低于基线后便会触发告警。②SLA化展示触发阈值自动报警,量化产品健康状况。

2. 开发设计

2.1 系统架构

钉钉接入运维系统(封神-核心功能)(1)

图1:系统架构图

封神系统架构如图1所示,分为CLIENT与SERVER端两大模块。

  • CLINET端:部署在经典网铜雀容器内,通过定时任务控制去采集云内各产品数据。
  • SERVER端:部署在VPC内ECS上,系统框架为FLASK,分为数据处理与数据存储两大部分。
  • ①数据处理是指通过提供API接受CLIENT的数据并进行入库操作以及数据的前端展示。②数据存储是指借助阿里云RDS数据库,对数据进行持久化操作作。

2.2 业务架构

钉钉接入运维系统(封神-核心功能)(2)

图2:业务架构图

封神业务架构如如2所示,分为五大板块。

  • 姜子牙:租户侧告警,主要包括ECS、RDS等云产品实例性能以及业务相关告警。
  • 申公豹:运维侧告警,主要包括云产品健康状态、水位容量等相关告警。
  • 雷震子:硬件告警,主要包括坏盘,物理机带外等告警。
  • 比 干:安全告警,主要来自云盾相关安全类告警。
  • 杨 戬:故障告警,主要对各产品数据进行SLA算法处理,设置P0,P1等级故障阈值。
3. 钉钉告警

3.1 告警分类

机器人创建方式可参考文后资料[1]了解详情。

姜子牙

钉钉接入运维系统(封神-核心功能)(3)

申公豹

钉钉接入运维系统(封神-核心功能)(4)

雷震子

钉钉接入运维系统(封神-核心功能)(5)

比 干

钉钉接入运维系统(封神-核心功能)(6)

杨 戬

钉钉接入运维系统(封神-核心功能)(7)

3.2 告警展示

钉钉接入运维系统(封神-核心功能)(8)

图3:姜子牙

钉钉接入运维系统(封神-核心功能)(9)

图4:申公豹

钉钉接入运维系统(封神-核心功能)(10)

图5:雷震子

钉钉接入运维系统(封神-核心功能)(11)

图6:比干

钉钉接入运维系统(封神-核心功能)(12)

图7:杨戬-1

钉钉接入运维系统(封神-核心功能)(13)

图7:杨戬-2

钉钉接入运维系统(封神-核心功能)(14)

图7:杨戬-3

钉钉接入运维系统(封神-核心功能)(15)

图7:杨戬-4

4. 数据网关

数据网关分为两大模块:获取数据、接收数据。

  • 获取数据分为告警数据、全量数据、性能数据。
  • ①告警数据:分别对应钉钉机器人推送的告警信息,封装成相应的数据格式,以API接口形式对外提供数据。②全量数据:数据库源表数据,不做任何加工处理,以API接口形式对外提供数据,可操作性较高。③性能数据:产品性能数据会定期存储到时序数据库,存储时间长,可查询历史性能数据。
  • 接收数据:提供对外API接收客户自定义监控数据,封装成MARKDOWN格式,实时进行钉钉告警。

4.1 获取数据

4.1.1 告警数据

4.1.1.1 请求接口

请求方式:POST请求URL地址: http://{ip}:{port}/api/v1/search/monitorip:封神ecs_ipport:9170PARAM:参数列表可查看文后资料[2]了解详情。

钉钉接入运维系统(封神-核心功能)(16)

4.1.1.2 DEMO

import sys import requests url = "http://{ip}:{port}/api/v1/search/monitor/" data = {"product":"MQ", "title":"积压告警", "stime":"2020-01-04 00:00:00", "etime":"2020-01-04 00:01:00"} res = requests.post(url=url, json=data) print res.content

curl -H "Content-Type:application/json" -X POST -d {"type":"ALL"} http://{ip}:{port}/api/v1/search/monitor/

4.1.1.3 数据返回

钉钉接入运维系统(封神-核心功能)(17)

①当前存在告警{"code":0, "data":[{"info":"0.0.0.0,ecs,95% 0.0.0.1,ecs,95% ", "product":"ECS", "title":"性能告警", "level":"告警", "robot":"姜子牙", "monitor_time":"2020-01-14 00:00:00", "columns":"IP,产品,值"}]}②当前未存在告警数据(告警恢复正常){"code":0, "data":[{"info":"", "product":"ECS", "title":"性能告警", "level":"告警", "robot":"姜子牙", "monitor_time":"2020-01-14 00:00:00", "columns":"IP,产品,值"}]}③未查询到数据:{"code":0, "data":[]}④查询异常:{"code":500, "data":"异常信息"}

4.1.2 全量数据

4.1.2.1 请求接口

请求方式:POST请求URL地址: http://{ip}:{port}/api/v1/search/data/ip:封神ecs_ipport:9170PARAM:参数列表可查看文后资料[2]了解详情。

钉钉接入运维系统(封神-核心功能)(18)

4.1.2.2 DEMO

import sys import requests url = "http://{ip}:{port}/api/v1/search/data/" data = {"product":"MQ", "title":"TIME", "stime":"2020-01-04 00:00:00", "etime":"2020-01-04 00:01:00"} res = requests.post(url=url, json=data) print res.content

4.1.2.3 数据返回

钉钉接入运维系统(封神-核心功能)(19)

4.1.3 性能数据

4.1.3.1 请求接口

请求方式:POST请求URL地址: http://{ip}:{port}/api/v1/influxdb_query/ip:封神ecs_ipport:9170PARAM:参数为INFLUXDB SQL

钉钉接入运维系统(封神-核心功能)(20)

4.1.3.2 DEMO

import sys import requests url = "http://{ip}:{port}/api/v1/influxdb_query/" data = {"sql":"infudb sql"} res = requests.post(url, data) print res.content

4.1.3.3 数据返回

钉钉接入运维系统(封神-核心功能)(21)

4.2 接收数据

4.2.1 请求接口

请求方式:POST请求URL地址:http://{ip}:{port}/api/v1/insert/thirdip:封神ecs_ipport:9170PARAM:

钉钉接入运维系统(封神-核心功能)(22)

4.2.2 DEMO

import sys import requests url = "http://172.0.0.1:9170/api/v1/insert/third/" data = {"title":"ecs性能监控", "level":"预警", "source":"云监控", "product":"ecs", "msg":"ip:10.0.0.1 cpu:98% ip:127.0.0.1 mem:99%", "robot":"姜子牙", "submitor":"高德臣", "monitor_time":"2021-03-10 16:00:00", "details":"兄弟 关注下"} res = requests.post(url=url, json=data) print res.text

4.2.3 告警展示

钉钉接入运维系统(封神-核心功能)(23)

图8:告警展示图

本文为阿里云原创内容,未经允许不得转载。

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。