MYSQL 最朴素的监控方式

标签: dev | 发表时间:2022-09-13 00:00 | 作者:
出处:https://itindex.net/relian
↓推荐关注↓


对于当前数据库的监控方式有很多,分为数据库自带、商用、开源三大类,每一种都有各自的特色;而对于 mysql 数据库由于其有很高的社区活跃度,监控方式更是多种多样,不管哪种监控方式最核心的就是监控数据,获取得到全面的监控数据后就是灵活的展示部分。那我们今天就介绍一下完全采用 mysql 自有方式采集获取监控数据,在单体下达到最快速、方便、损耗最小。本次文章完全使用 mysql 自带的 show 命令实现获取,从 connects、buffercache、lock、SQL、statement、Database throughputs、serverconfig7 大方面全面获取监控数据。

1 连接数(Connects)

  • 最大使用连接数:show status like ‘Max_used_connections’

  • 当前打开的连接数:show status like ‘Threads_connected’

2 缓存(bufferCache)

  • 未从缓冲池读取的次数:show status like ‘Innodb_buffer_pool_reads’

  • 从缓冲池读取的次数:show status like ‘Innodb_buffer_pool_read_requests’

  • 缓冲池的总页数:show status like ‘Innodb_buffer_pool_pages_total’

  • 缓冲池空闲的页数:show status like ‘Innodb_buffer_pool_pages_free’

  • 缓存命中率计算:(1-Innodb_buffer_pool_reads/Innodb_buffer_pool_read_requests)*100%

  • 缓存池使用率为:((Innodb_buffer_pool_pages_total-Innodb_buffer_pool_pages_free)/Innodb_buffer_pool_pages_total)*100%

3 锁(lock)

  • 锁等待个数:show status like ‘Innodb_row_lock_waits’

  • 平均每次锁等待时间:show status like ‘Innodb_row_lock_time_avg’

  • 查看是否存在表锁:show open TABLES where in_use>0;有数据代表存在锁表,空为无表锁

备注:锁等待统计得数量为累加数据,每次获取得时候可以跟之前得数据进行相减,得到当前统计得数据

4 SQL

  • 查看 mysql 开关是否打开:show variables like ‘slow_query_log’,ON 为开启状态,如果为 OFF,set global slow_query_log=1 进行开启

  • 查看 mysql 阈值:show variables like ‘long_query_time’,根据页面传递阈值参数,修改阈值 set global long_query_time=0.1

  • 查看 mysql 慢 sql 目录:show variables like ‘slow_query_log_file’

  • 格式化慢 sql 日志:mysqldumpslow -s at -t 10 /export/data/mysql/log/slow.log
    注:此语句通过 jdbc 执行不了,属于命令行执行。
    意思为:显示出耗时最长的 10 个 SQL 语句执行信息,10 可以修改为 TOP 个数。显示的信息为:执行次数、平均执行时间、SQL 语句

备注:当 mysqldumpslow 命令执行失败时,将慢日志同步到本地进行格式化处理。

5 statement

  • insert 数量:show status like ‘Com_insert’

  • delete 数量:show status like ‘Com_delete’

  • update 数量:show status like ‘Com_update’

  • select 数量:show status like ‘Com_select’

6 吞吐(Database throughputs)

  • 发送吞吐量:show status like ‘Bytes_sent’

  • 接收吞吐量:show status like ‘Bytes_received’

  • 总吞吐量:Bytes_sent+Bytes_received

7 数据库参数(serverconfig)

show variables

8 慢 SQL

慢 SQL 指的是 MySQL 慢查询,具体指运行时间超过 long_query_time 值的 SQL。我们常听 MySQL 中有二进制日志 binlog、中继日志 relaylog、重做回滚日志 redolog、undolog 等。针对慢查询,还有一种慢查询日志 slowlog,用来记录在 MySQL 中响应时间超过阀值的语句。慢 SQL 对实际生产业务影响是致命的,所以测试人员在性能测试过程中,对数据库 SQL 语句执行情况实施监控,给开发提供准确的性能优化意见显得尤为重要。那怎么使用 Mysql 数据库提供的慢查询日志来监控 SQL 语句执行情况,找到消耗较高的 SQL 语句,以下详细说明一下慢查询日志的使用步骤:
  • 确保打开慢 SQL 开关 slow_query_log

  • 设置慢 SQL 域值 long_query_time
    这个 long_query_time 是用来定义慢于多少秒的才算 “慢查询”,注意单位是秒,我通过执行 sql 指令 set long_query_time=1 来设置了 long_query_time 的值为 1, 也就是执行时间超过 1 秒的都算慢查询,如下:

  • 查看慢 SQL 日志路径

  • 通过慢 sql 分析工具 mysqldumpslow 格式化分析慢 SQL 日志
    mysqldumpslow 慢查询分析工具,是 mysql 安装后自带的,可以通过./mysqldumpslow —help 查看使用参数说明

常见用法:
  1. 取出使用最多的 10 条慢查询
    ./mysqldumpslow -s c -t 10 /export/data/mysql/log/slow.log

  2. 取出查询时间最慢的 3 条慢查询
    ./mysqldumpslow -s t -t 3 /export/data/mysql/log/slow.log

注意:使用 mysqldumpslow 的分析结果不会显示具体完整的 sql 语句,只会显示 sql 的组成结构;假如: SELECT  FROM sms_send WHERE service_id=10 GROUP BY content LIMIT 0, 1000; mysqldumpslow 命令执行后显示:
Count: 2 Time=1.5s (3s) Lock=0.00s (0s) Rows=1000.0 (2000), vgos_dba[vgos_dba]@[10.130.229.196]SELECT 
FROM sms_send WHERE service_id=N GROUP BY content LIMIT N, Nmysqldumpslow 的分析结果详解:
  • Count:表示该类型的语句执行次数,上图中表示 select 语句执行了 2 次。

  • Time:表示该类型的语句执行的平均时间(总计时间)

  • Lock:锁时间 0s。

  • Rows:单次返回的结果数是 1000 条记录,2 次总共返回 2000 条记录。

通过这个工具就可以查询出来哪些 sql 语句是慢 SQL,从而反馈研发进行优化,比如加索引,该应用的实现方式等。常见慢 SQL 排查
  1. 不使用子查询
    SELECT  FROM t1 WHERE id (SELECT id FROM t2 WHERE name=’hechunyang’);
    子查询在 MySQL5.5 版本里,内部执行计划器是这样执行的:先查外表再匹配内表,而不是先查内表 t2,当外表的数据很大时,查询速度会非常慢。
    在 MariaDB10/MySQL5.6 版本里,采用 join 关联方式对其进行了优化,这条 SQL 会自动转换为 SELECT t1. FROM t1 JOIN t2 ON t1.id = t2.id;

    但请注意的是:优化只针对 SELECT 有效,对 UPDATE/DELETE 子 查询无效, 生产环境尽量应避免使用子查询。

  2. 避免函数索引
    SELECT  FROM t WHERE YEAR(d) >= 2016;
    由于 MySQL 不像 Oracle 那样⽀持函数索引,即使 d 字段有索引,也会直接全表扫描。
    应改为 > SELECT 
    FROM t WHERE d >= ‘2016-01-01’;

  3. 用 IN 来替换 OR 低效查询
    慢 SELECT  FROM t WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30;
    高效查询 > SELECT 
    FROM t WHERE LOC_IN IN (10,20,30);

  4. LIKE 双百分号无法使用到索引
    SELECT  FROM t WHERE name LIKE ‘%de%’;
    使用 SELECT 
    FROM t WHERE name LIKE ‘de%’;

  5. 分组统计可以禁止排序
    SELECT goods_id,count( ) FROM t GROUP BY goods_id;
    默认情况下,MySQL 对所有 GROUP BY col1,col2… 的字段进⾏排序。如果查询包括 GROUP BY,想要避免排序结果的消耗,则可以指定 ORDER BY NULL 禁止排序。
    使用 SELECT goods_id,count (
    ) FROM t GROUP BY goods_id ORDER BY NULL;

  6. 禁止不必要的 ORDER BY 排序
    SELECT count(1) FROM user u LEFT JOIN user_info i ON u.id = i.user_id WHERE 1 = 1 ORDER BY u.create_time DESC;
    使用 SELECT count (1) FROM user u LEFT JOIN user_info i ON u.id = i.user_id;

9 总结

  • 任何东西不应过重关注其外表,要注重内在的东西,往往绚丽的外表下会有对应的负担和损耗。

  • mysql 数据库的监控支持通过 SQL 方式从 performance_schema 库中访问对应的表数据,前提是初始化此库并开启监控数据写入。

  • 对于监控而言,不在于手段的多样性,而需要明白监控的本质,以及需要的监控项内容,找到符合自身项目特色的监控方式。

  • 在选择监控工具对 mysql 监控时,需要关注监控工具本身对于数据库服务器的消耗,不要影响到其自身的使用。

原文链接:https://my.oschina.net/u/4090830/blog/5564849

作者:安甲舒

来源:OSCHINA 开源社区

- EOF -

推荐阅读  点击标题可跳转

1、 MySQL 的零拷贝技术

2、 学 SQL 必须了解的 10 个高级概念

3、 大厂基本功 | MySQL 三大日志 ( binlog、redo log 和 undo log ) 的作用?


↓推荐关注↓

「数据分析与开发」分享数据分析、数据库开发相关技术文章、教程、工具


点赞和在看就是最大的支持❤️

相关 [mysql 监控] 推荐:

mysql监控工具:zabbix+MPM(Performance Monitor for MySQL)

- - CSDN博客数据库推荐文章
MPM主要用于监控mysql的各种参数性能指标,下面简单说一下他与zabbix的配置:. 下面是它的配置文件关系图. 1、zabbix 模板: Template_FromDual.MySQL.*.xml. 2、MPM agent perl 模块: FromDualMySQL*.pm. 下面是在linux 6.4下安装,先安装如下包:.

(转)mysql监控工具箱 common_schema

- - jackyrong
common_schema是一个MySQL schema工具集(5.1以上版本才适用), 它通过在MySQL数据库里建立一个名为common_schema的数据库, 该数据库里包含许多有用的视图和函数, 用来做数据库分析,监控,管理和SQL代码生成, 其中大部分视图信息其实来自INFORMATION_SCHEMA数据库, 只是做了一些连接和汇总.

MYSQL 最朴素的监控方式

- - IT瘾-dev
对于当前数据库的监控方式有很多,分为数据库自带、商用、开源三大类,每一种都有各自的特色;而对于 mysql 数据库由于其有很高的社区活跃度,监控方式更是多种多样,不管哪种监控方式最核心的就是监控数据,获取得到全面的监控数据后就是灵活的展示部分. 那我们今天就介绍一下完全采用 mysql 自有方式采集获取监控数据,在单体下达到最快速、方便、损耗最小.

[MySQL FAQ]系列 — MySQL复制中slave延迟监控

- - MySQL中文网
在MySQL复制环境中,我们通常只根据 Seconds_Behind_Master 的值来判断SLAVE的延迟. 这么做大部分情况下尚可接受,但并不够准确,而应该考虑更多因素. 首先,我们先看下SLAVE的状态:. 可以看到 Seconds_Behind_Master 的值是 3296,也就是SLAVE至少延迟了 3296 秒.

SQL监控:mysql及mssql数据库SQL执行过程监控审计

- - Seay's blog 网络安全博客
   最近生活有很大的一个变动,所以博客也搁置了很长一段时间没写,好像写博客已经成了习惯,搁置一段时间就有那么点危机感,心里总觉得不自在. 所以从今天起还是要继续拾起墨笔(键盘),继续好好维护这个博客,写出心里最真实的想法,写出平时接触到的一些人和事以及一些新的技术. 当然写博客也不是单纯的为了记录,也想通过博客来结交更多的朋友,今天在公司图书馆看到一句话大致说的是“在今天这个年代,已经很难等到三顾茅庐,诸葛亮也需要博客、微博和影响力”,在一年前就曾想过写一篇关于怎样通过博客来提高个人影响力的文章,我会尽快在这个月抽时间写出来,另外最近也看了几本书,过些时候给大家推荐.

使用HAProxy对MySQL进行负载均衡和状态监控

- Kevin - Michael`s blog
转载请保留原文内容,并声明转载地址:http://www.toplee.com/blog/1284.html. 乐搜(lesoo.com)使用HAProxy已经很久了,但主要用在前端web请求的负载均衡和状态监控上,对于后端的Memcached以及MySQL却一直没有应用,最近对系统架构进行了小规模的整理,把MySQL也收编到了HAProxy下,经过一段时间的使用,体验还是不错的.

mysql常用监控脚本命令列表

- - CSDN博客推荐文章
  整理出来的常用的shell脚本会放到 https://github.com/zhwj184/shell-work 这.  整理出来的常用的shell脚本会放到 https://github.com/zhwj184/shell-work 这.  整理出来的常用的shell脚本会放到 https://github.com/zhwj184/shell-work 这.

配置 CACTI 监控 MySQL 数据库状态

- - CSDN博客数据库推荐文章
   MySQL 自身在性能监测方面很不给力、这是令许多 MySQL DBA 夜夜辗转难眠、.    幸运的是、通过 Cacti 监测(注意是监测而非监控)MySQL 数据库状态.    借助 cacti+rrdtool 强大的绘图功能、加上专用的 mysql 模板、能够灵活快速的创建对多个 MySQL 实例的监测.

MySQLMTOP 开源 MySQL 监控系统 2.1 已发布

- - 开源中国社区最新新闻
MySQLMTOP开源MySQL监控系统2.1已于2014年2月28日发布,这次更新的内容如下:. 1.添加主机时设置一个默认端口3306,无需重复输入. 2.验证表单提示完善(英文提示汉化). 4.图表功能完善-图表可按小时,按天分析. 5.python函数连接数据库函数增加超时参数. 6.数据库优化,索引重建,历史数据表改为分区表.

MySQL 主从延迟监控脚本(pt-heartbeat)

- - CSDN博客数据库推荐文章
    对于MySQL数据库主从复制延迟的监控,我们可以借助percona的有力武器pt-heartbeat来实现. pt-heartbeat通过使用时间戳方式在主库上更新特定表,然后在从库上读取被更新的时间戳然后与本地系统时间对比来得出其延迟. 本文主要是通过脚本来定期检查从库与主库复制的延迟度并发送邮件,供大家参考.