一次Mariadb死锁排查过程回顾

2020年2月29日 评论 390 views 3989字阅读13分17秒

场景

在使用某个平台的时候,有些页面发现长时间,部分数据无法加载成功,开始排查问题。

确定是mariadb的问题的过程

访问了几个页面都是正常的,唯独某几个页面查询实时监控数据时无法加载出来,F12查看接口发现有几个业务相似的接口长时间不返回数据。

既然整体功能是正常的,只有部分页面出现问题,而且都是实时数据无法显示,怀疑是同一个地方出现问题,于是把接口放在一起发现共同点。

  1. 都是timeout长时间无响应,而且不是前端资源加载的问题,F12可以看到一个接口的请求过程,例如下图

  1. 查看代码逻辑 ,发现几个接口同时查询过一个表,登陆mariadb,发现SELECT长时间不返回。怀疑是锁表了。

以下所有示例使用docker启动mysql演示复现。

我先锁表

lock table test read;
lock table test write;

发现是卡住了

mysql> select * from test;
mysql> 2013 - Lost connection to MySQL server during query

查看长时间卡住的线程

查询进程(如果您有SUPER权限,您可以看到所有线程。否则,您只能看到您自己的线程)

show processlist;

但是此命令只能显示前100条数据,要想看全部的数据,请输入

show full processlist;
这个命令中最关键的就是state列,mysql列出的状态主要有这几种,点击此处展开查看

Checking table
 正在检查数据表(这是自动的)。
Closing tables
 正在将表中修改的数据刷新到磁盘中,同时正在关闭已经用完的表。这是一个很快的操作,如果不是这样的话,就应该确认磁盘空间是否已经满了或者磁盘是否正处于重负中。
Connect Out
 复制从服务器正在连接主服务器。
Copying to tmp table on disk
 由于临时结果集大于tmp_table_size,正在将临时表从内存存储转为磁盘存储以此节省内存。
Creating tmp table
 正在创建临时表以存放部分查询结果。
deleting from main table
 服务器正在执行多表删除中的第一部分,刚删除第一个表。
deleting from reference tables
 服务器正在执行多表删除中的第二部分,正在删除其他表的记录。
Flushing tables
 正在执行FLUSH TABLES,等待其他线程关闭数据表。
Killed
 发送了一个kill请求给某线程,那么这个线程将会检查kill标志位,同时会放弃下一个kill请求。MySQL会在每次的主循环中检查kill标志位,不过有些情况下该线程可能会过一小段才能死掉。如果该线程程被其他线程锁住了,那么kill请求会在锁释放时马上生效。
Locked
 被其他查询锁住了。
Sending data
 正在处理SELECT查询的记录,同时正在把结果发送给客户端。
Sorting for group
 正在为GROUP BY做排序。
 Sorting for order
 正在为ORDER BY做排序。
Opening tables
 这个过程应该会很快,除非受到其他因素的干扰。例如,在执ALTER TABLE或LOCK TABLE语句行完以前,数据表无法被其他线程打开。正尝试打开一个表。
Removing duplicates
 正在执行一个SELECT DISTINCT方式的查询,但是MySQL无法在前一个阶段优化掉那些重复的记录。因此,MySQL需要再次去掉重复的记录,然后再把结果发送给客户端。
Reopen table
 获得了对一个表的锁,但是必须在表结构修改之后才能获得这个锁。已经释放锁,关闭数据表,正尝试重新打开数据表。
Repair by sorting
 修复指令正在排序以创建索引。
Repair with keycache
 修复指令正在利用索引缓存一个一个地创建新索引。它会比Repair by sorting慢些。
Searching rows for update
 正在讲符合条件的记录找出来以备更新。它必须在UPDATE要修改相关的记录之前就完成了。
Sleeping
 正在等待客户端发送新请求.
System lock
 正在等待取得一个外部的系统锁。如果当前没有运行多个mysqld服务器同时请求同一个表,那么可以通过增加--skip-external-locking参数来禁止外部系统锁。
Upgrading lock
 INSERT DELAYED正在尝试取得一个锁表以插入新记录。
Updating
 正在搜索匹配的记录,并且修改它们。
User Lock
 正在等待GET_LOCK()。
Waiting for tables
 该线程得到通知,数据表结构已经被修改了,需要重新打开数据表以取得新的结构。然后,为了能的重新打开数据表,必须等到所有其他线程关闭这个表。以下几种情况下会产生这个通知:FLUSH TABLES tbl_name, ALTER TABLE, RENAME TABLE, REPAIR TABLE, ANALYZE TABLE,或OPTIMIZE TABLE。
waiting for handler insert
 INSERT DELAYED已经处理完了所有待处理的插入操作,正在等待新的请求。
 大部分状态对应很快的操作,只要有一个线程保持同一个状态好几秒钟,那么可能是有问题发生了,需要检查一下。
 还有其他的状态没在上面中列出来,不过它们大部分只是在查看服务器是否有存在错误是才用得着。

假如发现锁表进程,请输入kill指令将他剔除。

mysql> kill 9;
Query OK, 0 rows affected (0.00 sec)
mysql> kill 11;
Query OK, 0 rows affected (0.00 sec)

再看已经没有了

也能查询了。

mysql> select * from test;
+----+------+
| id | a    |
+----+------+
|  1 | test |
|  2 | a    |
+----+------+
2 rows in set (0.00 sec)

查询是否锁表

但是刚刚我加的锁并没有看到是哪个表被锁,也没看到状态,能修复纯属瞎猫碰上死耗子,而且线上生产环境最忌讳就是不知道线程是干嘛的随便杀了,一个有经验的运维是不会这么做的 。

我重新把表锁上。用这个命令查看打开了哪些表 (不包括临时表)。

mysql> show OPEN TABLES where In_use > 0;
+------------+-------+--------+-------------+
| Database   | Table | In_use | Name_locked |
+------------+-------+--------+-------------+
| coding3min | test  |      1 |           0 |
+------------+-------+--------+-------------+
1 row in set (0.00 sec)

In_use 表的表锁或锁请求数(已经锁表,或等待锁表)

Name_locked 显示表名称是否被锁定(DDL)

mysql> unlock tables;
Query OK, 0 rows affected (0.00 sec)

mysql> show OPEN TABLES where In_use > 0;
Empty set

查看事物锁

事物锁不同于表锁,

select trx_tables_locked,trx_tables_in_use,
       trx_rows_locked,trx_mysql_thread_id,trx_state
from information_schema.innodb_trx;

手动创建一个更新的事物

mysql> start transaction;
Query OK, 0 rows affected (0.01 sec)

mysql> update test2 set a='111';
Query OK, 2 rows affected (0.00 sec)
Rows matched: 2  Changed: 2  Warnings: 0

只要trx_tables_locked,trx_tables_in_use,trx_rows_locked三个字段其中一个有值,说明此记录是事物锁,try_mysql_thread_id 就是这个线程idkill掉,即可。

我另开一个终端,再启动一个事物,因为前一个事物没有停止,所以会产生一个锁等待。

mysql> use coding3min;
Database changed
mysql> start transaction;
Query OK, 0 rows affected (0.00 sec)

mysql> update test2 set a='222'; 
1205 - Lock wait timeout exceeded; try restarting transaction

再查询一次

mysql> kill 20;
1317 - Query execution was interrupted
mysql> kill 21;
Query OK, 0 rows affected (0.01 sec)

mysql> select trx_tables_locked,trx_tables_in_use,
trx_rows_locked,trx_mysql_thread_id,trx_state
from information_schema.innodb_trx;
Empty set

妥了,可能kill会等待好几分钟,耐心等待。

最后的话

每种操作都会在不同的策略确保kill操作的线程消亡掉。

mysql kill处理的机制看,在mysql hang住的情况下,大量写操作被阻塞,使用kill并不能立即解决问题,如果想尽快让mysql恢复服务,最快的是主备切换,或直接重启mysql。

最重要的还是搞清楚所有的死锁情况,优化代码,不再出现类似的问题。

引用

mysql查看死锁和解除锁
mysql锁表解决方案

MySQL最后更新:2020-8-31
小熊