MGR 状态监控

MGR和传统主从复制类似，在运行过程中主要关注各节点的运行状态，以及Secondary节点的事务是否有延迟。本文介绍如何监控MGR节点状态、事务状态等。

1. 节点状态监控

通过查询 performance_schema.replication_group_members 表即可知道MGR各节点的状态：

1. greatsql> select * from performance_schema.replication_group_members;
2. +---------------------------+--------------------------------------+--------------+-------------+--------------+-------------+----------------+
3. | CHANNEL_NAME              | MEMBER_ID                            | MEMBER_HOST  | MEMBER_PORT | MEMBER_STATE | MEMBER_ROLE | MEMBER_VERSION |
4. +---------------------------+--------------------------------------+--------------+-------------+--------------+-------------+----------------+
5. | group_replication_applier | af39db70-6850-11ec-94c9-00155d064000 | 192.168.6.27 |        4306 | ONLINE       | PRIMARY     | 8.0.25         |
6. | group_replication_applier | b05c0838-6850-11ec-a06b-00155d064000 | 192.168.6.27 |        4307 | ONLINE       | SECONDARY   | 8.0.25         |
7. | group_replication_applier | b0f86046-6850-11ec-92fe-00155d064000 | 192.168.6.27 |        4308 | ONLINE       | SECONDARY   | 8.0.25         |
8. +---------------------------+--------------------------------------+--------------+-------------+--------------+-------------+----------------+

输出结果中主要几个列的解读如下：

  • MEMBER_ID 列值就是各节点的 server_uuid，用于唯一标识每个节点，在命令行模式下，调用 udf 时传入 MEMBER_ID 以指定各节点
  • MEMBER_ROLE 表示各节点的角色，如果是 PRIMARY 则表示该节点可接受读写事务，如果是 SECONDARY 则表示该节点只能接受只读事务。如果只有一个节点是 PRIMARY，其余都是 SECONDARY，则表示当前处于 单主模式；如果所有节点都是 PRIMARY，则表示当前处于 多主模式
  • MEMBER_STATE 表示各节点的状态，共有几种状态：ONLINE、RECOVERING、OFFLINE、ERROR、UNREACHABLE 等，下面分别介绍几种状态
  • ONLINE表示节点处于正常状态，可提供服务
  • RECOVERING表示节点正在进行分布式恢复，等待加入集群，这时候有可能正在从donor节点利用clone复制数据，或者传输binlog中
  • OFFLINE表示该节点当前处于离线状态。提醒，在正要加入或重加入集群时，可能也会有很短瞬间的状态显示为OFFLINE
  • ERROR表示该节点当前处于错误状态，无法成为集群的一员。当节点正在进行分布式恢复或应用事务时，也是有可能处于这个状态的。当节点处于ERROR状态时，是无法参与集群事务裁决的。节点正在加入或重加入集群时，在完成兼容性检查成为正式MGR节点前，可能也会显示为ERROR状态。
  • UNREACHABLE当组通信消息收发超时时，故障检测机制会将本节点标记为怀疑状态，怀疑其可能无法和其他节点连接，例如当某个节点意外断开连接时。当在某个节点上看到其他节点处于 UNREACHABLE 状态时，有可能意味着此时部分节点发生了网络分区，也就是多个节点分裂成两个或多个子集，子集内的节点可以互通，但子集间无法互通。

当节点的状态不是ONLINE时，就应当立即发出告警并检查发生了什么。

在节点状态发生变化时，或者有节点加入、退出时，表 performance_schema.replication_group_members的数据都会更新，各节点间会交换和共享这些状态信息，因此可以在任意节点查看。

2. MGR事务状态监控

另一个需要重点关注的是Secondary节点的事务状态，更确切的说是关注待认证事务及待应用事务队列大小。

可以执行下面的命令查看当前除了 PRIMARY 节点外，其他节点的 trx_tobe_certified 或 relaylog_tobe_applied 值是否较大：

1. greatsql> SELECT MEMBER_ID AS id, COUNT_TRANSACTIONS_IN_QUEUE AS trx_tobe_certified, COUNT_TRANSACTIONS_REMOTE_IN_APPLIER_QUEUE AS relaylog_tobe_applied, COUNT_TRANSACTIONS_CHECKED AS trx_chkd, COUNT_TRANSACTIONS_REMOTE_APPLIED AS trx_done, COUNT_TRANSACTIONS_LOCAL_PROPOSED AS proposed FROM performance_schema.replication_group_member_stats;
2. +--------------------------------------+-------------------+---------------------+----------+----------+----------+
3. | id                                   |trx_tobe_certified |relaylog_tobe_applied| trx_chkd | trx_done | proposed |
4. +--------------------------------------+-------------------+---------------------+----------+----------+----------+
5. | 4ebd3504-11d9-11ec-8f92-70b5e873a570 |                 0 |                   0 |   422248 |        6 |   422248 |
6. | 549b92bf-11d9-11ec-88e1-70b5e873a570 |                 0 |              238391 |   422079 |   183692 |        0 |
7. | 5596116c-11d9-11ec-8624-70b5e873a570 |              2936 |              238519 |   422115 |   183598 |        0 |
8. | ed5fe7ba-37c2-11ec-8e12-70b5e873a570 |              2976 |              238123 |   422167 |   184044 |        0 |
9. +--------------------------------------+-------------------+---------------------+----------+----------+----------+

其中，relaylog_tobe_applied 的值表示远程事务写到relay log后，等待回放的事务队列，trx_tobe_certified 表示等待被认证的事务队列大小，这二者任何一个值大于0，都表示当前有一定程度的延迟。

还可以通过关注上述两个数值的变化，看看两个队列是在逐步加大还是缩小，据此判断Primary节点是否”跑得太快”了，或者Secondary节点是否”跑得太慢”。

多提一下，在启用流控（flow control）时，上述两个值超过相应的阈值时（group_replication_flow_control_applier_threshold 和 group_replication_flow_control_certifier_threshold 默认阈值都是 25000），就会触发流控机制。

3. 其他监控

另外，也可以查看接收到的事务和已执行完的事务之间的差距来判断：

1. greatsql> SELECT RECEIVED_TRANSACTION_SET FROM performance_schema.replication_connection_status WHERE  channel_name = 'group_replication_applier' UNION ALL SELECT variable_value FROM performance_schema.global_variables WHERE  variable_name = 'gtid_executed'\G
2. *************************** 1. row ***************************
3. RECEIVED_TRANSACTION_SET: 6cfb873b-573f-11ec-814a-d08e7908bcb1:1-3124520
4. *************************** 2. row ***************************
5. RECEIVED_TRANSACTION_SET: 6cfb873b-573f-11ec-814a-d08e7908bcb1:1-3078139

可以看到，接收到的事务 GTID 已经到了 3124520，而本地只执行到 3078139，二者的差距是 46381。

可以顺便持续关注这个差值的变化情况，估算出本地节点是否能及时追平延迟，还是会加大延迟。

另外，当原来的主节点发生故障，想要手动选择某个节点做为新的主节点时，也应该先判断哪个节点已执行的事务GTID值更大，应优先选择该节点。

4. MySQL Shell for GreatSQL监控

使用status()，可以查看当前各节点列表，以及各节点状态

1. MySQL  172.16.16.10:3306 ssl  Py > c.status()
2. {
3. "clusterName": "GreatSQLMGR",
4. "defaultReplicaSet": {
5. "name": "default",
6. "primary": "172.16.16.10:3306",
7. "ssl": "REQUIRED",
8. "status": "OK",
9. "statusText": "Cluster is ONLINE and can tolerate up to ONE failure.",
10. "topology": {
11. "172.16.16.10:3306": {
12. "address": "172.16.16.10:3306",
13. "memberRole": "PRIMARY",
14. "mode": "R/W",
15. "readReplicas": {},
16. "replicationLag": null,
17. "role": "HA",
18. "status": "ONLINE",
19. "version": "8.0.32"
20. },
21. "172.16.16.11:3306": {
22. "address": "172.16.16.11:3306",
23. "memberRole": "SECONDARY",
24. "mode": "R/O",
25. "readReplicas": {},
26. "replicationLag": null,
27. "role": "HA",
28. "status": "ONLINE",
29. "version": "8.0.32"
30. },
31. "172.16.16.12:3306": {
32. "address": "172.16.16.12:3306",
33. "memberRole": "ARBITRATOR",
34. "mode": "R/O",
35. "readReplicas": {},
36. "replicationLag": null,
37. "role": "HA",
38. "status": "ONLINE",
39. "version": "8.0.32"
40. }
41. },
42. "topologyMode": "Single-Primary"
43. },
44. "groupInformationSourceMember": "172.16.16.10:3306"
45. }

输出结果中主要几个列的解读如下：

  • clusterName:集群的名称,这里是 GreatSQLMGR
  • defaultReplicaSet:默认的复制组信息
  • name:复制组的名称,这里是 default
  • primary:当前的主节点地址
  • ssl:使用的SSL加密方式,这里是REQUIRED表示需要SSL连接
  • status:复制组的状态,OK表示正常
  • statusText:集群的文本描述状态
  • topology:组成集群的各个节点信息
  • address:节点地址
  • memberRole:节点在组内的角色,可以是PRIMARY、SECONDARY、ARBITRATOR
  • mode:节点的读写模式,PRIMARY是读写,其他都是只读
  • readReplicas:从节点信息
  • replicationLag:复制延迟情况
  • role:节点角色,HA表示高可用性
  • status:节点状态,ONLINE表示在线
  • version:节点GretSQL版本

问题反馈

联系我们

扫码关注微信公众号

greatsql-wx