| title | summary |
|---|---|
BR 备份与恢复场景示例 |
介绍使用 BR 备份与恢复的场景示例。 |
Backup & Restore (BR) 是一款分布式的快速备份和恢复工具。
本文介绍 BR 常用的几种备份和恢复场景：
阅读本文，你将能：
- 正确使用网络盘或本地盘进行备份或恢复
- 通过相关监控指标了解备份或恢复的状态
- 了解在备份或恢复时如何调优性能
- 处理备份时可能发生的异常
你需要对 TiDB 和 TiKV 有一定的了解。
在阅读本文前，请确保你已通读 BR 简介，尤其是使用限制和使用建议这两节。
本节介绍 TiDB 的推荐部署方式、BR 使用示例中的集群版本、TiKV 集群硬件信息和集群配置。
你可以根据自己的硬件和配置来预估备份恢复的性能。推荐使用网络盘来进行备份和恢复操作，这样可以省去收集备份数据文件的繁琐步骤。尤其在 TiKV 集群规模较大的情况下，使用网络盘可以大幅提升操作效率。
推荐使用 TiUP 部署 TiDB 集群，然后通过 TiUP 安装 BR。
- TiDB: v6.2.0
- TiKV: v6.2.0
- PD: v6.2.0
- BR: v6.2.0
注意：
推荐使用最新版本 TiDB/TiKV/PD/BR，同时需要确保 BR 版本和 TiDB 版本相同。
- 操作系统：CentOS Linux release 7.6.1810 (Core)
- CPU：16-Core Common KVM processor
- RAM：32GB
- 硬盘：500G SSD * 2
- 网卡：万兆网卡
BR 可以直接将命令下发到 TiKV 集群来执行备份和恢复，不依赖 TiDB server 组件，因此无需对 TiDB server 进行配置。
- TiKV: 默认配置
- PD: 默认配置
除了以上准备工作，执行备份和恢复命令前，还应做如下检查。
运行 br backup 命令进行备份前，请确保以下条件：
- TiDB 集群中没有正在运行中的 DDL。
- 用于创建备份的存储设备有足够的空间（具有备份集群的 1/3 的磁盘空间即可）。
运行 br restore 命令进行恢复前，需要检查新集群，确保集群内没有同名的表。
执行 br backup 命令，将单表数据 --db batchmark --table order_line 备份到指定的网络盘路径 local:///br_data 下。
- 备份前的准备工作。
- 配置一台高性能 SSD 硬盘主机为 NFS server 存储数据。其他所有 BR 节点、TiKV 节点和 TiFlash 节点为 NFS client，挂载相同的路径（例如
/br_data）到 NFS server 上以访问 NFS server。 - NFS server 和 NFS client 间的数据传输速率至少要达到备份集群的
TiKV 实例数 * 150MB/s。否则，网络 I/O 有可能成为性能瓶颈。
注意：
- 因为备份时候只备份单副本 (leader) 数据，所以即使集群中存在 TiFlash 副本，无需挂载 TiFlash 节点 BR 也能完成备份。
- BR 在恢复数据时，会恢复全部副本的数据。因此在恢复时，TiFlash 节点需要有备份数据的访问权限 BR 才能完成恢复，此时也必须将 TiFlash 节点挂载到 NFS server 上 。
部署拓扑如下图所示：
运行 BR 备份命令：
{{< copyable "shell-regular" >}}
bin/br backup table \
--db batchmark \
--table order_line \
-s local:///br_data \
--pd ${PD_ADDR}:2379 \
--log-file backup-nfs.log在 BR 备份过程中，需关注以下监控面版中的运行指标来了解备份的状态。
Backup CPU Utilization：参与备份的 TiKV 节点（例如 backup-worker 和 backup-endpoint）的 CPU 使用率。
IO Utilization：参与备份的 TiKV 节点的 I/O 使用率。
BackupSST Generation Throughput：参与备份的 TiKV 节点生成 backupSST 文件的吞吐。正常时单个 TiKV 节点的吞吐在 150 MB/s 左右。
One Backup Range Duration：备份一个 range 的操作耗时，包括扫描耗时 (scan KV) 和保存耗时（保存为 backupSST 文件）。
One Backup Subtask Duration：一次备份任务会被拆分成多个子任务。该监控项显示子任务的耗时。
注意：
- 虽然本次任务是备份单表，但因为表中有 3 个索引，所以正常会拆分成 4 个子任务。
- 下图中有 20 个点，蓝色和黄色各 10 个，代表 10 个子任务。备份过程中可能发生 Region 调度行为，少量重试是正常的。
Backup Errors：备份过程中的错误。正常时无错误。即使出现少量错误，备份操作也有重试机制，可能会导致备份时间增加，但不会影响备份的正确性。
Checksum Request Duration：对备份集群执行 admin checksum 的耗时统计。
BR 会在备份结束时输出备份总结到控制台。
同时在之前设置的日志存放路径，可以获取此次备份的相关统计信息。在日志中搜关键字 "summary"，可以看到以下信息：
["Full backup Success summary:
total backup ranges: 2,
total success: 2,
total failed: 0,
total take(Full backup time): 31.802912166s,
total take(real time): 49.799662427s,
total size(MB): 5997.49,
avg speed(MB/s): 188.58,
total kv: 120000000"]
["backup checksum"=17.907153678s]
["backup fast checksum"=349.333µs]
["backup total regions"=43]
[BackupTS=422618409346269185]
[Size=826765915]
以上日志信息中包含以下内容：
total take(Full backup time)：备份耗时total take(real time)：程序运行总耗时total size(MB)：备份数据大小avg speed(MB/s)：备份吞吐total kv：备份 KV 对数backup checksum：校验耗时backup fast checksum：计算各表 checksum、KV 和 bytes 信息总和的耗时backup total regions：备份 Region 总数BackupTS:备份存档的快照时间戳Size：备份存档经压缩后在磁盘中的实际大小
通过以上数据可以计算得到单个 TiKV 实例的吞吐为：avg speed(MB/s)/tikv_count = 62.86。
如果 TiKV 的资源使用没有出现明显的瓶颈（例如备份过程中的运行指标中的 Backup CPU Utilization 最高为 1500% 左右，IO Utilization 普遍低于 30%），可以尝试调大 --concurrency（默认是 4）参数以进行性能调优。该方法不适用于存在许多小表的场景。
示例如下：
{{< copyable "shell-regular" >}}
bin/br backup table \
--db batchmark \
--table order_line \
-s local:///br_data/ \
--pd ${PD_ADDR}:2379 \
--log-file backup-nfs.log \
--concurrency 16
性能调优后的结果如下（保持数据大小不变）：
- 备份耗时 (
total take(s))： 从986.43减少到535.53 - 数据大小 (
total size(MB))：353227.18 - 备份吞吐 (
avg speed(MB/s))：从358.09提升到659.59 - 单个 TiKV 实例的吞吐 (
avg speed(MB/s)/tikv_count)：从89提升到164.89
使用 br restore 命令，将一份完整的备份数据恢复到一个离线集群。暂不支持恢复到在线集群。
部署拓扑如下图所示：
运行 br restore 命令：
{{< copyable "shell-regular" >}}
bin/br restore table --db batchmark --table order_line -s local:///br_data --pd 172.16.5.198:2379 --log-file restore-nfs.log在 BR 恢复过程中，需关注以下监控面版中的运行指标来了解恢复的状态。
CPU：参与恢复的 TiKV 节点 CPU 使用率。
IO Utilization：参与恢复的 TiKV 节点的 I/O 使用率。
Region 分布：Region 分布越均匀，说明恢复资源利用越充分。
Process SST Duration：处理 SST 文件的延迟。恢复一张表时，如果 tableID 发生了变化，需要对 tableID 进行 rewrite，否则会进行 rename。通常 rewrite 延迟要高于 rename 的延迟。
DownLoad SST Throughput：从 External Storage 下载 SST 文件的吞吐。
Restore Errors：恢复过程中的错误。
Checksum Request Duration：对恢复集群执行 admin checksum 的耗时统计，会比备份时的 checksum 延迟高。
在之前设置的日志存放路径，可以获取此次恢复相关的统计信息。在日志中搜关键字 "summary"，可以看到以下信息：
["Table Restore summary:
total restore tables: 1,
total success: 1,
total failed: 0,
total take(Full restore time): 17m1.001611365s,
total take(real time): 16m1.371611365s,
total kv: 5659888624,
total size(MB): 353227.18,
avg speed(MB/s): 367.42"]
["restore files"=9263]
["restore ranges"=6888]
["split region"=49.049182743s]
["restore checksum"=6m34.879439498s]
[Size=48693068713]
以上日志信息中包含以下内容：
total take(Full restore time)：恢复耗时total take(real time)：程序运行总耗时total size(MB)：恢复数据大小total kv：恢复 KV 对数avg speed(MB/s)：恢复吞吐split region：Region split 耗时restore checksum：校验耗时Size：恢复存档在磁盘中的实际大小
根据上表数据可以计算得到：
- 单个 TiKV 吞吐：
avg speed(MB/s)/tikv_count=91.8 - 单个 TiKV 平均恢复速度：
total size(MB)/(split time+restore time)/tikv_count=87.4
如果 TiKV 资源使用没有明显的瓶颈，可以尝试调大 --concurrency 参数（默认为 128）进行性能调优，示例如下：
{{< copyable "shell-regular" >}}
bin/br restore table --db batchmark --table order_line -s local:///br_data/ --pd 172.16.5.198:2379 --log-file restore-concurrency.log --concurrency 1024性能调优后的结果如下（保持数据大小不变）：
- 恢复耗时（
total take(s)）：从961.37减少到443.49 - 恢复吞吐（
avg speed(MB/s)）：从367.42提升到796.47 - 单个 TiKV 实例的吞吐（
avg speed(MB/s)/tikv_count）：从91.8提升到199.1 - 单个 TiKV 实例的平均恢复速度（
total size(MB)/(split time+restore time)/tikv_count）：从87.4提升到162.3
使用 br backup 命令，将单表数据 --db batchmark --table order_line 备份到指定的本地磁盘路径 local:///home/tidb/backup_local 下。
- 备份前的准备工作。
- 各个 TiKV 节点有单独的磁盘用来存放 backupSST 数据。
backup_endpoint节点有单独的磁盘用来存放备份的backupmeta文件。- TiKV 和
backup_endpoint节点需要有相同的备份目录，例如/home/tidb/backup_local。
运行 br backup 命令：
{{< copyable "shell-regular" >}}
bin/br backup table \
--db batchmark \
--table order_line \
-s local:///home/tidb/backup_local/ \
--pd ${PD_ADDR}:2379 \
--log-file backup_local.log运行备份时，参考备份过程中的运行指标对相关指标进行监控，以了解备份状态。
在之前设置的日志存放路径，可以获取此次备份相关的统计信息。在日志中搜关键字 "summary"，可以看到以下信息：
["Table backup summary:
total backup ranges: 4,
total success: 4,
total failed: 0,
total take(s): 551.31,
total kv: 5659888624,
total size(MB): 353227.18,
avg speed(MB/s): 640.71"]
["backup total regions"=6795]
["backup checksum"=6m33.962719217s]
["backup fast checksum"=22.995552ms]
以上日志信息中包含以下内容：
total take(s)：备份耗时total size(MB)：数据大小avg speed(MB/s)：备份吞吐backup checksum：校验耗时
根据上表数据可以计算得到单个 TiKV 实例的吞吐：avg speed(MB/s)/tikv_count = 160。
使用 br restore 命令，将一份完整的备份数据恢复到一个离线集群。暂不支持恢复到在线集群。
- 恢复前的准备工作。
- 集群中没有与备份数据相同的库表。目前 BR 不支持 table route。
- 集群中各个 TiKV 节点有单独的磁盘用来存放要恢复的 backupSST 数据。
restore_endpoint节点有单独的磁盘用来存放要恢复的backupmeta文件。- 集群中 TiKV 和
restore_endpoint节点需要有相同的备份目录，例如/home/tidb/backup_local/。
如果备份数据存放在本地磁盘，那么需要执行以下的步骤：
- 汇总所有 backupSST 文件到一个统一的目录下。
- 将汇总后的 backupSST 文件到复制到集群的所有 TiKV 节点下。
- 将
backupmeta文件复制到到restore endpoint节点下。
运行 br restore 命令：
{{< copyable "shell-regular" >}}
bin/br restore table --db batchmark --table order_line -s local:///home/tidb/backup_local/ --pd 172.16.5.198:2379 --log-file restore_local.log运行恢复时，参考恢复过程中的运行指标对相关指标进行监控，以了解恢复状态。
在之前设置的日志存放路径，可以获取此次恢复相关的统计信息。在日志中搜关键字 "summary"，可以看到以下信息：
["Table Restore summary:
total restore tables: 1,
total success: 1,
total failed: 0,
total take(s): 908.42,
total kv: 5659888624,
total size(MB): 353227.18,
avg speed(MB/s): 388.84"]
["restore files"=9263]
["restore ranges"=6888]
["split region"=58.7885518s]
["restore checksum"=6m19.349067937s]
以上日志信息中包含以下内容：
total take(s)：恢复耗时total size(MB)：数据大小avg speed(MB/s)：恢复吞吐split region：Region split 耗时restore checksum：校验耗时
根据上表数据可以计算得到：
- 单个 TiKV 实例的吞吐：
avg speed(MB/s)/tikv_count=97.2 - 单个 TiKV 实例的平均恢复速度：
total size(MB)/(split time+restore time)/tikv_count=92.4
本节介绍如何处理备份过程中出现的常见错误。
日志中的错误消息：log - ["backup occur kv error"][error="{\"KvError\":{\"locked\":
如果在备份过程中遇到 key 被锁住，目前 BR 会尝试清锁。少量报错不会影响备份的正确性。
日志中的错误消息：log - Error: msg:"Io(Custom { kind: AlreadyExists, error: \"[5_5359_42_123_default.sst] is already exists in /dir/backup_local/\" })"
若备份失败并出现以上错误消息，采取以下其中一种操作后再重新备份：
- 更换备份数据目录。例如将
/dir/backup-2020-01-01/改为/dir/backup_local/。 - 删除所有 TiKV 和 BR 节点的备份目录。