Author: 卓刀
在常见的PostgreSQL双节点高可用构架中，如果主库挂了且主备无延迟，高可用系统会提升老备库为新主库对外服务。而对于老主库，则可以有很多处理策略，例如：
很显然，相比来说第一种不是个很好的方案。当数据量比较大时，重搭备库的时间成本太高，系统的可用性降低。但是因为老的主库挂掉的原因多种多样，甚至有可能是高可用系统的误判，而老主库也有可能是在挂掉之后又重新作为主库启动起来，这个时候降级并重搭流复制关系的操作就有可能失败（新的备库比新主库数据更超前）。
为了解决这种情况，PostgreSQL 引入了pg_rewind工具。
在PostgreSQL 官方文档的介绍中，pg_rewind 不光可以针对上面说的failover 的场景，理论上，它可以使基于同一集群复制的任意两个副本（集群）进行同步。为了更容易理解，本文把这里的源副本称为源集群，目的副本称为目的集群。
pg_rewind 工具主要实现了从源集群到目的集群的文件级别数据同步。但是和rsync的区别是，pg_rewind 不需要去读那些未变化的文件块，当数据量比较大而变化较小的时候，pg_rewind会更快。
值的注意的是，pg_rewind为了能够支持文件级别的数据同步，两个集群都打开如下参数：
以上几个参数打开，才能够保证通过WAL 日志恢复出来的数据是完整的，一致的，从而才能够实现文件级别的数据同步。
为了在PostgreSQL 实现文件级别数据同步的功能，pg_rewind 主要进行了如下的处理步骤：
一句话概括，pg_rewind 可以快速找到两个集群数据开始分叉的点，然后找到目的集群从该点之后的数据变化，通过拷贝源集群的对应数据页，再通过应用源集群的WAL 日志达到数据一致。
不过这里有几个问题值得我们探究：
接下来，我们将深入代码（代码分析基于10.0版本）分析这几个问题。
根据上文可知，基于同一集群的两个副本是可以执行pg_rewind的。而在PostgreSQL 中，使用pg_control 文件中的system_identifier 唯一标示一次PostgreSQL数据库的initdb 过程，其生成方式如下：
gettimeofday(&tv, NULL);
sysidentifier = ((uint64) tv.tv_sec) << 32;
sysidentifier |= ((uint64) tv.tv_usec) << 12;
sysidentifier |= getpid() & 0xFFF;
system_identifier 一旦生成就不会变化，而通过拷贝数据文件方式进行数据复制（包括pg_basebackup）的方法因为有相同的system_identifier，所以复制的源集群和目的集群被认为拥有相同的祖先集群，即理论上是可以使用pg_rewind 进行数据同步的。
PostgreSQL 提供了pg_controldata 工具，我们可以执行pg_controldata $PGDATA 命令解析PGDATA 下的pg_control 文件，返回结果如下：
pg_control version number: 942
Catalog version number: 201409291
Database system identifier: 6537134048787931336
Database cluster state: in production
pg_control last modified: Sat 19 May 2018 06:36:03 PM CST
Latest checkpoint location: 0/3A321900
Prior checkpoint location: 0/3A3202D8
Latest checkpoint's REDO location: 0/3A3218C8
Latest checkpoint's REDO WAL file: 00000006000000000000003A
Latest checkpoint's TimeLineID: 6
Latest checkpoint's PrevTimeLineID: 6
Latest checkpoint's full_page_writes: on
Latest checkpoint's NextXID: 0/316602
Latest checkpoint's NextOID: 32769
Latest checkpoint's NextMultiXactId: 1
Latest checkpoint's NextMultiOffset: 0
Latest checkpoint's oldestXID: 1798
Latest checkpoint's oldestXID's DB: 1
Latest checkpoint's oldestActiveXID: 316602
Latest checkpoint's oldestMultiXid: 1
Latest checkpoint's oldestMulti's DB: 1
Time of latest checkpoint: Sat 19 May 2018 06:36:03 PM CST
Fake LSN counter for unlogged rels: 0/1
Minimum recovery ending location: 0/0
Min recovery ending loc's timeline: 0
Backup start location: 0/0
Backup end location: 0/0
End-of-backup record required: no
Current wal_level setting: hot_standby
Current wal_log_hints setting: off
Current max_connections setting: 2100
Current max_worker_processes setting: 8
Current max_prepared_xacts setting: 800
Current max_locks_per_xact setting: 64
Maximum data alignment: 8
Database block size: 8192
Blocks per segment of large relation: 131072
WAL block size: 8192
Bytes per WAL segment: 16777216
Maximum length of identifiers: 64
Maximum columns in an index: 32
Maximum size of a TOAST chunk: 1996
Size of a large-object chunk: 2048
Date/time type storage: 64-bit integers
Float4 argument passing: by value
Float8 argument passing: by value
Data page checksum version: 1
当然，在pg_rewind 的执行过程中，除了 判断源集群和目的集群的 system_identifier 一致性之外，还要判断：
其中，pg_control version number 标示pg_control 文件的文件结构版本，Catalog version number标示数据库系统表的结构版本。在PostgreSQL的版本迭代中，pg_control文件的结构和数据库系统表的结构可能有所不同，通过这两个version number 标示不同的结构版本。
在PostgreSQL，备库提升为主库时候会产生history 文件（关于备库提升为主库的过程这里不再详细介绍，后面的月报我们会具体分析）。而history 文件位于WAL 日志所在的目录$PGDATA/pg_wal（10.0之前的版本是pg_xlog），主要内容分为以下三列，每列之间用tab分割，比如00000006.history的具体内容如下所示：
1 0/3E40B00 no recovery target specified
2 0/72EA320 no recovery target specified
3 0/9321E28 no recovery target specified
4 0/1802D168 no recovery target specified
5 0/18063AF0 no recovery target specified
其中：
因为history 文件中记录了每次时间线的切换信息，PostgreSQL 通过遍历两个集群的history 文件中每一行，可以找到两者数据走向不同分支的timeline 和switchpoint。具体逻辑如下：
通过第2步骤中找到的<Timeline, switchpoint> 一定是两个集群数据一致的位点，即前文中两个集群的分叉点。但是这个点的数据不能够保证数据的完整性和一致性，所以实际上pg_rewind 会以这个位点之前的最近的checkpoint 点作为两个集群的分叉点。
pg_rewind 会去遍历源集群和目的集群的目录，将每个文件（目录）的差异被记录在结构体 file_entry_t 中，其定义如下：
struct file_entry_t
{
char *path;
file_type_t type;
file_action_t action;
/* for a regular file */
size_t oldsize;
size_t newsize;
bool isrelfile; /* is it a relation data file? */
datapagemap_t pagemap;
/* for a symlink */
char *link_target;
struct file_entry_t *next;
};
其中，file_type_t type 代表文件类型有三种：
file_action_t action指示该文件（目录）对应的处理action，包括以下几种：
isrefile 表示该文件是否是一个表数据文件，表数据文件的路径要满足以下几个条件：
pagemap 存储了一个bitmap，每一位存储了对应的目的集群文件中的每个page 从两个集群的分叉点之后是否发生了变化，1代表发生变化，0代表未变化。
oldsize 代表目的集群该文件的大小，newsize 代表源集群该文件的大小。pg_rewind 中通过源集群和目的集群的对应文件大小比较或者文件（目录）是否存在，指定文件的处理action，例如：
之前说过，pg_rewind 工具执行需要打开full_page_writes，而打开了full_page_writes 之后，checkpoint 后每个数据页的第一次修改对应的数据页的全部内容都会写在WAL日志记录中，所以pg_rewind 可以根据WAL 日志的组织结构（详见之前的月报）很容易的找到对应已经修改的数据页信息，并把对应的file_entry_t 的bitmap 置为1。
至此，我们得到了所有目的集群需要变化的文件（目录）和对应action 以及目的集群数据文件变化的page。接下来，pg_rewind 会进行如下具体操作，完成了对目的集群所有文件的修改：
其中，值得注意的是，第3步如果源集群没有对应的page 怎么办？经过分析代码，我们发现如果源集群没有对应的page，该page 不会被标记为发生变化的page，而该文件的action 会被置为FILE_ACTION_TRUNCATE，在第4步中将对应的文件进行相应的删减。
另外，使用文件的大小来进行数据变化的比较真的可行吗？会不会出现两个集群修改的数据是相同的，导致实际上文件大小是相同的，但是这时因为数据页头的pd_lsn 等信息可能是不同的，影响数据同步后的数据可见性。但是其实即使这种情况发生了，也对数据的同步没有影响，因为pg_rewind 结束之后，我们可以通过应用源集群的WAL 日志重新恢复该page。
可以看出，实际上只要保证目的集群的每个对应的表数据文件比源集群的表数据文件小，在pg_rewind 结束之后，这个表数据文件都可以通过应用源集群的WAL 日志恢复出相同的数据。
一句话概括，pg_rewind 通过文件的大小比较和目的集群的WAL 日志来确定哪些文件（目录）发生了变化，并使目的集群在pg_rewind 结束之后通过应用源集群的WAL 日志来完成所有的数据同步。这里需要注意的是，一定要保证目的集群从上文中两个集群的分叉点到现在的WAL 日志是连续的，没有被移除，否则在找两个集群的分叉点时就会报错。
通过分析代码，pg_rewind 生成的backup label 的内容如下：
len = snprintf(buf, sizeof(buf),
"START WAL LOCATION: %X/%X (file %s)\n"
"CHECKPOINT LOCATION: %X/%X\n"
"BACKUP METHOD: pg_rewind\n"
"BACKUP FROM: standby\n"
"START TIME: %s\n",
/* omit LABEL: line */
(uint32) (startpoint >> 32), (uint32) startpoint, xlogfilename,
(uint32) (checkpointloc >> 32), (uint32) checkpointloc,
strfbuf);
而通过之前的月报分析可知，backup label 中的CHECKPOINT LOCATION 规定了在线恢复的起始位置，而pg_rewind 这个值存的就是上文中的两个集群的分叉点。而在pg_rewind 结束之后，目的集群就可以不断应用源集群从CHECKPOINT LOCATION 之后的WAL 日志，来完成两个集群的数据同步。
经过以上的分析，我们了解了pg_rewind 的一些具体实现，下面简单介绍下它的使用方法。
pg_rewind 的具体用法如下：
pg_rewind [option...] { -D | --target-pgdata } directory { --source-pgdata=directory | --source-server=connstr }
具体参数含义如下：
-D directory –target-pgdata=directory 定义目的集群的数据目录。注意：运行pg_rewind时候目的集群必须要停止。否则在执行 pg_rewind 时会报“target server must be shut down cleanly”错误。
–source-pgdata=directory 定义源集群的文件系统路径。这个参数生效时源集群必须已经停止了，否则会报“source data directory must be shut down cleanly”错误。
–source-server=connstr 定义连接到源集群的 libpq 连接串。这个连接必须是一个超级用户创建的普通连接，不是一个流复制的连接，关于PostgreSQL 的libpq的各种类型和分析，我们会在后面的月报进行代码层面的分析。当然这个参数要求源集群比较是健康的，可连接的。
-n –dry-run 增加该选项不去改变目的集群的数据目录，只是找到上文中两个集群的分叉点和生成label 文件等等。
-P –progress 增加该选项会粗略地显示整个过程的进度条。
–debug 增加该选项会显示pg_rewind 的debug 信息。
-V –version 显示pg_rewind 的版本号。
-? –help 显示help 文档。
特别注意：pg_rewind 不能使用root 用户运行，只能使用PostgreSQL superuser 用户运行。