我在大厂用读写分离：存储引擎对比 | 真实项目总结

▌ 技术引导
我在大厂用读写分离的实战中，发现存储引擎的选择直接影响到系统的吞吐量和一致性层的负载。比如在MySQL 8.0部署时，主从复制的配置需要精准控制binlog格式，否则会导致从库延迟甚至数据不一致。我们实际用了ROW格式，因为它能记录具体变更，适合高并发写入场景。但ROW格式也有代价，它会占用更多磁盘空间，对网络带宽也有更高要求。在项目初期，我直接硬编码了主库的连接串，结果在流量突增时全量写入压垮了主库。后来改用分片策略和动态路由，通过中间件实现写入分发，读取负载均衡。这种方案在实际中效果明显，但需要处理一致性问题。比如主库的事务必须同步到从库，否则会出现脏读。我见过很多团队为了追求性能，直接忽略这个环节，导致线上故障频发。最后确定的方案是使用GTID方式做主从复制，并配合canal实现增量同步，这样既保证了数据一致性，又提升了读写分离的效率。

读写分离的实现，不能只依赖一个中间件。我用过ShardingSphere，它确实能做分片和路由，但没有直接支持MySQL 8.0的GTID自动同步。为了规避这个问题，我们手动配置了binlog格式和同步方式，把主库的GTID信息同步到从库，并在应用层做校验。这种做法虽然繁琐，但避免了中间件的局限。在实际部署中，还必须考虑主库和从库的硬件差异，比如主库用SSD，从库用HDD，会导致写入延迟。我们通过监控工具实时采集主从延迟，然后动态调整从库的读取权重，确保系统在高负载下依然稳定。这种策略在双十一促销高峰中发挥了关键作用。

我见过一个团队在使用Redis Cluster做读写分离时，因为分区策略设置不当，导致写入数据无法正确分配到对应分片，最终出现热点数据集中在某个节点，CPU和内存被吃光。他们的解决方案是通过自定义哈希算法，把业务相关的数据按照业务标识进行分片，而不是默认的CRC16。这种做法避免了分区不均的问题，但也增加了运维复杂度。在配置集群时，必须确保每个节点的内存和CPU资源均衡，否则会出现性能瓶颈。另外，主从复制的延迟监控是必不可少的，一旦延迟超过10秒，就必须启动哨兵机制进行切换。

在存储引擎选型上，我对比过InnoDB和MyISAM。MyISAM在读取性能上确实有优势，但它的锁机制无法支持高并发写入。我们最终选择了InnoDB，因为它支持行级锁，而且有了binlog和GTID，能保证数据一致性。不过InnoDB在高并发写入时需要合理调整innodb_buffer_pool_size和innodb_log_file_size，否则会频繁刷盘，影响性能。我之前在一个项目中因为没有调整log_file_size，导致主库频繁出现日志切换，影响了事务的稳定性。后来通过监控日志大小和切换频率，调整了参数，系统才恢复稳定。

读写分离的中间件选择，不能只看文档。我试过使用MyCAT，它在配置上比较繁琐，需要处理大量的XML文件，而且对MySQL版本兼容性差。我们最后转向使用MaxScale，它的配置更简洁，支持基于SQL语句的路由，比如对写操作走主库，读操作走从库。但在使用过程中，发现MaxScale对高并发的处理能力有限，容易出现连接池满的情况。于是我们结合了Nginx做负载均衡，把读请求分发到多个从库，而写请求统一发到主库。这种组合方式在实际中效果很好，但也增加了系统的复杂度。性能优化方面，我们还通过MySQL的query cache和慢查询日志，找到了很多可以优化的SQL语句。

▌ 技术参考
一 在大厂实战中，MySQL 8.0的读写分离架构通常采用主从复制结合中间件实现。主库配置binlog_format=ROW，确保所有变更都能被完整记录。从库通过CHANGE MASTER TO命令同步主库，例如CHANGE MASTER TO MASTER_HOST='主库IP', MASTER_USER='repl', MASTER_PASSWORD='密码', MASTER_LOG_FILE='日志文件名', MASTER_LOG_POS=起始位置。主从同步完成后，执行START SLAVE，监控SHOW SLAVE STATUS确认I/O和SQL线程是否正常。ROW格式虽然数据完整，但它会显著增加磁盘IO，所以主库的innodb_log_file_size建议设置为1G-2G，避免频繁切换日志文件影响性能。

二 MySQL的GTID（全局事务标识符）可以有效解决主从复制中的位置偏移问题。在主库配置中加入server_id=1，并设置log_bin='binlog'和gtid_mode=ON，同时启用enforce_gtid_consistency=ON。从库启动时使用CHANGE MASTER TO MASTER_USE_GTID=slave_pos，确保复制从GTID位置开始。GTID模式下，主库的binlog需要开启，并且必须使用ROW格式。如果从库出现延迟，可以通过SHOW MASTER STATUS和SHOW SLAVE STATUS对比日志位置，及时排查问题。此外，在执行写操作时，必须确保GTID的正确性，否则会导致主从不一致。

三 在实际项目中，主从延迟是一个关键指标。我们通过监控工具采集主从延迟，并用脚本实时判断是否超过阈值。当延迟超过10秒时，自动切换读写路由到备用从库，避免数据不一致。延迟监控可以通过SELECT @@slave_lag FROM information_schema.processlist命令获取，但该命令在MySQL 8.0中已被弃用。替代方案是使用SHOW SLAVE STATUS输出中的Seconds_Behind_Master字段，或者通过自定义脚本解析binlog文件的延迟。此外，主从复制的优化涉及调整innodb_flush_log_at_trx_commit参数，将其设置为2，可以减少事务提交时的刷盘压力，但会带来一定的数据丢失风险。

四 Redis读写分离的实现方式与MySQL不同，它主要依赖于Cluster模式和主从复制。在部署Cluster时，需要确保每个分片的数据分布均衡，避免热点问题。配置cluster-enabled=yes和cluster-node-timeout=5000，然后通过redis-cli --cluster create命令创建集群。主从复制则通过slaveof命令实现，例如slaveof 127.0.0.1 6379。在读写分离中，主库处理写请求，从库处理读请求。为了提升可用性，我们使用了Redis Sentinel机制，当主库宕机时，自动选举新的主库，并更新从库的复制关系。Sentinel的配置包括sentinel monitor mymaster 主库IP 端口 2，sentinel down-after-milliseconds mymaster 30000等项。

五 在使用ShardingSphere时，遇到了主从复制与分片路由不兼容的问题。ShardingSphere默认不支持GTID，所以需要手动配置主从同步，并通过数据库元数据来记录每个分片的数据分布。例如，在配置文件中设置data-sources和sharding-algorithm，确保分片策略与复制策略不冲突。当主库发生变更时，ShardingSphere会自动将数据同步到从库，但需要确保主库的数据变更能被正确识别。如果主库使用的是GTID，则需在ShardingSphere配置中禁用自动分片，改用手动同步。这种做法虽然复杂，但能保证数据一致性。

六 使用MaxScale做读写分离时，需在配置文件中定义read-write-splitting规则，例如设置[Read-Write-Splitting] section，指定master和slave的连接信息。MaxScale的默认配置是将所有写请求路由到主库，读请求分散到从库。但实际中发现，某些写操作如INSERT或UPDATE会同步到所有从库，导致不必要的负载。因此，我们优化了读写分离的规则，只让SELECT类操作走从库，而写操作走主库。这种配置需要通过MaxScale的配置文件调整，例如设置read_only=1在从库节点，并通过query rule进行精确匹配。

七 我在配置Nginx做读写分离时，使用了upstream模块来管理多个从库。例如，在配置文件中定义upstream read_servers { server 从库IP:端口 weight=1; server 从库IP:端口 weight=2; }，然后通过location /read { proxy_pass http://read_servers; }将读请求分发到从库。写请求则直接指向主库。Nginx的性能优化包括调整proxy_read_timeout和proxy_connect_timeout，确保连接不会超时。此外，使用keepalive指令可以提升连接复用率，减少握手开销。但Nginx对于复杂的SQL语句支持有限，所以通常只用于简单的读请求分发。

八 读写分离的中间件选择必须考虑系统的扩展性和稳定性。我们曾使用过MyCAT，但在高并发环境下，它会出现连接池满的问题，导致请求堆积。最终改用MaxScale，它的性能更好，支持多种路由策略。MaxScale的性能优化包括调整replication_threshold参数，控制主从复制的延迟容忍度，以及使用query rule来过滤写操作。例如，设置query rule: SELECT FROM table1 -> read_servers，确保SELECT请求不会被误判为写请求。这种配置可以通过MaxScale的配置文件实现，但需要仔细测试。

九 在MySQL 8.0中，使用GTID和binlog进行主从同步时，必须确保从库的binlog格式与主库一致。主库的binlog_format=ROW，从库也需要配置为ROW，否则会出现同步错误。配置文件中需添加server_id=2，log_bin='binlog'，gtid_mode=ON，enforce_gtid_consistency=ON。当主库发生故障时，使用CHANGE MASTER TO命令切换到新的主库，同时确保从库的GTID信息未被破坏。GTID模式下的主从同步是无偏移的，一旦建立，就不再需要手动调整日志位置。

十 在实际运维中，我们发现MySQL的主从复制容易受到网络延迟和磁盘IO的影响。为了提升性能，我们采用异步复制，并关闭sync_binlog=1，减少刷盘开销。异步复制虽然效率高，但在主库宕机时可能存在数据丢失风险。为了平衡一致性与性能，我们选择半同步复制，通过设置rpl_semi_sync_master_enabled=1和rpl_semi_sync_slave_enabled=1，确保至少有一个从库确认事务后才提交。这种方式在双十一促销期间表现优异，减少了主库压力，同时保证了数据一致性。

十一 Redis Cluster的读写分离需要注意数据分区策略。我们使用了哈希槽（hash slot）的方式，每个分片管理16384个槽。在业务数据中，我们按照业务标识进行哈希，确保数据分布均匀。例如，使用redis-cli -c命令测试分片是否正确，或者通过redis-cli --cluster reshard命令重新分配槽位。在高并发环境下，哈希槽的分配会影响系统的吞吐量，所以需要定期进行负载均衡。此外，Redis的主从复制可以结合哨兵机制，实现自动故障转移。

十二 MyCAT在读写分离中存在一些隐藏问题，比如分片键的选择不当会导致数据分布不均。我们曾因分片键设计不合理，导致某个分片负载过高，甚至出现OOM。最终改用基于业务的分片键，比如将用户ID作为分片键，确保每个用户的请求均匀分配。此外，MyCAT的性能依赖于其配置参数，如分片规则、数据节点连接池大小等，都需要根据实际流量调整。在高并发场景下，连接池的大小直接影响系统的吞吐量。

十三 使用Nginx做读写分离时，需要注意请求的路由逻辑。我们通过location匹配来区分读写请求，例如将所有以/read开头的请求转发到从库，而其他请求走主库。这种做法虽然简单，但在实际中容易出现误判。例如，某些写操作可能被误认为读操作，导致数据不一致。因此，我们结合了应用层的路由逻辑，确保所有写请求都经过主库。Nginx的配置文件中可通过proxy_set_header X-Request-Type $request_uri来携带请求类型，然后在后端服务中根据该字段决定是否走主库。

十四 在MySQL的主从复制中，使用GTID模式可以避免同步偏移的问题，但需要确保所有从库都正确同步了主库的事务。我们曾因为某个从库的GTID信息不完整，导致后续同步失败。解决方法是重新导入数据，并通过CHANGE MASTER TO命令重新建立复制关系。此外，GTID模式下，主库的binlog必须开启，并且要定期清理旧日志，否则会占用大量磁盘空间。使用PURGE BINARY LOGS TO '日志文件名'可以手动清理日志，但需注意备份策略，防止误删关键日志。

十五 大厂在读写分离中通常采用多从架构，并结合负载均衡和故障转移策略。例如，我们使用了Keepalived实现高可用，当主库宕机时，自动切换到从库并调整IP。Keepalived的配置文件中需要定义虚拟IP和优先级，确保故障转移顺畅。此外，我们还使用了Prometheus和Grafana进行监控，实时查看主从延迟、CPU使用率和内存占用等指标。监控报警系统中，主从延迟超过10秒时会触发告警，运维人员可以及时介入处理。这种监控体系对于保持系统稳定性至关重要。