mysql数据同步 - SuperProjectGit/super-repository GitHub Wiki
mysql主从复制用途
- 实时灾备,用于故障切换
- 读写分离,提供查询服务
- 备份,避免影响业务
主从部署必要条件:
- 主库开启binlog日志(设置log-bin参数)
- 主从server-id不同
- 从库服务器能连通主库
mysql主从复制原理
从库生成两个线程,一个I/O线程,一个SQL线程;
-
i/o线程去请求主库 的binlog,并将得到的binlog日志写到relay log(中继日志) 文件中; 主库会生成一个 log dump 线程,用来给从库 i/o线程传binlog;
-
SQL 线程,会读取relay log文件中的日志,并解析成具体操作,来实现主从的操作一致,而最终数据一致;
mysql主从复制存在的问题:
- 主库宕机后,数据可能丢失
- 从库只有一个sql Thread,主库写压力大,复制很可能延时
解决方法:
- 半同步复制---解决数据丢失的问题
- 并行复制----解决从库复制延迟的问题 mysql semi-sync(半同步复制)
半同步复制:
- 5.5集成到mysql,以插件的形式存在,需要单独安装
- 确保事务提交后binlog至少传输到一个从库
- 不保证从库应用完这个事务的binlog
- 性能有一定的降低,响应时间会更长
- 网络异常或从库宕机,卡主主库,直到超时或从库恢复
主从复制--异步复制原理
半同步复制原理:
mysql并行复制
- 社区版5.6中新增
- 并行是指从库多线程apply binlog
- 库级别并行应用binlog,同一个库数据更改还是串行的(5.7版并行复制基于事务组)
总结
主从形式
- 一主一从
- 一主多从--扩展系统读取性能
- 多主一从--5.7开始支持
- 主主复制
- 联级复制
用途:实时灾备的故障切换,读写分离,备份
原理
- 主:log dump线程传binlog;
- 从
-
- i/o线程接受读取binlog,并写入relay log文件
-
- sql线程从relay log 文件中读取binlog并持久化
问题及解决
- 主库宕机后,数据丢失
- 半同步复制
- 主库写压力大,因从库只有一个sql 线程来持久化,复制可能延迟
- 并行复制
半同步复制:
- 原理:事务在主库写完binlog后需要从库返回一个已接受,才放回给客户端;
- 5.5集成到mysql,以插件的形式存在,需要单独安装
- 确保事务提交后binlog至少传输到一个从库
- 不保证从库应用完成这个事务的binlog
- 性能有一定的降低
- 网络异常或从库宕机,卡主库,直到超时或从库恢复
并行复制
- 原理:从库多线程apply binlog
- 在社区5.6中新增
- 库级别并行应用binlog,同一个库数据更改还是串行的
- 5.7版本并行复制基于事务组
部分数据复制
- 联级复制(常用)
- A->B->C
- B中添加参数log_slave_updates
- B将把A的binlog记录到自己的binlog日志中
复制的监控
show slave status
复制出错处理
- 常见:1062(主键冲突),1032(记录不存在)
- 解决: 手动处理 跳过复制错误:set global sql_slave_skip_counter=1