在实际的生产环境中,如果对MySQL数据库的读和写都在一台数据库服务中操作,无论在安全性、高可用性,还是高并发性等各个方面都是完全不能满足实际需求的,一般来说都是通过主从复制(Master-Slave)的方式来同步数据,再通过读写分离来提升数据库的并发负载能力这样的方案进行部署与实施
①Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中
②Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求 Master的二进制事件
③同时Master节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至Slave节点本地的中继日志(Relay log)中
④Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成 sql 语句逐一执行,使得其数据和 Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒
复制过程有一个很重要的限制,即复制在 Slave 上是串行化的,也就是说 Master 上的并行更新操作不能在 Slave 上并行操作
中继日志通常会位于OS缓存中,所以中继日志的开销很小
集群和主从复制是为了应对高并发、大访问量的情况,如果网站访问量和并发量太大了,少量的数据库服务器是处理不过来的,会造成网站访问慢,数据写入会造成数据表或记录被锁住,锁住的意思就是其他访问线程暂时不能读写要等写入完成才能继续,这样会影响其他用户读取速度,采用主从复制可以让一些服务器专门读,一些专门写可以解决这个问题
主从复制、读写分离一般是一起使用的,目的很简单,就是为了提高数据库的并发性能。你想,假设是单机,读写都在一台MySQL上面完成,性能肯定不高。如果有三台MySQL,一台mater只负责写操作,两台salve只负责读操作,性能不就能大大提高了吗?
所以主从复制、读写分离就是为了数据库能支持更大的并发
随着业务量的扩展、如果是单机部署的MySQL,会导致I/O频率过高。采用主从复制、读写分离可以提高数据库的可用性
mysql主从复制用途:
必要条件:
主库宕机后,数据可能丢失
从库只有一个SQL Thread,主库写压力大,复制很可能延时
解决办法
半同步复制——解决数据丢失的问题
并行复制——解决从库复制延迟的问题
①master服务器高并发,形成大量事务
②网络延迟
③主从硬件设备导致——cpu主频、内存io、硬盘io
④本来就不是同步复制、而是异步复制
①只在主服务器上写,只在从服务器上读
②主数据库处理事务性查询,从数据库处理select查询
③数据库复制用于将事务性查询导致的变更同步到集群中的从数据库
代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序
(1)MySQL-Proxy,MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。
(2)Atlas,是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目,它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程
(3)Amoeba,由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
- 由于使用MySQL Proxy 需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写,这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的
- Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层
基于二进制日志故障备份+基于VIP的健康检查+故障自动切换(master——>backup master)
(一条是做mysql命令的软连接)——为了检测主从复制,mysql是无法识别root的,做了软连接之后可以在系统环境中直接使用mysql服务的的命令
(一条是做mysqlbinlog软连接)——故障发生时用biinlog日志尽可能抢救mysql,基于binlog再去恢复
看它有没有登录进去,更加方便和快捷
(检测主从复制是否成功——‘mysql -uroot -p123123 -e ‘show slave status\G’,查看I/O和SQL线程是否为yes,提取到两个yes即为主从复制成功)
以上是mysql集群的操作
在所有服务器上优先部署
node组件——>抢救(把二进制日志拉出来);同步中继日志(尽量保证数据一致性);在manager或者mha节点上的node组件还会汇总其他node组件的信息,用于将详细信息提供给manager组件
——>维护mysql集群信息;健康检测+故障切换
master_ip_failover——>VIP + VIP所在的虚拟接口
my $vip = ‘192.168.10.200’; #指定vip的地址
my $brdc = ‘192.168.10.255’; #指定vip的广播地址
my $ifdev = ‘ens33’; #指定vip绑定的网卡
my $key = ‘1’;
app1.cnf——>定义了Mysql节点的主机(以server的方式来表示);定义了从节点信息;可定义主备服务器(需要忽略检测策略)
dev = ‘ens33’; #指定vip绑定的网卡
my $key = ‘1’;
app1.cnf——>定义了Mysql节点的主机(以server的方式来表示);定义了从节点信息;可定义主备服务器(需要忽略检测策略)