作为开发人员,对数据库进行基准测试,以掌握数据库的性能情况是非常必要的。本文介绍了MySQL基准测试的基本概念,以及使用 sysbench 对MySQL进行基准测试的详细方法。
数据库的基准测试是对数据库的性能指标进行定量的、可复现的、可对比的测试。
基准测试与压力测试
对于多数Web应用,整个系统的瓶颈在于数据库;原因很简单:Web应用中的其他因素,例如网络带宽、负载均衡节点、应用服务器(包括CPU、内存、硬盘灯、连接数等)、缓存,都很容易通过水平的扩展(俗称加机器)来实现性能的提高。而对于MySQL,由于数据一致性的要求,无法通过增加机器来分散向数据库写数据带来的压力;虽然可以通过前置缓存(Redis等)、读写分离、分库分表来减轻压力,但是与系统其它组件的水平扩展相比,受到了太多的限制。
而对数据库的基准测试的作用,就是分析在当前的配置下(包括硬件配置、OS、数据库设置等),数据库的性能表现,从而找出MySQL的性能阈值,并根据实际系统的要求调整配置。
常见的数据库指标包括:
TPS/QPS:衡量吞吐量。
响应时间:包括平均响应时间、最小响应时间、最大响应时间、时间百分比等,其中时间百分比参考意义较大,如前95%的请求的最大响应时间。。
并发量:同时处理的查询请求的数量。
对MySQL的基准测试,有如下两种思路:
(1)针对整个系统的基准测试:通过http请求进行测试,如通过浏览器、APP或postman等测试工具。该方案的优点是能够更好的针对整个系统,测试结果更加准确;缺点是设计复杂实现困难。
(2)只针对MySQL的基准测试:优点和缺点与针对整个系统的测试恰好相反。
在针对MySQL进行基准测试时,一般使用专门的工具进行,例如mysqlslap、sysbench等。其中,sysbench比mysqlslap更通用、更强大,且更适合Innodb(因为模拟了许多Innodb的IO特性),下面介绍使用sysbench进行基准测试的方法。
mtr是Linux中有一个非常棒的网络连通性判断工具,它结合了ping, traceroute,nslookup 的相关特性。
mtr结果说明
第一列:显示的是IP地址和本机域名,这点和traceroute很像 第二列:snt:10 设置每秒发送数据包的数量,默认值是10 可以通过参数 -c来指定。其中-c的说明是:–report-cycles COUNT 第三列:是显示的每个对应IP的丢包率 第四列:显示的最近一次的返回时延 第五列:是平均值 这个应该是发送ping包的平均时延 第六列:是最好或者说时延最短的 第七列:是最差或者说时延最常的 第八列:是标准偏差
$ mtr -s 100 --report -n 11.171.68.253 Start: Wed Dec 29 17:51:31 2021 HOST: ack-troopers033011196118.pr Loss% Snt Last Avg Best Wrst StDev 1.|-- 11.57.244.37 0.0% 10 4.4 5.0 4.3 8.1 0.9 2.|-- 11.57.244.37 0.0% 10 4.1 4.6 4.1 5.4 0.0 3.|-- 11.129.109.46 0.0% 10 2.8 4.3 2.7 10.1 2.4 4.|-- 11.171.68.253 0.0% 10 2.2 2.2 2.2 2.3 0.0 # 辅助 ping 测试 $ ping -s 100 -c 5 11.171.68.253 PING 11.171.68.253 (11.171.68.253) 100(128) bytes of data. 108 bytes from 11.171.68.253: icmp_seq=1 ttl=99 time=2.21 ms 108 bytes from 11.171.68.253: icmp_seq=2 ttl=99 time=2.24 ms 108 bytes from 11.171.68.253: icmp_seq=3 ttl=99 time=2.22 ms 108 bytes from 11.171.68.253: icmp_seq=4 ttl=99 time=2.23 ms 108 bytes from 11.171.68.253: icmp_seq=5 ttl=99 time=2.21 ms --- 11.171.68.253 ping statistics --- 5 packets transmitted, 5 received, 0% packet loss, time 4003ms rtt min/avg/max/mdev = 2.216/2.226/2.240/0.052 ms
$ mtr -s 100 --report -n 11.20.31.251 Start: Wed Dec 29 17:49:44 2021 HOST: ack-troopers033011196118.pr Loss% Snt Last Avg Best Wrst StDev 1.|-- 11.20.31.251 0.0% 10 1.0 1.0 1.0 1.0 0.0 # ping 测试 $ ping -s 100 -c 5 11.20.31.251 PING 11.20.31.251 (11.20.31.251) 100(128) bytes of data. 108 bytes from 11.20.31.251: icmp_seq=1 ttl=102 time=0.984 ms 108 bytes from 11.20.31.251: icmp_seq=2 ttl=102 time=0.988 ms 108 bytes from 11.20.31.251: icmp_seq=3 ttl=102 time=1.00 ms 108 bytes from 11.20.31.251: icmp_seq=4 ttl=102 time=0.995 ms 108 bytes from 11.20.31.251: icmp_seq=5 ttl=102 time=0.997 ms --- 11.20.31.251 ping statistics --- 5 packets transmitted, 5 received, 0% packet loss, time 4003ms rtt min/avg/max/mdev = 0.984/0.993/1.003/0.028 ms
sysbench是跨平台的基准测试工具,支持多线程,支持多种数据库;主要包括以下几种测试:
cpu性能
磁盘io性能
调度程序性能
内存分配及传输速度
POSIX线程性能
数据库性能(OLTP基准测试)
此次主要介绍对数据库性能的测试。
sysbench 在 Linux 系统上采用手动编译的方式进行安装:
# 安装编译用到的工具包 $ yum -y install mariadb-devel automake libtool make # 获取 sysbench 源码包,解压,并进入sysbench目录 $ wget https://github.com/akopytov/sysbench/archive/1.0.zip -O "sysbench-1.0.zip" $ unzip sysbench-1.0.zip && cd sysbench-1.0 # 编译sysbench $ ./autogen.sh $ ./configure $ make && make install # 查看是否编译成功,查看 sysbench 版本信息 $ sysbench --version
sysbench的语法,这里就不在介绍了。稍微介绍下 sysbench 的参数,因为解析来我们会用到这些参数。下面以压测mysql为例:
### 数据库连接信息参数 #MySQL服务器主机名,默认localhost;如果在本机上使用localhost报错,提示无法连接MySQL服务器,改成本机的IP地址应该就可以了。 --mysql-host #MySQL服务器端口,默认3306 --mysql-port #用户名 --mysql-user #密码 --mysql-password ### 执行参数,或者说压测定义参数 #执行模式,包括simple、nontrx和complex,默认是complex。simple模式下只测试简单的查询;nontrx不仅测试查询,还测试插入更新等,但是不使用事务;complex模式下测试最全面,会测试增删改查,而且会使用事务。可以根据自己的需要选择测试模式。 --oltp-test-mode #测试的表数量,根据实际情况选择 --oltp-tables-count #测试的表的大小,根据实际情况选择 --oltp-table-size #客户端的并发连接数 --threads #测试执行的时间,单位是秒,该值不要太短,可以选择120 --time #生成报告的时间间隔,单位是秒,如10 --report-interval
#准备数据 $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=**** \ --oltp-test-mode=complex \ --oltp-tables-count=10 \ --oltp-table-size=100000 \ --threads=10 \ --time=120 \ --report-interval=10 prepare #执行测试,并将结果输出至本地文件 mysysbench.log $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=**** \ --oltp-test-mode=complex \ --oltp-tables-count=10 \ --oltp-table-size=100000 \ --threads=10 \ --time=120 \ --report-interval=10 run >> ./mysysbench.log #清理数据 $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-db=sbtest \ --mysql-user=test_db \ --mysql-password=**** cleanup
结果分析:上海(p95 latency) = 64.47ms, 杭州(p95 latency) = 244.38ms
#准备数据 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=10 \ --oltp-table-size=5000000 \ --threads=10 \ --time=120 \ --report-interval=10 prepare #执行测试 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=10 \ --oltp-table-size=5000000 \ --threads=10 \ --time=120 \ --report-interval=10 run >> ./mysysbench.log #清理数据 $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-db=sbtest \ --mysql-user=test_db \ --mysql-password=xxx cleanup
结果分析:p95 latency = 69.29ms
#准备数据 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=1 \ --oltp-table-size=5000000 \ --threads=10 \ --time=120 \ --report-interval=10 prepare #执行测试 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=1 \ --oltp-table-size=5000000 \ --threads=10 \ --time=120 \ --report-interval=10 run >> ./mysysbench.log #清理数据 $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-db=sbtest \ --mysql-user=test_db \ --mysql-password=xxx cleanup
结果分析:p95 latency = 64.47ms
#准备数据 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=1 \ --oltp-table-size=10000000 \ --threads=10 \ --time=120 \ --report-interval=10 prepare #执行测试 sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-user=test_db \ --mysql-password=xxx \ --oltp-test-mode=complex \ --oltp-tables-count=1 \ --oltp-table-size=10000000 \ --threads=10 \ --time=120 \ --report-interval=10 run >> ./mysysbench.log #清理数据 $ sysbench ./tests/include/oltp_legacy/oltp.lua \ --mysql-host=11.20.31.251 \ --mysql-port=3306 \ --mysql-db=sbtest \ --mysql-user=test_db \ --mysql-password=xxx cleanup
结果分析:p95 latency = 69.29ms