使用Python如何测试InnoDB与MyISAM的读写性能
前言
由于近期有个项目对系统性能要求很高，技术选型上由于种种原因已经确定使用Mysql数据库，接下来就是要确定到底使用哪种存储引擎。我们的应用是典型的写多读少，写入内容为也很短，对系统的稳定性要求很高。所以存储引擎肯定就定在广泛使用的Innodb和MyISAM之中了。
至于两者的比较网上也有很多，但是毕竟这个事情也不复杂，决定还是自己来做，去验证一下在我们的场景下谁更优。
本文测试所用工具版本如下：
| Tools | Version |
|---|---|
| MySQL | 5.7.18 |
| Python | 3.6 |
| Pandas | 0.23 |
① 创建数据表
首先我们需要把两张使用了不同引擎的表创建出来，使用为了方便起见，我们直接使用Navicat创建了两张 员工信息表，具体字段如下：
使用InnoDB引擎的表，设计表名为innodb，选项如下：
使用InnoDB引擎的表，设计表名为myisam，选项如下：
因为是简单操作，创建的具体细节就不详述了，至此，我们的数据库就把使用 InnoDB 和 MyISAM 两种引擎的表创建好了。
② 单线程写入性能对比
1. InnoDB 引擎
执行以下代码，往使用了InnoDB引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for i in range(1000):
data = {'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i}
df = pd.DataFrame(data, index=[0])
df.to_sql('innodb', db, if_exists='append', index=False)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：12.58s、14.10s、12.71s，平均写入时间为 13.13s。
2. MyISAM 引擎
执行以下代码，往使用了MyISAM引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for i in range(1000):
data = {'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i}
df = pd.DataFrame(data, index=[0])
df.to_sql('myisam', db, if_exists='append', index=False)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：6.64s、6.99s、7.29s，平均写入时间为 6.97s。
两种引擎的单线程写入速度对比如下：
结论：单线程的情况下，MyISAM引擎的写入速度比InnoDB引擎的写入速度快88%
③ 多线程写入性能对比
1. InnoDB 引擎
执行以下代码，往使用了InnoDB引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
data_lst = [{'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i} for i in range(1000)]
def write(data):
df = pd.DataFrame(data, index=[0])
df.to_sql('innodb', db, if_exists='append', index=False)
def execute():
with ThreadPoolExecutor(max_workers=5) as executor:
executor.map(write, data_lst)
execute()
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：4.98s、4.84s、4.88s，平均写入时间为 4.9s。
2. MyISAM 引擎
执行以下代码，往使用了MyISAM引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
data_lst = [{'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i} for i in range(1000)]
def write(data):
df = pd.DataFrame(data, index=[0])
df.to_sql('myisam', db, if_exists='append', index=False)
def execute():
with ThreadPoolExecutor(max_workers=5) as executor:
executor.map(write, data_lst)
execute()
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：3.29s、3.62s、3.47s，平均写入时间为 3.46s。
两种引擎的多线程写入速度对比如下：
结论：多线程的情况下，MyISAM引擎的写入速度比InnoDB引擎的写入速度快42%
④ 读取性能对比
为了获得数据量较大的表用于测试数据库的读取性能，我们循环执行10遍上面多线程写入数据的操作，得到两张数据量为10000条数据的表格，然后读取10遍该表格，获取读取时间
1. InnoDB 引擎
执行以下代码，读取10遍使用了InnoDB引擎的表格
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for _ in range(10):
df = pd.read_sql('innodb', db)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序10次读取10000条数据的时间分别为：28.94s、28.88s、28.48s，平均写入时间为 28.77s。
2. MyISAM 引擎
执行以下代码，读取10遍使用了MyISAM引擎的表格
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for _ in range(10):
df = pd.read_sql('innodb', db)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序10次读取10000条数据的时间分别为：28.51s、29.12s、28.76s，平均写入时间为 28.8s。
两种引擎的读取速度对比如下：
结论：MyISAM引擎和InnoDB引擎的读取速度无明显差异
⑤ 总结
1. 写入速度，MyISAM比InnoDB快，单线程的情况下，两者差异尤为明显
2. 读取速度，InnoDB和MyISAM无明显差异
好了，以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对脚本之家的支持。
相关文章
这篇文章主要介绍了PyCharm软件无法安装lxml库的问题及解决，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-01-01
pytorch中的优化器optimizer.param_groups用法
这篇文章主要介绍了pytorch中的优化器optimizer.param_groups用法，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-05-05
这篇文章主要为大家详细介绍了python将图片转换为字符图片的方法，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-03-03
Python 字节流,字符串,十六进制相互转换实例(binascii,bytes)
这篇文章主要介绍了Python 字节流,字符串,十六进制相互转换实例(binascii,bytes)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-05-05
聚类是一种机器学习技术，它涉及到数据点的分组，聚类是一种无监督学习的方法，是许多领域中常用的统计数据分析技术。本文给大家分享Python实现DBSCAN聚类算法并样例测试，感兴趣的朋友一起看看吧2021-06-06
短路是指当表达式的真值已经确定时终止布尔运算，Python 解释器以从左到右的方式计算表达式，这篇文章主要介绍了Python 中的短路评估,需要的朋友可以参考下2023-06-06
在 Python 中,双下划线--也被称为“dunder”--是一种用于修饰类属性名称或类方法名称的行为,下面小编就来和大家详细讲讲如何在Python中使用双下划线吧2023-10-10
pytorch:model.train和model.eval用法及区别详解
今天小编就为大家分享一篇pytorch:model.train和model.eval用法及区别详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
这篇文章主要介绍了利用python之wxpy模块玩转微信,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-08-08
在Python中,requests库是处理HTTP请求的标准工具之一,这篇文章主要为大家介绍了如何在requests中实现请求的自动重试,感兴趣的小伙伴可以跟随小编一起学习一下2023-11-11
最新评论