MySQL制作具有千万条测试数据的测试库的方法

 更新时间:2020年11月30日 09:06:54   作者:lichlaughing  
这篇文章主要介绍了MySQL制作具有千万条测试数据的测试库的方法,帮助大家更好的理解和学习MySQL,感兴趣的朋友可以了解下

有时候需要制造一些测试的数据,以mysql官方给的测试库为基础,插入十万,百万或者千万条数据。利用一些函数和存储过程来完成。

官方给的测试库地址:https://github.com/datacharmer/test_db

导入官方的数据库,做了一些简化,留下了部门表,员工表和雇佣表三张表,去掉了外键关联。因为是测试数据,日期的对应关系不具备准确性。

必要的函数

生成随机字符串

RAND():生成0~1之间的随机数

FLOOR:向下整数 (FlOOR(1.2)=1)

CEILING 向上取整 (CEILING(1.2)=2)

substring:截取字符串

concat:字符串连接

CREATE DEFINER=`root`@`localhost` FUNCTION `rand_string`(n INT) RETURNS varchar(255) CHARSET latin1
BEGIN
	DECLARE chars_str 	varchar(100) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz';
  DECLARE return_str 	varchar(255) DEFAULT '';
  DECLARE i INT DEFAULT 0;
  WHILE i < n DO
    SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1));
    SET i = i +1;
  END WHILE;
  RETURN return_str;
END

查看自定义的所有函数

show function status

测试使用:

select rand_string(5);

生成随机年月日字符串

生成一个指定时间段内的随机日期

SELECT
	date(
	from_unixtime( unix_timestamp( '2000-01-01' ) + floor( rand() * ( unix_timestamp( '2020-12-31' ) - unix_timestamp( '2000-01-01' ) + 1 ) ) ));

函数:生成指定时间段内的随机日期

CREATE DEFINER=`root`@`localhost` FUNCTION `rand_date_string`(startDate varchar(255),endDate varchar(255)) RETURNS varchar(255) CHARSET latin1
BEGIN
  DECLARE return_str varchar(255) DEFAULT '';
	
	 SET return_str =date(
		from_unixtime( unix_timestamp( startDate ) 
				+ floor( rand() * ( unix_timestamp( endDate ) - unix_timestamp( startDate ) + 1 ) ) 
			)
	 );
  
  RETURN return_str;
END

测试使用:

select rand_date_string('2000-01-01','2020-12-31');
//结果
2001-09-10

存储过程生成数据

给每个部门插入一百万员工,那么员工表就有九百万的数据。

CREATE DEFINER=`root`@`localhost` PROCEDURE `data`()
BEGIN
	
	DECLARE i INT DEFAULT 1;
	DECLARE j INT DEFAULT 0;
	DECLARE id INT DEFAULT 0;
	WHILE i < 10 DO
			WHILE j < 1000000 DO
				insert into employees_m (emp_no,birth_date,first_name,last_name,gender,hire_date) VALUES(
					id,rand_date_string('1970-01-01','1997-01-01'),rand_string(5),rand_string(5),'M',NOW());
				
				insert into dept_emp_m (emp_no,dept_no,from_date,to_date) values(
					 id,concat('d00',i),rand_date_string('1990-01-01','2020-12-31'),'2020-12-31');
					 
			SET j=j+1;  
			SET id=id+1;  
			END WHILE;
	SET j = 0;
	SET i=i+1;   
	END WHILE;

END

插入九百万条数据大概用时:4868s

上面的方式插入数据会很慢,可以将数据插入到内存表,就是将表的存储引擎修改为MEMORY这样就会使用内存去存储数据,会比直接插入到INNODB引擎的表中快很多,只不过就是没有持久化,但是速度贼快,插入一千万条数据大概需要时间: 1227.89s

附录

修改表存储引擎

ALTER TABLE dept_emp_m ENGINE=MEMORY;

调整内存表的大小,修改配置文件

[mysqld]
max_heap_table_size = 2048M
tmp_table_size = 2048M

以上就是MySQL制作具有千万条测试数据的测试库的方法的详细内容,更多关于MySQL 千万条测试数据的资料请关注脚本之家其它相关文章!

相关文章

  • mysql 修改密码和设置允许远程登录

    mysql 修改密码和设置允许远程登录

    这篇文章主要介绍了mysql 修改密码和设置允许远程登录的相关资料,需要的朋友可以参考下
    2015-07-07
  • MySQL OOM 系统二 OOM Killer

    MySQL OOM 系统二 OOM Killer

    前面一节重点分享了Linux的内存分配策略,基于上述的分配策略,为了规避超售的风险,Linux采了一种OOM Killer的机制,即系统可用内存(包括Swap)即将使用完之前,选择性的Kill掉一些进程以求释放一些内存
    2016-07-07
  • MySQL之MHA高可用配置及故障切换实现详细部署步骤

    MySQL之MHA高可用配置及故障切换实现详细部署步骤

    这篇文章主要介绍了MySQL之MHA高可用配置及故障切换实现详细部署步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-03-03
  • MySQL查询排序与查询聚合函数用法分析

    MySQL查询排序与查询聚合函数用法分析

    这篇文章主要介绍了MySQL查询排序与查询聚合函数用法,结合实例形式分析了MySQL查询结果排序以及查询聚合函数相关使用技巧,需要的朋友可以参考下
    2019-11-11
  • 浅谈一下MyISAM和InnoDB存储引擎的区别

    浅谈一下MyISAM和InnoDB存储引擎的区别

    这篇文章主要介绍了MyISAM和InnoDB存储引擎的区别,存储引擎是MySQL中特有的一个术语,其它数据库中没有,实际上存储引擎是一个表存储/组织数据的方式,今天就跟小编来看看MyISAM和InnoDB存储引擎的区别,需要的朋友可以参考下
    2023-04-04
  • 企业生产MySQL优化介绍

    企业生产MySQL优化介绍

    这篇文章主要介绍了企业生产MySQL优化介绍的相关内容,文中叙述了其优化内容,各个方面介绍的比较详细,需要的朋友可以参考。
    2017-10-10
  • 关于MySQL日期类型的选择建议

    关于MySQL日期类型的选择建议

    在软件开发中,时间记录是不可或缺的功能,如记录操作时间、交易时间等,通常不建议使用字符串存储日期,因为它占用空间大,并且效率低下,MySQL提供的Datetime和Timestamp是常用的时间存储类型,Datetime没有时区信息,而Timestamp与时区有关
    2024-10-10
  • Linux下mysql5.6.24(二进制)自动安装脚本

    Linux下mysql5.6.24(二进制)自动安装脚本

    这篇文章主要为大家详细介绍了Linux环境下mysql5.6.24二进制自动安装脚本,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-03-03
  • 一文详解MySQL主从同步原理

    一文详解MySQL主从同步原理

    这篇文章主要介绍了一文详解MySQL主从同步原理,MySQL主从同步是基于Bin Log实现的,而Bin Log记录的是原始SQL语句,更多相关内容介绍感兴趣的小伙伴可以参考一下
    2022-08-08
  • MYSQL 数据库导入导出命令

    MYSQL 数据库导入导出命令

    在不同操作系统或MySQL版本情况下,直接拷贝文件的方法可能会有不兼容的情况发生。所以一般推荐用SQL脚本形式导入。下面分别介绍两种方法。
    2010-11-11

最新评论