MYSQL之批量插入数据库
2013-06-03 12:00
190 查看
当需要做测试时,需要批量插入数据,有三种方法,第一种,一条一条insert插入,明显这是最慢的,第二种,使用事务提交,第三种,使用sql语句优化的小技巧,下面会分别进行测试,目标是插入一个空的数据表200W条数据
第一种方法:使用insert into 插入,代码如下:
最后显示为:23:25:05 01:32:05 也就是花了2个小时多!
第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:
第三种方法:使用优化SQL语句:将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,
则需要配置下MYSQL,在mysql 命令行中运行 :set global max_allowed_packet = 2*1024*1024*10;消耗时间为:11:24:06 11:25:06;
插入200W条测试数据仅仅用了1分钟!代码如下:
最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。OVER
第一种方法:使用insert into 插入,代码如下:
$params = array('value'=>'50'); set_time_limit(0); echo date("H:i:s"); for($i=0;$i<2000000;$i++){ $connect_mysql->insert($params); }; echo date("H:i:s");
最后显示为:23:25:05 01:32:05 也就是花了2个小时多!
第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:
echo date("H:i:s");
$connect_mysql->query('BEGIN'); $params = array('value'=>'50');
for($i=0;$i<2000000;$i++){ $connect_mysql->insert($params); if($i%100000==0){ $connect_mysql->query('COMMIT'); $connect_mysql->query('BEGIN'); } } $connect_mysql->query('COMMIT'); echo date("H:i:s");
第三种方法:使用优化SQL语句:将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,
则需要配置下MYSQL,在mysql 命令行中运行 :set global max_allowed_packet = 2*1024*1024*10;消耗时间为:11:24:06 11:25:06;
插入200W条测试数据仅仅用了1分钟!代码如下:
$sql= "insert into twenty_million (value) values"; for($i=0;$i<2000000;$i++){ $sql.="('50'),"; }; $sql = substr($sql,0,strlen($sql)-1); $connect_mysql->query($sql);
最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。OVER
相关文章推荐
- java(功能篇) java(mysql)数据库 实现数据批量插入
- c#几种数据库的大数据批量插入(SqlServer、Oracle、SQLite和MySql)
- MySQL像数据库批量插入100w条数据
- Java 批量插入数据库(MySQL)数据
- mysql 批量插数据到数据库以及返回插入生成的id号
- 利用mysql存储过程向数据库批量插入数据
- 【MySql】Java 批量插入数据库addBatch
- MyBatis中的批量插入、删除数据库数据(MySql和Oracle)
- Java 批量插入数据库(MySQL)数据
- Java 批量插入数据到数据库(MySQL)中
- 向数据库插入批量数据
- MYSQL 某个数据库下所有表的 批量删除表语句
- MySQL基本操作:数据库的创建、查询、更新、插入、删除表格
- C API向MySQL插入批量数据的快速方法——关于mysql_autocommit
- 启用事务操作,解决批量插入或更新sqlite,mssql等数据库耗时问题
- PHP数据无法插入MySQL 数据库解决日志
- mysql insert ignore .. ON DUPLICATE KEY 与oracle MERGE INTO 可以相互替换 批量插入存在则替换,不存在则插入
- MySQL 数据库怎样把一个表的数据插入到另一个表
- C#:几种数据库的大数据批量插入
- mysql使用存储过程&函数实现批量插入