博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
MySQL内核月报 2014.12-MySQL· 性能优化·Bulk Load for CREATE INDEX
阅读量:5919 次
发布时间:2019-06-19

本文共 1770 字,大约阅读时间需要 5 分钟。

背景

MySQL5.6以后的版本提供了多种优化手段用于create index,比如online方式,Bulk Load方式。

Online提供了非阻塞写入的方式创建索引,为运维提供了很大的便利。
Bulk Load提升了索引创建的效率,减少了阻塞的时间。

这篇介绍下MySQL 5.7.5 Bulk Load的细节,并从查找,排序,redo,undo,page split等维度比较一下传统方式和Bulk Load方式。

传统方式

MySQL 5.7.5版本之前,create index使用的是和insert一条记录相同的api接口,即自上而下的插入方式。

步骤1: 扫描clustered index,得到行记录。
步骤2: 根据record,按照B-Tree的结构,从root->branch->leaf page查找到属于record的位置。:
步骤3: 调用write index record接口,维护索引。

1. 查找: 对每一条记录在插入前从B-Tree上查找到自己的位置。
2. 排序: 因为是按照B-Tree的结构,所以每一条记录插入都是有序的。
3. redo: 每条记录的插入都会记录innodb的redo做保护。
4. undo: 记录每个插入记录位置的undo
5. page split: 插入采用optimistic的方式,如果失败而发现page full,那么就split page,并向上更新branch page。

从上面的步骤和几个维度的说明上,传统的create index比较简单,但一方面会阻塞写入,另一方面效率会比较低,延长了不可用时间。

Bulk Load方式

MySQL 5.7.5 版本,提供了Bulk Load方式创建索引,使用多路归并排序和批量写入的方法,是一种自下而上的方式。

步骤1: 扫描clustered index,写入sort buffer,等sort buffer写满了后,写入到临时文件中。
步骤2: 对临时文件中的有序记录进行归并排序。
步骤3: 批量写入到索引结构中。

批量写入: 因为记录都是有序的,所以写入的过程就是,不断的分配leaf page,然后批量写入记录,并保留innodb_fill_factor设置的空闲空间大小,所以,就是不断在最右边leaf page写入,并不断进行平衡B-Tree结构的过程。

1. 查找: Bulk Load方式并没有单条record查找的过程。
2. 排序: 使用多路归并排序,对待写入的records进行排序。
3. redo: Innodb并没有记录redo log,而是做checkpoint直接持久化数据。
4. undo: 记录了新分配的page。
5. page split: 因为每次都是初始化一个最右端的page,create index的时候不存在split。

从上面的步骤和几个维度的说明上,Bulk Load方式能显著的利用机器的吞吐量,加快创建index的过程。

问题及与Oracle的比较

1. 临时空间使用

MySQL使用临时目录来保存临时文件,对于文件的大小受限于目录空间大小,需要注意。RDS通过增加一个参数来控制临时空间的使用。
Oracle使用临时表空间,如果排序空间不足,则会遇到常见的错误:ORA-01652: unable to extend temp segment by 128 in tablespace TEMP

2. redo保护

MySQL 的Bulk Load方式,没有使用redo保护,数据库从write-ahead logging方式退化成direct persist data,并且未来如果MySQL希望使用Innodb redo的方式进行复制,也变的困难。
Oracle如果不指定no logging参数,索引创建过程中记录完整的redo信息。

3. direct write

MySQL Bulk Load方式,对于新的leaf page,在创建的过程中,唤醒page cleaner线程对这些page做checkpoint进行持久化。
Oracle提供一种用户的服务器进程直接direct write物理文件的方式,写入数据,而不依赖DBWR进程。

转载地址:http://lkdvx.baihongyu.com/

你可能感兴趣的文章
王世杰
查看>>
查询oracle数据库中的for update 中锁住的table表sql语句
查看>>
C# Sandboxer
查看>>
log4j:WARN No appenders could be found for logger (org.springframework.web.context.ContextLoader).
查看>>
bag of word && C++图像批量读写
查看>>
Linux NFS服务器的安装与配置方法(图文详解)
查看>>
jQuery2.0.3源码分析-1(持续更新中......)
查看>>
dede后台目录暴力猜解仅限于windows
查看>>
android 64位的so文件 报错
查看>>
hdu1695 GCD 容斥原理
查看>>
mysql 优化点小结
查看>>
Leetcode 887. Super Egg Drop
查看>>
ckeditor上传图片中的几个问题
查看>>
Git 设置过滤忽略的文件或文件夹(ignore file)
查看>>
SPOJ Problem 7406:Beehive Numbers
查看>>
20145234黄斐《Java程序设计》第九周学习总结
查看>>
linux磁盘管理(RHEL)
查看>>
LNK1104 无法打开文件 exe
查看>>
对象的内存布局
查看>>
静态代码块
查看>>