首页手记 mysql 索引底层详解

mysql 索引底层详解

标签：

Java

mysql三层架构

+--------------+
|  客户端       |  
+--------------+
       ↓
+--------------+
|  服务端       | 
+--------------+
       ↓
+--------------+
|  存储引擎     | 
+--------------+

mysql server层结构

当客户端需要查询一条sql时，在server端内部走了以下4步

+--------------+
|  连接器      |   
+--------------+
       ↓
+--------------+
|  分析器      |  
+--------------+
       ↓
+--------------+
|  优化器      | 
+--------------+
       ↓
+--------------+
|  执行器      | 
+--------------+

索引的作用

加快数据的访问
将随机io变成顺序io
大大减少了服务器需要扫描的数据量
帮助服务器避免排序和临时表
减少io次数，提高磁盘寿命

索引缺点

加了索引之后查询会更快，但是当数据量大的时候，增删改就会变慢；因为每次修改数据时除了数据本身，数据库还需要维护索引的那颗B+树；

一张表最多能建多少个列和索引

innoDB: 最多创建1017列, 最多64个二级索引,加上主键有65个，单个索引最多包含16列, 索引最大长度767字节(其实行格式为REDUNDANT,COMPACT最高为767字节,但行格式为DYNAMIC,COMPRESSED最高可达为3072字节), 行大小最大65536字节
mysiam: 最多4096列, 最多64个二级索引, 单个索引最多包含16列, 索引最大长度1000字节, 行大小最大65536字节

一级索引和二级索引

一级索引：索引和数据存储在一起，都存储在同一个B+tree中的叶子节点。一般主键索引都是一级索引。主键就是聚簇索引，一个表就一个主键，一个表也就一个聚簇索引，所以综上所述，主键 = 一级索引 = 聚簇索引
二级索引：二级索引树的叶子节点存储的是主键而不是数据。也就是说，在找到索引后，得到对应的主键，再回到一级索引中找主键对应的数据记录。在innodb中，所有的二级索引B+树都指向一级索引的key值，所以查询二级索引时需要回表才能查到一整行数据；

索引是存储在内存还是磁盘的

索引都是存储在磁盘里面的，因为需要持久化存储，内存里也有，但都是每次查询时从磁盘加载到内存里的

有或者无索引的情况下是怎么查找数据的？

无索引：没有索引的情况下，都会全表扫描，就是一条条地找，这无疑效率不高，又费io；
有索引：有索引的情况下，会为这个索引生成一颗B+树，有了这颗树的帮助，查询数据的效率会提升几千倍；

查询比较慢，一般卡在哪？

卡在io上，就是input和output，
解决方案是提高io效率，
- 减少io的次数，
- 减少io的量：尽可能地查询减少查询的数据，尽量避免用select * from xxx

去磁盘读取数据的时候，是用多少读取多少吗？

肯定不是啦，mysql和磁盘交互的时候是以页为单位进行传输的，默认情况下，每页大小为16K，，就像我们在电脑上新建一个txt文件，里面什么内容都没有，但它还是占用了4KB，mysql也一样，有自己的最小页大小，可通过 innodb_page_size 参数观看数据页大小

mysql> show variables like 'innodb_page_size';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| innodb_page_size | 16384 |
+------------------+-------+

很重要的概念：局部性原理

数据和程序都有狙击成群的倾向，同时之前被访问过的数据很可能再次被查询，空间局部性、时间局部性
磁盘预读
- 内存跟磁盘交互时，一般情况下有一个最小的逻辑单元，称之为页（datapage），页的大小由系统决定，一般是4k或8k，并且一定是整数倍的，4、8、16、32、64、128… 数据交互时，可以去页的整数倍来进行读取，innodb存储引擎，每次读取数据都是16k

索引为什么能加快查询

要解决这个问题，我们就得先知道索引是怎么存储的

索引是怎么存储的？

一个索引对应一个B+树，如果一张表建了10个索引，那就会有10个B+树，

OLAP联机分析处理—数据仓库–hive
对海量历史数据进行分析，产生决策性的影响

OLTP联机事务处理–关系型数据库
要求在很短的时效内返回对用的数据

为什么用B+树来存储索引？

hash索引不适合用来做数据库的结构，

如果是单个等值值查询（通过key查找value），那么就会非常快，
不支持范围查询，进行范围查询时，必须要挨个遍历
对内存的要求比较高，
哈希冲突会造成数据散列不均匀，会产生大量的线性查询，很浪费时间

在mysql中有没有hash索引

答：有

memory存储引擎使用的是hash索引
innodb支持自适应hash，就是由mysql来决定使用hash还是树来存储，人工无法干预

存储引擎的分类

innodb ：持久化 + 内存
memory ：只存储在内存，不支持持久化，断电就没了，结构是hash表
myisam ：持久化
可以在建表是自己指定存储引擎，就像这样

create table (id bigint(20) primary key ,name varchar(10)) engine='innodb';

MySQL5.5版本之前，默认内置存储引擎是Myisam，
MySQL5.5版本之后，MySQL的默认内置存储引擎已经是InnoDB，

树的分类

二叉树
BST树（binary search tree）必须保证顺序
AVL树平衡二叉树，有序
红黑树
B树
B+树

在很早很早很早很早以前，索引是用用二叉树实现的，大概是2点几版本的
二叉树本身是无序的，所以发展出了有序的BST树，BST在插入数据的时候必须保证有序，左子树必须小于根节点，右子树必须大于根节点；
bst树插入时如果是连续递增或递减顺序的话，就会退化成链表，所以衍生出了会旋转的平衡二叉树avl，
avl树插入慢，查询快，因为插入的时候为了保证平衡，需要进行旋转操作，平衡二叉树有一个条件，为了保证平衡，最短子树和最长子树的长度差不能超过1，所以会经常要旋转，旋转也是需要性能开销的。所以平衡二叉树只能用于插入少、查询多的数据，当我们的查询和插入一样多情况下，使用平衡二叉树就不合适了，所以这时候又衍生出了一种新的数据结构：红黑树
红黑树最长子树只要不超过最短子树的2倍即可，但是随着数据的插入，发现树的深度会变深，树的深度越深，意味着io次数越多，就会影响数据读取的效率；所以为了解决这个问题，就需要把有序的二叉树，变成有序的多叉树，这就是B树
B树中每层都存储数据，但是每个磁盘块能存储的内容是有限的，除了索引之外，还要存储数据，而数据占用的空间更多，这就使得能存储的索引变少了，如果想要插入更多的数据，就得在加一层，变成四层，但是这样会增加io量，所以为了解决这个问题，衍生出了B+树；
B+树只在叶子节点储存数据，非叶子层只存储索引，并且B+树不但可以从上往下查找，还可以从下往上查找数据；

聚簇索引和非聚簇索引的区别

innodb只能有一个聚簇索引，但是有很多的非聚簇索引

聚簇索引：数据和索引是放在一起的，就是聚簇索引，就像这样

+----------+
|  索引值  |
+----------+
|   数据   |
+----------+

非聚簇索引：数据和索引是分开存放的，在B+树中索引值对应的是文件地址，就是非聚簇索引，可以肯定的是，所有的非聚簇索引都指向了聚簇索引，就像这样

+------------+
|   索引值   |
+------------+
|数据文件地址|
+------------+

innodb中，如果id是主键，后面我把name字段添加为索引，这棵树是怎么样存储的？

一开始我的主键是id字段，那么在B+树中叶子节点的结构是这样的

+----------+
|主键索引值|
+----------+
|   数据   |
+----------+

这时候我又把name字段设置为索引了，这时候mysql为这个name索引也创建一颗B+树，这颗树的叶子节点存的就不是数据了，如果存数据的话会造成冗余，所以这个name索引树存的是主键id，就像这样

        +----------+
        |    ye    |
        +----------+
         /        \
+----------+    +----------+   
|    xin   |    |   dong   |
+----------+    +----------+
|  主键id  |    |  主键id  |
+----------+    +----------+

innodb插入数据时必须要包含一个索引的key值

向innodb插入数据的时候，必须要包含一个索引的key值，这个索引的key值，可以是主键，如果没有主键，就是唯一键，如果没有唯一键，那么就是一个自生成的6字节的rowid；

myisam用的都是非聚簇索引；
innodb只有一个聚簇索引，有多个非聚簇索引；

什么是存储引擎

索引的创建跟存储引擎是挂钩的，存储引擎表示不同的数据在磁盘存储的文件格式也是不同的。
mysql常用的存储引擎有三个

memory ：内存级别的存储引擎，不支持持久化，断电丢失数据，hash索引
myisam ： mysql 5.5之前默认的存储引擎，每次修改数据都会锁表，不支持事务
innodb ： mysql 5.5之后默认的存储引擎，支持事务、行锁；

mysql会自动创建索引嘛

innodb只能有一个聚簇索引，但是有很多的非聚簇索引，向innodb插入数据的时候，必须要包含一个索引的key值，这个索引的key值，可以使主见，如果没有主键，就是唯一键，如果没有唯一键，那么就是一个自生成的6字节的rowid；

为什么只能有一个聚簇索引

因为主键只有一个，聚簇索引对应的就是主键字段，只有主键的索引B+树才会存储数据，其他的二级索引存储的都是主键的值；

如果每个二级索引树都存储数据的话，就会造成数据的冗余；

myisam和innodb区别

myisam支持表锁，innodb支持表锁和行锁
myisam不支持外键，innodb支持外键
myisam不支持事务，innodb支持事务
在计算机内存足够的情况下，innodb效率比myisam高，因为innodb是优先读缓存， myisam是直接从磁盘读取数据

数据存储在哪个目录

数据存储在：你的mysql目录/data/db1/ 目录下，

其中，

后缀为.opt的文件是一个配置文件，指定该数据库的字符集编码
后缀为.frm的文件就是表结构
后缀为.idb表示当前表用的存储引擎是innodb
后缀为.myd是数据文件。使用的存储引擎是myisam
后缀为.myi是索引文件，使用的存储引擎是myisam

索引监控

查询语句为：show status like ‘Handler_read%’;

结果说明：

Handler_read_first 代表读取索引头的次数，如果这个值很高，说明全索引扫描很多。
Handler_read_key：代表一个索引被使用的次数，如果我们新增加一个索引，然后通过这个索引来查询数据，，可以查看Handler_read_key是否有增加，如果有增加，说明sql用到索引。这个数量越大越好，大表示索引查询使用的比较多；
Handler_read_next：代表读取索引的下列，按(主)键顺序依次读取之后的N行
Handler_read_last : 从(主)键的最后位置开始读取
Handler_read_prev：代表读取索引的上列，一般发生在ORDER BY … DESC。
Handler_read_rnd：代表在固定位置读取行，如果这个值很高，说明对大量结果集进行了排序、进行了全表扫描、关联查询没有用到合适的KEY。
Handler_read_rnd_next：代表进行了很多表扫描，查询性能低下。