《MySQL是怎样运行的 —— 从跟上理解MySQL》—— 第八章
一、数据库和文件系统的关系
InnoDB 、 MyISAM
这样的存储引擎都是把表存储在文件系统上的。当我们想读取数据的时候,这些存储引擎会从文件系统中把数据读出来返回给我们,当我们想写入数据的时候,这些存储引擎会把这些数据又写回文件系统。那么InnoDB
和MyISAM
这两个存储引擎的数据是如何在文件系统中存储的呢?
二、MySQL数据目录
MySQL服务器程序在启动时会到文件系统的某个目录下加载一些文件,之后在运行过程中产生的数据也都会存储到这个目录下的某些文件中,这个目录就称为数据目录
。
2.1 数据目录和安装目录的区别
安装目录
下有非常重要的bin
目录,它里边存储了许多关于控制客户端程序和服务器程序的命令(许多可执行文件,比如mysql
,mysqld
,mysqld_safe
等等等等好几十个)。而数据目录
是用来存储MySQL
在运行过程中产生的数据。
2.2 如何确定MySQL中的数据目录
数据目录对应着一个系统变量datadir
:
SHOW VARIABLES LIKE 'datadir'; |
从结果中可以看出,在我的计算机上MySQL
的数据目录就是/usr/local/mysql/data/
。
三、数据目录的结构
3.1 数据库在文件系统中的表示
每当我们使用CREATE DATABASE 数据库名
语句创建一个数据库的时候,在文件系统上实际发生了什么呢?其实很简单,每个数据库都对应数据目录下的一个子目录,或者说对应一个文件夹。
我们每当我们新建一个数据库时,MySQL
会帮我们做这两件事儿:
- 在
数据目录
下创建一个和数据库名同名的子目录(或者说是文件夹)。 - 在该与数据库名同名的子目录下创建一个名为
db.opt
的文件,这个文件中包含了该数据库的各种属性,比方说该数据库的字符集和比较规则是什么。
SHOW DATABASES; |
可以看到在我的计算机上当前有10个数据库,其中information_schema
、mysql
、performance_schema
和sys
数据库是MySQL自带的系统数据库,其余的数据库是自定义的。
数据目录
下的内容:
➜ ~ tree -L 1 /usr/local/mysql/data/ |
这个数据目录下的文件和子目录比较多,但是如果仔细看的话,除了information_schema
这个系统数据库外,其他的数据库在数据目录
下都有对应的子目录。这个information_schema
比较特殊,MySQL对它的实现进行了特殊对待,没有使用相应的数据库目录。
3.2 表在文件系统中的表示
以下内容来自MySQL 5.7.22
数据其实都是以记录的形式插入到表中的,每个表的信息其实可以分为两种:
- 表结构的定义
- 表中的数据
表结构
就是该表的名称是什么,表里边有多少列,每个列的数据类型是什么,有什么约束条件和索引,用的是什么字符集和比较规则等等的各种信息,这些信息都体现在我们的建表语句中了。为了保存这些信息,InnoDB
和MyISAM
这两种存储引擎都在数据目录
下对应的数据库子目录下创建了一个专门用于描述表结构的文件,文件名是这样:
表名.frm |
3.2.1 InnoDB是如何存储表数据的
InnoDB的一些结论:
InnoDB
其实是使用页
为基本单位来管理存储空间的,默认的页
大小为16KB
。- 对于
InnoDB
存储引擎来说,每个索引都对应着一棵B+
树,该B+
树的每个节点都是一个数据页,数据页之间不必要是物理连续的,因为数据页之间有双向链表
来维护着这些页的顺序。 InnoDB
的聚簇索引的叶子节点存储了完整的用户记录,也就是所谓的索引即数据,数据即索引。
为了更好的管理这些页,InnoDB
使用表空间
或者文件空间
(英文名:table space
或者file space
),这个表空间是一个抽象的概念,它可以对应文件系统上一个或多个真实文件(不同表空间对应的文件数量可能不同)。每一个表空间
可以被划分为很多很多很多个页
,我们的表数据就存放在某个表空间
下的某些页里。
InnoDB
将表空间划分为几种不同的类型:
系统表空间(system tablespace)
这个所谓的系统表空间
可以对应文件系统上一个或多个实际的文件,默认情况下,InnoDB
会在数据目录
下创建一个名为ibdata1
、大小为12M
的文件,这个文件就是对应的系统表空间
在文件系统上的表示。
这个文件是所谓的
自扩展文件
,也就是当不够用的时候它会自己增加文件大小
如果想让系统表空间对应文件系统上多个实际文件,或者仅仅觉得原来的ibdata1
这个文件名难听,那可以在MySQL
启动时配置对应的文件路径以及它们的大小,比如:
[server] |
这样在MySQL
启动之后就会创建这两个512M大小的文件作为系统表空间
,其中的autoextend
表明这两个文件如果不够用会自动扩展data2
文件的大小。
也可以把系统表空间
对应的文件路径不配置到数据目录
下,甚至可以配置到单独的磁盘分区上,涉及到的启动参数就是innodb_data_file_path
和innodb_data_home_dir
。
需要注意的一点是,在一个MySQL服务器中,系统表空间只有一份。从MySQL5.5.7到MySQL5.6.6之间的各个版本中,我们表中的数据都会被默认存储到这个 系统表空间。
独立表空间(file-per-table tablespace)
在MySQL5.6.6以及之后的版本中,InnoDB
并不会默认的把各个表的数据存储到系统表空间中,而是为每一个表建立一个独立表空间,也就是说创建了多少个表,就有多少个独立表空间。使用独立表空间
来存储表数据的话,会在该表所属数据库对应的子目录下创建一个表示该独立表空间
的文件,文件名和表名相同,只不过添加了一个.ibd
的扩展名而已,完整的文件名称:
表名.ibd |
可以自己指定使用系统表空间
还是独立表空间
来存储数据,这个功能由启动参数innodb_file_per_table
控制,比如说我们想刻意将表数据都存储到系统表空间
时,可以在启动MySQL
服务器的时候这样配置:
[server] |
当innodb_file_per_table
的值为0
时,代表使用系统表空间;当innodb_file_per_table
的值为1
时,代表使用独立表空间。不过innodb_file_per_table
参数只对新建的表起作用,对于已经分配了表空间的表并不起作用。
如果想把已经存在系统表空间中的表转移到独立表空间,可以使用下面的语句:
ALTER TABLE 表名 TABLESPACE [=] innodb_file_per_table; |
其他类型表空间
随着MySQL的发展,除了上述两种老牌表空间之外,现在还新提出了一些不同类型的表空间,比如通用表空间(general tablespace)、undo表空间(undo tablespace)、临时表空间(temporary tablespace)等等的。
3.2.2 MyISAM是如何存储表数据的
在MyISAM
中的索引全部都是二级索引
,该存储引擎的数据和索引是分开存放的。所以在文件系统中也是使用不同的文件来存储数据文件和索引文件。而且和InnoDB
不同的是,MyISAM
并没有什么所谓的表空间
一说,表数据都存放到对应的数据库子目录下。
假如test
表使用MyISAM
存储引擎的话,那么在它所在数据库对应的xiaohaizi
目录下会为test
表创建这三个文件:
test.frm |
3.2.3 视图在文件系统中的表示
MySQL
中的视图其实是虚拟的表,也就是某个查询语句的一个别名而已,所以在存储视图
的时候是不需要存储真实的数据的,只需要把它的结构存储起来就行了。和表
一样,描述视图结构的文件也会被存储到所属数据库对应的子目录下面,只会存储一个视图名.frm
的文件。
3.3 其他的文件
数据目录
下还包括为了更好运行程序的一些额外文件,主要包括这几种类型的文件:
- 服务器进程文件:每运行一个
MySQL
服务器程序,都意味着启动一个进程。MySQL
服务器会把自己的进程ID写入到一个文件中。 - 服务器日志文件:在服务器运行过程中,会产生各种各样的日志,比如常规的查询日志、错误日志、二进制日志、redo日志等等各种日志,这些日志各有各的用途。
- 默认/自动生成的SSL和RSA证书和密钥文件:主要是为了客户端和服务器安全通信而创建的一些文件
四、文件系统对数据库的影响
因为MySQL
的数据都是存在文件系统中的,就不得不受到文件系统的一些制约,这在数据库和表的命名、表的大小和性能方面体现的比较明显,比如下面这些方面:
数据库名称和表名称不得超过文件系统所允许的最大长度
每个数据库都对应
数据目录
的一个子目录,数据库名称就是这个子目录的名称;每个表都会在数据库子目录下产生一个和表名同名的.frm
文件,如果是InnoDB
的独立表空间或者使用MyISAM
引擎还会有别的文件的名称与表名一致。这些目录或文件名的长度都受限于文件系统所允许的长度。特殊字符的问题
为了避免因为数据库名和表名出现某些特殊字符而造成文件系统不支持的情况,
MySQL
会把数据库名和表名中所有除数字和拉丁字母以外的所有字符在文件名里都映射成@+编码值
的形式作为文件名。文件长度受文件系统最大长度限制
对于
InnoDB
的独立表空间来说,每个表的数据都会被存储到一个与表名同名的.ibd
文件中;对于MyISAM
存储引擎来说,数据和索引会分别存放到与表同名的.MYD
和.MYI
文件中。这些文件会随着表中记录的增加而增大,它们的大小受限于文件系统支持的最大文件大小。
五、MySQL系统数据库简介
这几个数据库包含了MySQL服务器运行过程中所需的一些信息以及一些运行状态信息:
mysql
:核心数据库,它存储了MySQL的用户账户和权限信息,一些存储过程、事件的定义信息,一些运行过程中产生的日志信息,一些帮助信息以及时区信息等。information_schema
这个数据库保存着MySQL服务器维护的所有其他数据库的信息,比如有哪些表、哪些视图、哪些触发器、哪些列、哪些索引等等。这些信息并不是真实的用户数据,而是一些描述性信息,有时候也称之为元数据。
performance_schema
这个数据库里主要保存MySQL服务器运行过程中的一些状态信息,算是对MySQL服务器的一个性能监控。包括统计最近执行了哪些语句,在执行过程的每个阶段都花费了多长时间,内存的使用情况等等信息。
sys
这个数据库主要是通过视图的形式把
information_schema
和performance_schema
结合起来,让程序员可以更方便的了解MySQL服务器的一些性能信息。