MySQL的多存储引擎架构
支持多种存储引擎是众所周知的MySQL特性，也是MySQL架构的关键优势之一。如果能够理解MySQL Server与存储引擎之间是怎样通过API交互的，将大大有利于理解MySQL的核心基础架构。本文将首先介绍MySQL的整体逻辑架构，然后分析MySQL的存储引擎API并介绍如何编写自己的MySQL存储引擎。
MySQL逻辑架构
MySQL作为一个大型的网络程序、数据管理系统，架构非常复杂。下图大致画出了其逻辑架构。
Connectors
MySQL首先是一个网络程序，其在TCP之上定义了自己的 应用层协议 。所以要使用MySQL，我们可以编写代码，跟MySQL Server建立TCP连接，之后按照其定义好的协议进行交互。当然这样比较麻烦，比较方便的办法是调用SDK，比如Native C API、JDBC、PHP等各语言MySQL Connector，或者通过ODBC。但通过SDK来访问MySQL，本质上还是在TCP连接上通过MySQL协议跟MySQL进行交互。
Connection Management
每一个基于TCP的网络服务都需要管理客户端链接，MySQL也不例外。MySQL会为每一个连接绑定一个线程，之后这个连接上的所有查询都在这个线程中执行。为了避免频繁创建和销毁线程带来开销，MySQL通常会缓存线程或者使用线程池，从而避免频繁的创建和销毁线程。
客户端连接到MySQL后，在使用MySQL的功能之前，需要进行认证，认证基于用户名、主机名、密码。如果用了SSL或者TLS的方式进行连接，还会进行证书认证。
SQL Interface
MySQL支持DML（数据操作语言）、DDL（数据定义语言）、存储过程、视图、触发器、自定义函数等多种SQL语言接口。
Parser
MySQL会解析SQL查询，并为其创建语法树，并根据数据字典丰富查询语法树，会验证该客户端是否具有执行该查询的权限。创建好语法树后，MySQL还会对SQl查询进行语法上的优化，进行查询重写。
Optimizer
语法解析和查询重写之后，MySQL会根据语法树和数据的统计信息对SQL进行优化，包括决定表的读取顺序、选择合适的索引等，最终生成SQL的具体执行步骤。这些具体的执行步骤里真正的数据操作都是通过预先定义好的存储引擎API来进行的，与具体的存储引擎实现无关。
Caches & Buffers
MySQL内部维持着一些Cache和Buffer，比如Query Cache用来缓存一条Select语句的执行结果，如果能够在其中找到对应的查询结果，那么就不必再进行查询解析、优化和执行的整个过程了。
Pluggable Storage Engine
存储引擎的具体实现，这些存储引擎都实现了MySQl定义好的存储引擎API的部分或者全部。MySQL可以动态安装或移除存储引擎，可以有多种存储引擎同时存在，可以为每个Table设置不同的存储引擎。存储引擎负责在文件系统之上，管理表的数据、索引的实际内容，同时也会管理运行时的Cache、Buffer、事务、Log等数据和功能。
MySQL 5.7.11默认支持的存储引擎如下：
mysql> show engines; +--------------------+---------+----------------------------------------------------------------+--------------+------+------------+ | Engine | Support | Comment | Transactions | XA | Savepoints | +--------------------+---------+----------------------------------------------------------------+--------------+------+------------+ | InnoDB | DEFAULT | Supports transactions, row-level locking, and foreign keys | YES | YES | YES | | MRG_MYISAM | YES | Collection of identical MyISAM tables | NO | NO | NO | | MEMORY | YES | Hash based, stored in memory, useful for temporary tables | NO | NO | NO | | BLACKHOLE | YES | /dev/null storage engine (anything you write to it disappears) | NO | NO | NO | | MyISAM | YES | MyISAM storage engine | NO | NO | NO | | CSV | YES | CSV storage engine | NO | NO | NO | | ARCHIVE | YES | Archive storage engine | NO | NO | NO | | PERFORMANCE_SCHEMA | YES | Performance Schema | NO | NO | NO | | FEDERATED | NO | Federated MySQL storage engine | NULL | NULL | NULL | +--------------------+---------+----------------------------------------------------------------+--------------+------+------------+ File System
所有的数据，数据库、表的定义，表的每一行的内容，索引，都是存在文件系统上，以文件的方式存在的。当然有些存储引擎比如InnoDB，也支持不使用文件系统直接管理裸设备，但现代文件系统的实现使得这样做没有必要了。
在文件系统之下，可以使用本地磁盘，可以使用DAS、NAS、SAN等各种存储系统。
存储引擎API
MySQL定义了一系列存储引擎API，以支持插件式存储引擎架构。API以Handler类的虚函数的方式存在，可在 代码库 下的./sql/handler.h中查看详细信息，可在handler类的注释中看到描述：
/** The handler class is the interface for dynamically loadable storage engines. Do not add ifdefs and take care when adding or changing virtual functions to avoid vtable confusion Functions in this class accept and return table columns data. Two data representation formats are used: 1. TableRecordFormat - Used to pass [partial] table records to/from storage engine 2. KeyTupleFormat - used to pass index search tuples (aka "keys") to storage engine. See opt_range.cc for description of this format. TableRecordFormat ================= [Warning: this description is work in progress and may be incomplete] The table record is stored in a fixed-size buffer: record: null_bytes, column1_data, column2_data, ... //篇幅原因，略去部分内容。 */ class handler :public Sql_alloc { //篇幅原因，不列出具体代码。读者可直接在源码文件./sql/handler.h中找到具体内容。 } 下面我将分类描述部分存储引擎API。
创建、打开和关闭表
通过函数create来创建一个table：
/** *name：要创建的表的名字 *from：一个TABLE类型的结构，要创建的表的定义，跟MySQL Server已经创建好的tablename.frm文件内容是匹配的 *info：一个HA_CREATE_INFO类型的结构，包含了客户端输入的CREATE TABLE语句的信息 */ int create(const char *name, TABLE *form, HA_CREATE_INFO *info); 通过函数open来打开一个table：
/** mode包含以下两种 O_RDONLY - Open read only O_RDWR - Open read/write */ int open(const char *name, int mode, int test_if_locked); 通过函数close来关闭一个table：
int close(void); 对表加锁
当客户端调用LOCK TABLE时，通过external_lock函数加锁：
int ha_example::external_lock(THD *thd, int lock_type) 全表扫描
//初始化全表扫描 virtual int rnd_init (bool scan); //从表中读取下一行 virtual int rnd_next (byte* buf); 通过索引访问table内容
//使用索引前调用该方法 int ha_foo::index_init(uint keynr, bool sorted) //使用索引后调用该方法 int ha_foo::index_end(uint keynr, bool sorted) //读取索引第一条内容 int ha_index_first(uchar * buf); //读取索引下一条内容 int ha_index_next(uchar * buf); //读取索引前一条内容 int ha_index_prev(uchar * buf); //读取索引最后一条内容 int ha_index_last(uchar * buf); //给定一个key基于索引读取内容 int index_read(uchar * buf, const uchar * key, uint key_len, enum ha_rkey_function find_flag) 事务处理
//开始一个事务 int my_handler::start_stmt(THD *thd, thr_lock_type lock_type) //回滚一个事务 int (*rollback)(THD *thd, bool all); //提交一个事务 int (*commit)(THD *thd, bool all); 如何编写自己的存储引擎
在MySQL的官方文档上，有对于编写自己的存储引擎的指导文档，链接 如下 。
作为编写自己存储引擎的开始，你可以查看MySQL源码库中的一个 EXAMPLE存储引擎 ，它实现了必须要实现的存储引擎API，可以通过复制它们作为编写我们自己存储引擎的开始：
sed -e s/EXAMPLE/FOO/g -e s/example/foo/g ha_example.h > ha_foo.h sed -e s/EXAMPLE/FOO/g -e s/example/foo/g ha_example.cc > ha_foo.cc Reference
- http://www.datadisk.co.uk/html_docs/mysql/architecture.htm
- MySQL Docs
- 高性能MySQL
正文到此结束
- 本文标签： src ODBC PHP git 安装 代码 Select example 线程池 mysql ip sql GitHub parse schema Architect db 线程 API 解析 Connection ACE tab 数据库 管理 HTML SQL Server http 认证 description NSA App 锁 主机 cache 源码 find IDE CTO 插件 DDL ORM 协议 tar 数据 TCP key 统计 Action ssl UI 注释
- 版权声明： 本文为互联网转载文章，出处已在文章中说明(部分除外)。如果侵权，请联系本站长删除，谢谢。
- 本文海报： 生成海报一 生成海报二
热门推荐
相关文章
近期评论
-
文章和留言都翻到11页了 没有OOM
-
-
朋友，翻页到11页，及以后，会出现OOM，无法访问
-
-
搞个gitee的项目
-
-
版本号是多少，你可以下载哪个代码仓库，jdk选1.8 直接跑就行
-
-
-
Loading...
![[HBLOG]公众号](https://www.liuhaihua.cn/img/qrcode_gzh.jpg)
