记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常

tmp空间增长异常说明

作者：sylar版权所有[文章允许转载,但必须以链接方式注明源地址,否则追究法律责任.]

一、背景说明

近日 zabbix总是如下报警信息：
记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常

10年积累的成都网站制作、成都做网站经验，可以快速应对客户对网站的新想法和需求。提供各种问题对应的解决方案。让选择我们的客户得到更好、更有力的网络服务。我虽然不认识你，你也不认识我。但先网站制作后付款的网站建设流程，更有泽库免费网站建设让你可以放心的选择与我们合作。

二、问题分析

根据zabbix报警，立即查询空间，此时根目录空间较大，不至于报警
记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常

查看MySQL的错误日志，发现该时间点有如下错误信息
记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常

根据上图错误提示，是tmp空间增长异常，并且是往里添加表（.myi格式结尾，且提及myisam，故做此判断）

查询数据库，确认是否有目录指向/tmp，根据下面截图得知/tmp目录是mysql临时表所在的目录
记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常

/tmp目录16M，最多可以创建32个，这个量完全够普通事物使用，需要具体定位什么情况需要这么大量的临时表，以至于超过该大小，使用到磁盘空间。

三、mysql内部临时表（in-memory和on-disk）

3.1内部临时表的定义

不同于手工创建的临时表，在sql执行过程中可能会用到临时文件存储查询结果，称为internal temporary table；该过程由Mysql自动完成，用户无法手工干预；
这些表或使用memory引擎存于内存，或使用MyISAM引擎存于磁盘；
当某些SQL命令在MySQL数据库中被执行的时候，它可能需要先创建一些内部的临时表来完成比较复杂的排序或分组查询。MySQL的临时表分为 in-memory 和 on-disk 两种。如有可能，MySQL 总是首先使用 in-memory 的临时表，而当临时表变得太大的时候，也可能被转存为on-disk 的临时表。

3.2内部临时表创建的源代码展示

MySQL源码如下所示

五、内部临时表优化以及建议

关于MySQL内部临时表（internal temporary table）的优化：

(1) 尽可能考虑如何避免SQL命令创建临时表

对于一个查询连接非常繁忙的数据库，频繁地使用需要创建临时表的查询本身就已经是一个性能瓶颈。需要重新检视您的数据表的结构以及各表之间的关联，重新考虑主键和索引，重组数据结构以减少应用中需不同的ORDER BY和GROUP BY的情况。

拆分为较少关联层次的多次查询，或使用View表。

因为目前线上发生的环境已经使用了view表，建议view表创建时候，根据业务需求，再创建，以减少 tmp消耗

(2)尽量设法确保临时表被创建于内存而非磁盘之中

如果实在是无法避免创建临时表，那么退而求其次，则需要尽量确保这些临时表能够被创建在内存之中。避免在结构设计和查询命令中使用BLOB和TEXT类型字段，或可考虑用 SUBSTRRING(colum,length)函数将其转换为字符串类型；用SQLSMALLRESULT选项通知数据库使用in-memory临时表；使用View来简化查询；使用RAM disk内存盘来存储MySQL 数据库的临时表（需确保无使用BLOB和TEXT字段）。

(3)如何避免 On-Disk Temporary Tables
下面是官方说明：

 The best solution is to avoid using the BLOB and TEXT types unless you really need them.
  If you can't avoid them, you may be able to use the ORDER BY SUBSTRRING(colum,length) trick to convert the values to character strings. wihich will permit in-memory temporary tables. 
  Just be sure that you are using a short engough substring that the temporary table doesn't grow larger than max_heap_table_size or tmp_table_size, or MySQL will convert the table to an on-disk MyISAM table. 
  If the Extra column of EXPLAIN contains "Using temporary",the query uses an implicit temporary table. 
  --------------下面是中文翻译
  最好的解决方案是避免使用BLOB和文本类型,除非你真的需要他们。如果无法避免它们,您可以使用ORDER BY SUBSTRRING(colum,length)将值转换为字符串。将允许使用内存临时表。
  只是确保你使用的是短engough临时表的子串，不用增长到超过max_heap_table_size tmp_table_size的大小，否则会创建一个磁盘MyISAM表
  如果解释的额外的列包含“使用临时”,查询使用隐式临时表。

六、BLOB和TEXT导致的内部磁盘临时表说明

1、因为 Memory 存储引擎不支持 BLOB和TEXT 类型，所以包含有 BLOB和TEXT 类型字段的查询，当它需要用到隐式临时表的时候，就不得不使用 on-disk的MyISAM临时表，即使它的查询结果可能只有很简单的几行数据。

这会导致一个严重的性能瓶颈，即使您能配置将MySQL的临时表存储到RAM disk上,依然还是会需要用到许多昂贵的操作系统的调用函数。在实用中还发现，某些SQL语句的临时表甚至根本连RAM disk都不能使用（此时SQL查询命令会因为不能创建临时表而失败）。

2、BLOB和TEXT这两个数据类型。这两个数据类型都用来存储大容量的数据。前者是采用二进制的形式来保存，而后者是采用字符形式来保存。

这两个数据类型与其他数据类型有本质的不同。在MYSQL数据库中，是将这两个数据类型当做有实体的对象来处理。存储引擎也会采用特别的方式来保存他们。BLOB数据类型是采用二进制的方式来存储数据。而采用二进制来存储数据时，系统没有字符集的要求，也不会设置排序规则。相反，TEXT采用字符形式来存储数据，为此有字符集和排序规则的限制。

3、因为这两种数据类型的容量比较大，为此对对这些类型的字段进行操作时，临时表就会一下子变得很大。

此时就很容易超过上面两个参数的限制。系统就会将内存临时表转换为磁盘临时表。为此这两种数据类型会增加产生磁盘临时表的几率。

4、不同的存储类型对于数据类型的支持力度是不同的。

如果某种存储类型不支持某些数据类型，那么系统就会直接采用磁盘临时表，即使数据没有超过其规定的大小。

简单的说，就是对于存储引擎，如果其不支持某些数据类型，那么对这些数据类型进行操作时，系统只能够使用磁盘临时表，而不能够使用磁盘临时表。如对于Memory存储引擎来说，其不支持BLOB和TEXT数据类型。在系统运行中，如果使用了BLOB和TEXT列，并且需要隐式临时表时，查询将不会使用内存临时表，而直接采用磁盘临时表。即使两个数据类型中的列存储的数据不多，也是如此。显然这会大大的降低数据库的性能。

七、小结

【小结】

1、如果事物超过tmptablesize 会使用磁盘临时表，没操作则用内存临时表。
2、如果使用了BLOB和TEXT列，“并且需要隐式临时表时”，直接用磁盘临时表，不会用到内存。即使没有超过maxheaptable_size的限制<他们的类型决定的>，（varchar,char 都会用内存临时表）。
3、用explain查看，其实你可以在每次执行前用 explain 分析下，要是让你使用临时表会在extra里面现实出来的。

文章名称：记一次生产MySQL服务器根目录满了的异常情况--DB临时表使用异常
当前地址：http://cqcxhl.com/article/gccphg.html