十年网站开发经验 + 多家企业客户 + 靠谱的建站团队
量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决
近日 zabbix总是如下报警信息:
根据zabbix报警,立即查询空间,此时根目录空间较大,不至于报警
查看mysql的错误日志,发现该时间点有如下错误信息
根据上图错误提示,是tmp空间增长异常,并且是往里添加表(.myi格式结尾,且提及myisam,故做此判断)
查询数据库,确认是否有目录指向/tmp,根据下面截图得知/tmp目录是mysql临时表所在的目录
/tmp目录16M,最多可以创建32个,这个量完全够普通事物使用,需要具体定位什么情况需要这么大量的临时表,以至于超过该大小,使用到磁盘空间。
不同于手工创建的临时表,在sql执行过程中可能会用到临时文件存储查询结果,称为internal temporary table;该过程由Mysql自动完成,用户无法手工干预;
这些表或使用memory引擎存于内存,或使用MyISAM引擎存于磁盘;
当某些SQL命令在MySQL数据库中被执行的时候,它可能需要先创建一些内部的临时表来完成比较复杂的排序或分组查询。MySQL的临时表分为 in-memory 和 on-disk 两种。 如有可能,MySQL 总是首先使用 in-memory 的临时表, 而当临时表变得太大的时候,也可能被转存为on-disk 的临时表。
MySQL源码如下所示
五、内部临时表优化以及建议关于MySQL内部临时表(internal temporary table)的优化:
对于一个查询连接非常繁忙的数据库,频繁地使用需要创建临时表的查询本身就已经是一个性能瓶颈。需要重新检视您的数据表的结构以及各表之间的关联, 重新考虑主键和索引,重组数据结构以减少应用中需不同的ORDER BY和GROUP BY的情况。
拆分为较少关联层次的多次查询,或使用View表。
因为目前线上发生的环境已经使用了view表,建议view表创建时候,根据业务需求,再创建,以减少 tmp消耗
如果实在是无法避免创建临时表,那么退而求其次,则需要尽量确保这些临时表能够被创建在内存之中。避免在结构设计和查询命令中使用BLOB和TEXT类型字段,或可考虑用 SUBSTRRING(colum,length)函数将其转换为字符串类型;用SQLSMALLRESULT选项通知数据库使用in-memory临时表;使用View来简化查询;使用RAM disk内存盘来存储MySQL 数据库的临时表(需确保无使用BLOB和TEXT字段)。
(3)如何避免 On-Disk Temporary Tables
下面是官方说明:
The best solution is to avoid using the BLOB and TEXT types unless you really need them. If you can't avoid them, you may be able to use the ORDER BY SUBSTRRING(colum,length) trick to convert the values to character strings. wihich will permit in-memory temporary tables. Just be sure that you are using a short engough substring that the temporary table doesn't grow larger than max_heap_table_size or tmp_table_size, or MySQL will convert the table to an on-disk MyISAM table. If the Extra column of EXPLAIN contains "Using temporary",the query uses an implicit temporary table. --------------下面是中文翻译 最好的解决方案是避免使用BLOB和文本类型,除非你真的需要他们。如果无法避免它们,您可以使用ORDER BY SUBSTRRING(colum,length)将值转换为字符串。将允许使用内存临时表。 只是确保你使用的是短engough临时表的子串,不用增长到超过max_heap_table_size tmp_table_size的大小,否则会创建一个磁盘MyISAM表 如果解释的额外的列包含“使用临时”,查询使用隐式临时表。
这会导致一个严重的性能瓶颈,即使您能配置将MySQL的临时表存储到RAM disk上,依然还是会需要用到许多昂贵的操作系统的调用函数。 在实用中还发现,某些SQL语句的临时表甚至根本连RAM disk都不能使用(此时SQL查询命令会因为不能创建临时表而失败)。
这两个数据类型与其他数据类型有本质的不同。在MYSQL数据库中,是将这两个数据类型当做有实体的对象来处理。存储引擎也会采用特别的方式来保存他们。BLOB数据类型是采用二进制的方式来存储数据。而采用二进制来存储数据时,系统没有字符集的要求,也不会设置排序规则。相反,TEXT采用字符形式来存储数据,为此有字符集和排序规则的限制。
此时就很容易超过上面两个参数的限制。系统就会将内存临时表转换为磁盘临时表。为此这两种数据类型会增加产生磁盘临时表的几率。
如果某种存储类型不支持某些数据类型,那么系统就会直接采用磁盘临时表,即使数据没有超过其规定的大小。
简单的说,就是对于存储引擎,如果其不支持某些数据类型,那么对这些数据类型进行操作时,系统只能够使用磁盘临时表,而不能够使用磁盘临时表。如对于Memory存储引擎来说,其不支持BLOB和TEXT数据类型。在系统运行中,如果使用了BLOB和TEXT列,并且需要隐式临时表时,查询将不会使用内存临时表,而直接采用磁盘临时表。即使两个数据类型中的列存储的数据不多,也是如此。显然这会大大的降低数据库的性能。