背景

TokuDB在启动的时候,会对datadir目录下的文件(和文件夹)进行遍历,根据规则找到所有的redo log文件,然后进行recover操作。 redo文件的命名规则是:log[index].toku[version],比如log000000000002.tokulog27。

问题

这个bug说起来有点“谜之”,因为它还跟编译器的版本有关。

如果使用gcc 4.8.2编译出一个TokuDB(加-O3编译参数),进行如下操作:

  1. CREATE DATABASE log0002;

然后重启,整个TokuDB就可能凌乱了,出现如下crash信息:

  1. storage/tokudb/ft-index/ft/logger/logfilemgr.cc:159 toku_logfilemgr_init: Assertion 'r==2' failed (errno=2)
  2. Backtrace: (Note: toku_do_assert=0x0xcd50d0)
  3. mysqld(_Z20toku_logfilemgr_initP15toku_logfilemgrPKcPm+0x26c)[0xc40cdc]
  4. mysqld(_Z30toku_logger_open_with_last_xidPKcP10tokuloggerm+0x51)[0xc10ba1]
  5. mysqld(_Z14tokuft_recover)

原因

先来看下TokuDB判断一个文件是否为redo log的代码:

  1. static bool is_a_logfile_any_version (const char *name, uint64_t *number_result, uint32_t *version_of_log) {
  2. bool rval = true;
  3. uint64_t result;
  4. int n;
  5. int r;
  6. uint32_t version;
  7. r = sscanf(name, "log%" SCNu64 ".tokulog%" SCNu32 "%n", &result, &version, &n);
  8. if (r!=2 || name[n]!='\0' || version <= TOKU_LOG_VERSION_1) {
  9. //Version 1 does NOT append 'version' to end of '.tokulog'
  10. version = TOKU_LOG_VERSION_1;
  11. r = sscanf(name, "log%" SCNu64 ".tokulog%n", &result, &n);
  12. if (r!=1 || name[n]!='\0') {
  13. rval = false;
  14. }
  15. }
  16. if (rval) {
  17. *number_result = result;
  18. *version_of_log = version;
  19. }
  20. return rval;
  21. }

这段代码的逻辑很简单,调用sscanf函数获取相关参数, 高能区域为:

  1. r = sscanf(name, "log%" SCNu64 ".tokulog%" SCNu32 "%n", &result, &version, &n);

如果name为log0002,调用完sscanf函数后,n和version的值是不确定的(因为函数内变量未被初始化),就可能导致函数 is_a_logfile_any_version 把log0002文件夹误认为是一个redo log。 当toku_logfilemgr_init函数加载名称“log0002”时做二次校验,获取version值失败从而触发assert。

修复

大体思路是:

  1. 由于redo log不可能是文件夹,所以增加只对文件进行判断的逻辑,遇到文件夹直接跳过;
  2. is_a_logfile_any_version函数内变量进行初始化。

阿里云RDS TokuDB最新版本已经修复此问题,使用TokuDB的用户可以进行下小版本升级,以避免此问题影响业务。