二进制文件解析

Bristol 是一个解析 MySQL Binlog 模块

Github : https://github.com/brokercap/Bristol

特点:

经过了数据校验测试: https://github.com/brokercap/Bristol/tree/master/test

支持了 5.1 - 8.0

提供解析 Binlog 性能测试工具

https://github.com/brokercap/Bristol/tree/master/test/BristolPerformanceTest

使用案例
  1. filename := "mysql-bin.000071"
  2. var position uint32 = 203785789
  3. var DBsource = "root:root123@tcp(127.0.0.1:3306)/test"
  4. reslut := make(chan error, 1)
  5. m := make(map[string]uint8, 0)
  6. m["bifrost_test"] = 1
  7. m["mysql"] = 1
  8. BinlogDump := &mysql.BinlogDump{
  9. DataSource: DBsource,
  10. CallbackFun: callback,
  11. ReplicateDoDb: m,
  12. OnlyEvent: []mysql.EventType{mysql.QUERY_EVENT, mysql.WRITE_ROWS_EVENTv1, mysql.UPDATE_ROWS_EVENTv1, mysql.DELETE_ROWS_EVENTv1,mysql.WRITE_ROWS_EVENTv2, mysql.UPDATE_ROWS_EVENTv2, mysql.DELETE_ROWS_EVENTv2},
  13. }
  14. go BinlogDump.StartDumpBinlog(filename, position, 100,reslut,"",0)
  15. go func() {
  16. for {
  17. v := <-reslut
  18. log.Printf("monitor reslut:%s \r\n", v)
  19. }
  20. }()
  21. for {
  22. time.Sleep(10 * time.Second)
  23. }
DDL 支持说明

当前只支持字段在表结构末尾追加新字段,如果配置的二进制位点是在DDL 之前的位点,会出现数据和字段对应不上

数据类型修改之后,如果配置的二进制位点是在DDL 之前的位点,可能会出现数据出错

存储类型数据转换

从Binlog解析出来的数据,在转成 map[string]interface{} 的数据格式的时候

MySQL里的存储类型对应Golang里的数据类型不一样

括号里的代表是Golang里的数据类型

TINYINT ( int8 | unit8 ) , SMALLINT ( int16 | unit16 ) , MEDIUMINT ( int32 | uint32 ), INT ( int32 | uint32 ) , BIGINT ( int64 | uint64 )

FLOAT ( float32 ) , DOUBLE ( float64 ) ,REAL ( float64 )

DECIMAL , NUMERIC( 返回string类型 )

DATE , TIME , YEAR , DATETIME , TIMESTAMP ( string类型 )

CHAR , VARCHAR ( string )

TEXT , TINYTEXT , MEDIUMINTTEXT , LONGTEXT ( string )

BLOB, TINYBLOB , MEDIUMINTBLOB , LONGBLOB ( string )

ENUM ( string类型 )

SET ( []string )

BIT ( int64类型 )