使用 DM binary 部署 DM 集群

本文将介绍如何使用 DM binary 快速部署 DM 集群。

注意:

对于生产环境,推荐使用 TiUP 部署 DM 集群及相关监控组件

下载 DM 安装包

DM 安装包位于 TiDB 离线工具包中。下载方式,请参考 TiDB 工具下载

使用样例

假设在五台服务器上部署两个 DM-worker 实例和三个 DM-master 实例。各个节点的信息如下:

实例 服务器地址 端口
DM-master1 192.168.0.4 8261
DM-master2 192.168.0.5 8261
DM-master3 192.168.0.6 8261
DM-worker1 192.168.0.7 8262
DM-worker2 192.168.0.8 8262

下面以此为例,说明如何部署 DM。

注意:

  • 在单机部署多个 DM-master 或 DM-worker 时,需要确保每个实例的端口以及运行命令的当前目录各不相同。

  • 如果不需要确保 DM 集群高可用,则可只部署 1 个 DM-master 节点,且部署的 DM-worker 节点数量不少于上游待迁移的 MySQL/MariaDB 实例数。

  • 如果需要确保 DM 集群高可用,则推荐部署 3 个 DM-master 节点,且部署的 DM-worker 节点数量大于上游待迁移的 MySQL/MariaDB 实例数(如 DM-worker 节点数量比上游实例数多 2 个)。

  • 需要确保以下组件间端口可正常连通:

    • 各 DM-master 节点间的 8291 端口可互相连通。

    • 各 DM-master 节点可连通所有 DM-worker 节点的 8262 端口。

    • 各 DM-worker 节点可连通所有 DM-master 节点的 8261 端口。

部署 DM-master

DM-master 提供命令行参数配置文件两种配置方式。

使用命令行参数部署 DM-master

DM-master 的命令行参数说明:

  1. ./dm-master --help
  1. Usage of dm-master:
  2. -L string
  3. log level: debug, info, warn, error, fatal (default "info")
  4. -V prints version and exit
  5. -advertise-addr string
  6. advertise address for client traffic (default "${master-addr}")
  7. -advertise-peer-urls string
  8. advertise URLs for peer traffic (default "${peer-urls}")
  9. -config string
  10. path to config file
  11. -data-dir string
  12. path to the data directory (default "default.${name}")
  13. -initial-cluster string
  14. initial cluster configuration for bootstrapping, e.g. dm-master=http://127.0.0.1:8291
  15. -join string
  16. join to an existing cluster (usage: cluster's "${master-addr}" list, e.g. "127.0.0.1:8261,127.0.0.1:18261"
  17. -log-file string
  18. log file path
  19. -master-addr string
  20. master API server and status addr
  21. -name string
  22. human-readable name for this DM-master member
  23. -peer-urls string
  24. URLs for peer traffic (default "http://127.0.0.1:8291")
  25. -print-sample-config
  26. print sample config file of dm-worker

注意:

某些情况下,无法使用命令行参数来配置 DM-master,因为有的配置并未暴露给命令行。

使用配置文件部署 DM-master

推荐使用配置文件,把以下配置文件内容写入到 conf/dm-master1.toml 中。

DM-master 的配置文件:

  1. # Master Configuration.
  2. name = "master1"
  3. # 日志配置
  4. log-level = "info"
  5. log-file = "dm-master.log"
  6. # DM-master 监听地址
  7. master-addr = "192.168.0.4:8261"
  8. # DM-master 节点的对等 URL
  9. peer-urls = "192.168.0.4:8291"
  10. # 初始集群中所有 DM-master 的 advertise-peer-urls 的值
  11. initial-cluster = "master1=http://192.168.0.4:8291,master2=http://192.168.0.5:8291,master3=http://192.168.0.6:8291"

在终端中使用下面的命令运行 DM-master:

注意:

执行该命令后控制台不会输出日志,可以通过 tail -f dm-master.log 查看运行日志。

  1. ./dm-master -config conf/dm-master1.toml

对于 DM-master2 和 DM-master3,修改配置文件中的 namemaster2master3,并将 peer-urls 的值改为 192.168.0.5:8291192.168.0.6:8291 即可。

部署 DM-worker

DM-worker 提供命令行参数配置文件两种配置方式。

使用命令行参数部署 DM-worker

查看 DM-worker 的命令行参数说明:

  1. ./dm-worker --help
  1. Usage of worker:
  2. -L string
  3. log level: debug, info, warn, error, fatal (default "info")
  4. -V prints version and exit
  5. -advertise-addr string
  6. advertise address for client traffic (default "${worker-addr}")
  7. -config string
  8. path to config file
  9. -join string
  10. join to an existing cluster (usage: dm-master cluster's "${master-addr}")
  11. -keepalive-ttl int
  12. dm-worker's TTL for keepalive with etcd (in seconds) (default 10)
  13. -log-file string
  14. log file path
  15. -name string
  16. human-readable name for DM-worker member
  17. -print-sample-config
  18. print sample config file of dm-worker
  19. -worker-addr string
  20. listen address for client traffic

注意:

某些情况下,无法使用命令行参数的方法来配置 DM-worker,因为有的配置并未暴露给命令行。

使用配置文件部署 DM-worker

推荐使用配置文件来配置 DM-worker,把以下配置文件内容写入到 conf/dm-worker1.toml 中。

DM-worker 的配置文件:

  1. # Worker Configuration.
  2. name = "worker1"
  3. # 日志配置
  4. log-level = "info"
  5. log-file = "dm-worker.log"
  6. # DM-worker 的地址
  7. worker-addr = ":8262"
  8. # 对应集群中 DM-master 配置中的 master-addr
  9. join = "192.168.0.4:8261,192.168.0.5:8261,192.168.0.6:8261"

在终端中使用下面的命令运行 DM-worker:

  1. ./dm-worker -config conf/dm-worker1.toml

对于 DM-worker2,修改配置文件中的 nameworker2 即可。

这样,DM 集群就部署成功了。