4. 全局Ceph节点宕机处理


在极端情况下,如数据中心断电,造成 Ceph 存储集群全局宕机,可以按照本节所示流程进行 Ceph 集群上电恢复操作。

4.1 手动上电执行步骤

  1. 如为 Ceph 集群上电,monitor server 应最先上电;集群上电前确认使用 Ceph 之前端作业服务已停止。

  2. 使用 IPMI 或于设备前手动进行上电。

  3. 确认 NTP 服务及系统时间已同步,命令如下:

    # ps-ef | grep ntp

    # date

    # ntpq -p

  4. 登入上电之 ceph server 确认 ceph service 已正常运行,命令如下:

    # ps -ef | grep ceph

  5. 登入集群 monitor server 查看状态,OSD 全都 up 集群仍为 noout flag(s) set

    # ceph -s

    # ceph osd tree

  6. 登入 monitor server 解除 stopping w/out rebalancing,命令如下:

    # ceph osd unset noout

    # ceph -w

    使用 ceph-w 可查看集群运作输出,同步完毕后集群 health 应为HEALTH_OK 状态。

4.2 恢复后检查步骤

  1. 确认设备上电状态,以 IPMI 或 于设备前确认电源为开启上电状态。
  2. ping ceph monitor server,检查 monitor server 可以 ping 通。
  3. 系统时间和校时服务器时间同步。
  4. ceph -s 状态为HEALTH_OK
  5. ceph osd tree OSD 状态皆为UP

4.3 恢复使用指令及其说明

  1. ceph -s : 确认 ceph cluster status
  2. ceph -w : 查看集群运作输出
  3. ceph osd tree : 查看ceph cluster上osd排列及状态
  4. start ceph-all : 启动 所有 ceph service
  5. start ceph-osd-all : 启动 所有 osd service
  6. start ceph-mon-all : 启动 所有 mon service
  7. start ceph-osd id={id} : 启动指定 osd id service
  8. start ceph-mon id={hostname} : 启动指定 ceph monitor host
  9. ceph osd set noout : ceph stopping w/out rebalancing
  10. ceph osd unset noout : 解除ceph stopping w/out rebalancing