Curve 坏盘更换

  1. 适用环境:
  2. 版本号: v2.6+
  3. CurveAdm版本：v0.2.0+
  4. 最后更新日期: 2023/09/30
  5. 层面: 数据面
  6. 运维级别: P1
  7. 所属产品: 存储
  8. 需求明细: 节点名称
  9. 验收标准: 新盘对应的metaserver服务重启成功
  10. 参考步骤:
  1. 1. 剔除坏盘：
  2.    在坏盘情况下，对应的metaserver会退出，集群会自动做迁移，使用如下命令查看故障的metaserver的ID（Status为Exited状态的metaserver）
  3.    $ curveadm status -v
  5. 2. 跟SA确认盘是否进行过读写压测，排查坏盘、慢盘等异常。
  7. 3. 检查磁盘磁盘缓存是否关闭
  8.    $ sudo /sbin/hdparm -W /dev/sd{number}  | grep "write-caching"
  9.    确认write-caching=0
  11. 4. 检查磁盘调度策略为noop
  12.    $ cat /sys/block/sd{number}/queue/scheduler
  13.    应该输出[noop] deadline cfq
  15. 5. 手动将新盘挂载到data_dir:
  16.    mount </dev/sd{number}> <data_dir>
  17.    其中data_dir可以通过curveadm status -v查看
  19. 6. 重新拉起当前服务：
  20.    $ curveadm start --id <ID>
  22.    这里的ID为因为坏盘而停止的metaserver服务ID，也就是第1步看到的ID
  24. 7. 再次查看集群当前metaserver状态是否被成功拉起状态（Status为Up状态）：
  25.    $ curveadm status
  27. 8. 查看集群是否健康：
  28.    $ curve fs status cluster
  29.    结果输出有下面字样则集群健康：Cluster health is:  ok
  1. 参考影响:

  • 时间: 无

  • 业务方: 无

  • 用户：无

  1. 参考风险:

  • 数据面: IO可能有短暂时间抖动

  • 管控面: 无

  • 恢复能力: 无需恢复

  1. 参考回滚策略: 无

  2. 需求发起方: CURVE

  3. 接收方:

  4. 评任人: SRE负责人，SA负责人，CURVE负责人

  5. 用户通知责任人: 技术支持

  6. 执行责任人: CURVE/SA

  7. 测试回归责任人: CURVE

  8. 执行审核责任人: SA/CURVE/SRE