安装支持 GPU 的 Milvus

安装前提

系统要求

操作系统 建议版本
CentOS 7.5 或以上
Ubuntu LTS 18.04 或以上

硬件要求

组件 建议配置
CPU Intel CPU Sandy Bridge 或以上
CPU 指令集
  • SSE42
  • AVX
  • AVX2
  • AVX512
  • GPU NVIDIA Pascal 或以上
    内存 8 GB 或以上 (取决于具体向量数据规模)
    硬盘 SATA 3.0 SSD 或以上

    Milvus Docker 要求

    第一步 确认 Docker 状态

    确认 Docker daemon 正在运行:

    1. $ docker info

    如果无法正常打印 Docker 相关信息,请启动 Docker daemon.

    提示:在 Linux 上,Docker 命令前面需加 sudo。若要在没有 sudo 情况下运行 Docker 命令,请创建 docker 组并添加用户。更多详情,请参阅 Linux 安装后步骤

    第二步 拉取 Milvus 镜像

    拉取支持 GPU 的镜像:

    1. $ docker pull milvusdb/milvus:0.9.0-gpu-d051520-cb92b1

    注意:如果您在拉取镜像时速度过慢或一直失败,请参考操作常见问题中提供的解决办法。

    第三步 下载并修改配置文件

    您可以使用以下方法下载配置文件:

    1. # Create Milvus file
    2. $ mkdir -p /home/$USER/milvus/conf
    3. $ cd /home/$USER/milvus/conf
    4. $ wget https://raw.githubusercontent.com/milvus-io/milvus/v0.9.0/core/conf/demo/server_config.yaml

    注意:万一您遇到无法通过 wget 命令正常下载配置文件的情况,您也可以在 /home/$USER/milvus/conf 路径下创建 server_config.yaml 文件,然后复制粘贴 server config 文件 的内容。

    配置文件下载完成后,您需要将 server_config.yaml 中的 gpu_resource_config 部分的 enable 参数设置为 true

    第四步 启动 Milvus Docker 容器

    1. # Start Milvus
    2. $ docker run -d --name milvus_gpu_0.9.0 --gpus all \
    3. -p 19530:19530 \
    4. -p 19121:19121 \
    5. -p 9091:9091 \
    6. -v /home/$USER/milvus/db:/var/lib/milvus/db \
    7. -v /home/$USER/milvus/conf:/var/lib/milvus/conf \
    8. -v /home/$USER/milvus/logs:/var/lib/milvus/logs \
    9. -v /home/$USER/milvus/wal:/var/lib/milvus/wal \
    10. milvusdb/milvus:0.9.0-gpu-d051520-cb92b1

    上述命令中用到的 docker run 参数定义如下:

    • -d: 运行 container 到后台并打印 container id。
    • --name: 为 container 分配一个名字。
    • --gpus: 指定可用的 GPU。如未填写任何值,则所有 GPU 都可用。
    • -p: 暴露 container 端口到 host。
    • -v: 将路径挂载至 container。

    最后,确认 Milvus 运行状态:

    1. # Confirm Milvus status
    2. $ docker ps

    如果 Milvus 服务没有正常启动,您可以执行以下命令查询错误日志。

    1. # Get id of the container running Milvus
    2. $ docker ps -a
    3. # Check docker logs
    4. $ docker logs <milvus container id>

    接下来您可以