For the complete documentation index, see llms.txt. This page is also available as Markdown.

Milvus

面向 AI 应用、最具可扩展性的开源向量数据库——可扩展至数十亿个向量

Milvus 是一款专为可扩展相似度搜索和 AI 应用而打造的开源向量数据库。它最初由 Zilliz 创建,后捐赠给 LF AI & Data Foundation,Milvus 为包括 NVIDIA、AT&T、IBM 和 Salesforce 在内的公司提供生产级 AI 工作负载支持。当你需要扩展到数十亿个向量时,它是不二之选。

GitHub: milvus-io/milvus — 32K+ ⭐


Milvus vs Qdrant——何时选择谁

标准
Milvus
Qdrant

规模

数十亿个向量

数亿个

架构

分布式(多个服务)

单一二进制文件

设置复杂度

更高

将

GPU 索引支持

✅ 原生 GPU FAISS

有限

多租户

✅ 分区 + 别名

基于集合

流式摄取

✅ Kafka/Pulsar

有限

混合搜索

✅ 稠密 + 稀疏

✅

云托管选项

Zilliz Cloud

Qdrant Cloud


Milvus 架构

单机模式下的 Milvus(单服务器)包含:

  • milvus — 主服务(代理、查询、数据、索引协调器)

  • etcd — 元数据存储和服务发现

  • MinIO — 用于段数据的对象存储

在分布式模式(集群)下,每个组件都可独立扩展。


前提条件

  • 带 GPU 租赁的 Clore.ai 账户

  • Docker Compose(通常已预装)

  • 基础 Python 知识

  • 16GB+ 内存(生产环境建议 32GB)


第 1 步——在 Clore.ai 上租用 GPU 服务器

  1. 前往 clore.ai → 市场

  2. 推荐 GPU: RTX 4090 或 A100,用于 GPU 加速索引

  3. CPU 替代方案: 任何带有 32GB+ 内存的服务器,用于基于 CPU 的索引

最低要求:

  • CPU:8 核

  • 内存:16GB(建议 32GB)

  • 磁盘:50GB SSD/NVMe

  • GPU:可选(仅 GPU 索引类型需要)

Milvus 中的 GPU 索引类型 (IVF_FLAT_GPU、IVFSQ8_GPU)需要支持 CUDA 的 GPU,并能显著加速大集合的索引构建。如果你计划频繁索引 1000 万+ 向量,GPU 索引很快就能回本。


第 2 步——部署 Milvus 单机版

Docker 镜像:

Milvus 单机版需要 etcd 和 MinIO。使用 Docker Compose 是最简单的设置方式。

端口:

  • 端口 19530: Milvus SDK/gRPC 端口(主端口)

  • 端口 9091: Milvus REST API 和健康检查(内部)

环境变量:


第 3 步——使用 Docker Compose 配置

通过 SSH 登录到你的 Clore.ai 服务器并创建 compose 文件:

自定义 docker-compose.yml

启动 Milvus


第 4 步——安装 Python 客户端


第 5 步——创建集合

在 Milvus 中, 集合 类似于数据库表。它具有带类型字段的模式,包括向量字段。


第 6 步——创建索引

在加载数据进行搜索之前,先创建合适的索引:


第 7 步——插入数据


第 8 步——搜索与查询

基础语义搜索

过滤搜索

混合搜索(稠密 + 稀疏)


第 9 步——构建 RAG 服务


第10步 — 监控和管理


故障排查

服务未启动

19530 端口连接被拒绝

大集合索引构建超时

内存使用过高


索引类型选择指南

索引类型
最适合
内存
速度
需要 GPU

FLAT

小型(<100万),精确搜索

高

慢

否

IVF_FLAT

中型(100万–1000万)

中等

好

否

HNSW

低延迟,<1亿

高

优秀

否

IVF_SQ8

压缩型,大规模

低

好

否

GPU_IVF_FLAT

快速批量查询

GPU+内存

最佳

是

DISKANN

十亿级规模

低(磁盘)

好

否


性能基准

集合大小
索引
GPU
QPS

100万向量

HNSW

RTX 3090

~8,000

1000万向量

IVF_FLAT

RTX 4090

~2,500

1000万向量

GPU_IVF_FLAT

A100

~12,000

1亿向量

DISKANN

A100

~1,200


更多资源


Clore.ai 上的 Milvus 是 AI 应用的理想解决方案,尤其适用于需要扩展到数亿以上向量的场景。结合 GPU 加速的嵌入生成,您可以以远低于托管云服务的成本构建世界级的语义搜索和 RAG 系统。


Clore.ai GPU 推荐

使用场景
推荐 GPU
Clore.ai 预计成本

开发/测试

RTX 3090(24GB)

$0.07–0.21/gpu/hr

生产级向量搜索

RTX 3090(24GB)

$0.07–0.21/gpu/hr

高吞吐量嵌入

RTX 4090(24GB)

$0.14–0.42/gpu/hr

💡 本指南中的所有示例都可以部署在 Clore.ai GPU 服务器上。浏览可用 GPU 并按小时租用——无需承诺,拥有完整 root 访问权限。

最后更新于

这有帮助吗?