在AI系统工程化中，向量数据库需应对亿级规模ANN搜索的高并发、低延迟需求。Milvus作为云原生向量DB，通过存储计算分离、分布式分片与混合索引机制，实现高效扩展与容错。相比单机方案，其Kubernetes部署支持查询节点弹性扩容至数十亿向量，QPS达万级，同时保持毫秒级延迟。
Milvus架构分为接入层（Proxy负载均衡）、协调服务（QueryCoord管理任务）、执行节点（QueryNode分片查询）和存储层（etcd元数据+MinIO/S3持久化）。这种设计确保计算无状态，故障时自动重调度。Milvus支持Compute/Storage分离，在Kubernetes中扩展QueryNode和DataNode，实现水平扩展。“Milvus支持Kubernetes集群中扩展查询节点、写入节点，实现大规模并发检索与数据写入，即便面向数十亿条向量，也能保持低延迟和可靠性。”
核心是分布式分片：Collection通过VChannel分片至多个DataNode，每个Segment（~10M向量）独立索引。查询时，QueryCoord规划路由至相关分片，QueryNode并行执行后聚合Top-K结果。分片数建议sqrt(总向量数)，如1亿向量设100分片，避免热点。为亿级规模，预配置replica=3，确保高可用。
索引策略采用混合HNSW/IVF：HNSW图索引适合高精度场景，M=16（连接数）、efConstruction=200（构建时探索）、ef=128（搜索探索），内存~1.5x数据量，召回率>0.95。IVF_FLAT用于平衡，nlist=sqrt(N)（N为Segment向量数）、nprobe=10，内存更低，适合初筛。hybrid时，先IVF粗搜，后HNSW精排。GPU加速下，索引构建提速10x，配置index_params={"index_type":"HNSW","M":16,"efConstruction":200,"metric_type":"L2"}。
容错查询规划依赖Global Index与Segment隔离：增长段（growing）实时插入不索引，密封段（sealed）异步建索引。QueryNode监控负载，超时>500ms时fallback至Flat精确搜。故障时，DataCoord迁移分片，QueryCoord重规划路径。参数：queryNode.maxScanPerQuery=10000（单分片扫描上限）、rootCoord.minSegmentSizeToEnableIndex=1024（最小索引段）。
落地部署清单：
- Helm安装Milvus cluster：helm repo add milvus https://zilliztech.github.io/milvus-helm/；helm install milvus-cluster milvus/milvus --set cluster.enabled=true --set server.replicas=3。
- Collection Schema：fields=[id(INT64,primary),vector(FLOAT_VECTOR,dim=1536),metadata(JSON)]；分区键user_id。
- 索引：每个Segment建HNSW/IVF混合，load fraction=1（全内存）。
- 查询：search_params={"metric_type":"L2","params":{"nprobe":10,"ef":128}}，filter="status==active"，limit=10，timeout=10s。
- 监控：Prometheus采集milvus_querynode_qps、memory_usage_bytes、index_cache_hit_rate>0.9；告警内存>80%、QPS降<阈值。
- 扩容：kubectl scale deployment/milvus-querynode --replicas=10；回滚：降级索引至IVF_PQ，限流proxy.maxFieldNum=64。
风险控制：内存峰值监控jemalloc碎片<20%，超阈值GC或重启QueryNode。高峰前预热索引。测试：sift1B数据集验证QPS>5000@QPS=0.95。
生产验证显示，10亿向量、HNSW索引、20 QueryNode配置下，平均延迟<50ms，99分位<200ms。优化nprobe=20可升召回0.98，代价QPS降15%。
资料来源：Milvus GitHub (https://github.com/milvus-io/milvus)，官方文档 (https://milvus.io/docs)。