Qdrant向量搜索

用于RAG和语义搜索的高性能向量相似性搜索引擎。当构建需要快速近邻搜索、带过滤的混合搜索或具有Rust驱动性能的可扩展向量存储的生产级RAG系统时使用。

技能元数据


来源	可选 — 通过 `hermes skills install official/mlops/qdrant` 安装
路径	`optional-skills/mlops/qdrant`
版本	`1.0.0`
作者	Orchestra Research
许可证	MIT
依赖	`qdrant-client>=1.12.0`
平台	linux, macos, windows
标签	`RAG`, `向量搜索`, `Qdrant`, `语义搜索`, `嵌入`, `相似性搜索`, `HNSW`, `生产`, `分布式`

信息

以下内容是当该技能触发时，Hermes 加载的完整技能定义。这是技能激活时智能体所看到的指令。

Qdrant - 向量相似度搜索引擎

用 Rust 编写的高性能向量数据库，适用于生产环境下的 RAG 和语义搜索。

何时使用 Qdrant

在以下情况下使用 Qdrant：

构建需要低延迟的生产级 RAG 系统
需要混合搜索（向量 + 元数据过滤）
需要通过分片/复制实现水平扩展
希望在本地部署并拥有完全的数据控制权
需要每条记录存储多个向量（稠密向量 + 稀疏向量）
构建实时推荐系统

主要特点：

Rust 驱动：内存安全，高性能
丰富的过滤：在搜索过程中可以按任意负载字段进行过滤
多向量：每个点支持稠密、稀疏、多稠密向量
量化：标量、乘积、二进制量化，提升内存效率
分布式：Raft 共识、分片、复制
REST + gRPC：两个 API 接口功能完全对等

建议使用替代方案：

Chroma：设置更简单，适用于嵌入式场景
FAISS：追求极致原始速度，用于研究/批处理
Pinecone：全托管服务，首选零运维
Weaviate：偏好 GraphQL，内置向量化器

快速开始

安装

# Python 客户端
pip install qdrant-client

# Docker（推荐用于开发）
docker run -p 6333:6333 -p 6334:6334 qdrant/qdrant

# 使用持久化存储的 Docker
docker run -p 6333:6333 -p 6334:6334 \
    -v $(pwd)/qdrant_storage:/qdrant/storage \
    qdrant/qdrant

基本用法

from qdrant_client import QdrantClient
from qdrant_client.models import Distance, VectorParams, PointStruct

# 连接到 Qdrant
client = QdrantClient(host="localhost", port=6333)

# 创建集合
client.create_collection(
    collection_name="documents",
    vectors_config=VectorParams(size=384, distance=Distance.COSINE)
)

# 插入带有负载的向量
client.upsert(
    collection_name="documents",
    points=[
        PointStruct(
            id=1,
            vector=[0.1, 0.2, ...],  # 384 维向量
            payload={"title": "文档 1", "category": "tech"}
        ),
        PointStruct(
            id=2,
            vector=[0.3, 0.4, ...],
            payload={"title": "文档 2", "category": "science"}
        )
    ]
)

# 带过滤的搜索
results = client.search(
    collection_name="documents",
    query_vector=[0.15, 0.25, ...],
    query_filter={
        "must": [{"key": "category", "match": {"value": "tech"}}]
    },
    limit=10
)

for point in results:
    print(f"ID: {point.id}, 得分: {point.score}, 负载: {point.payload}")

核心概念

点 - 基本数据单元

from qdrant_client.models import PointStruct

# 点 = ID + 向量(们) + 负载
point = PointStruct(
    id=123,                              # 整数或 UUID 字符串
    vector=[0.1, 0.2, 0.3, ...],        # 稠密向量
    payload={                            # 任意 JSON 元数据
        "title": "文档标题",
        "category": "tech",
        "timestamp": 1699900000,
        "tags": ["python", "ml"]
    }
)

# 批量更新/插入（推荐）
client.upsert(
    collection_name="documents",
    points=[point1, point2, point3],
    wait=True  # 等待索引完成
)

集合 - 向量容器

from qdrant_client.models import VectorParams, Distance, HnswConfigDiff

# 使用 HNSW 配置创建
client.create_collection(
    collection_name="documents",
    vectors_config=VectorParams(
        size=384,                        # 向量维度
        distance=Distance.COSINE         # COSINE, EUCLID, DOT, MANHATTAN
    ),
    hnsw_config=HnswConfigDiff(
        m=16,                            # 每个节点的连接数（默认 16）
        ef_construct=100,                # 构建时的精度（默认 100）
        full_scan_threshold=10000        # 低于此阈值则切换为暴力搜索
    ),
    on_disk_payload=True                 # 将负载存储在磁盘上
)

# 集合信息
info = client.get_collection("documents")
print(f"点数: {info.points_count}, 向量数: {info.vectors_count}")

距离度量

指标	用途	范围
`COSINE`	文本嵌入，归一化向量	0 到 2
`EUCLID`	空间数据，图像特征	0 到 ∞
`DOT`	推荐系统，未归一化向量	-∞ 到 ∞
`MANHATTAN`	稀疏特征，离散数据	0 到 ∞

搜索操作

基本搜索

# 简单最近邻搜索
results = client.search(
    collection_name="documents",
    query_vector=[0.1, 0.2, ...],
    limit=10,
    with_payload=True,
    with_vectors=False  # 不返回向量（更快）
)

过滤搜索

from qdrant_client.models import Filter, FieldCondition, MatchValue, Range

# 复杂过滤
results = client.search(
    collection_name="documents",
    query_vector=query_embedding,
    query_filter=Filter(
        must=[
            FieldCondition(key="category", match=MatchValue(value="tech")),
            FieldCondition(key="timestamp", range=Range(gte=1699000000))
        ],
        must_not=[
            FieldCondition(key="status", match=MatchValue(value="archived"))
        ]
    ),
    limit=10
)

# 简写过滤语法
results = client.search(
    collection_name="documents",
    query_vector=query_embedding,
    query_filter={
        "must": [
            {"key": "category", "match": {"value": "tech"}},
            {"key": "price", "range": {"gte": 10, "lte": 100}}
        ]
    },
    limit=10
)

批量搜索

from qdrant_client.models import SearchRequest

# 一次请求中的多个查询
results = client.search_batch(
    collection_name="documents",
    requests=[
        SearchRequest(vector=[0.1, ...], limit=5),
        SearchRequest(vector=[0.2, ...], limit=5, filter={"must": [...]}),
        SearchRequest(vector=[0.3, ...], limit=10)
    ]
)

RAG 集成

与 sentence-transformers 结合

from sentence_transformers import SentenceTransformer
from qdrant_client import QdrantClient
from qdrant_client.models import VectorParams, Distance, PointStruct

# 初始化
encoder = SentenceTransformer("all-MiniLM-L6-v2")
client = QdrantClient(host="localhost", port=6333)

# 创建集合
client.create_collection(
    collection_name="knowledge_base",
    vectors_config=VectorParams(size=384, distance=Distance.COSINE)
)

# 索引文档
documents = [
    {"id": 1, "text": "Python 是一种编程语言", "source": "wiki"},
    {"id": 2, "text": "机器学习使用算法", "source": "textbook"},
]

points = [
    PointStruct(
        id=doc["id"],
        vector=encoder.encode(doc["text"]).tolist(),
        payload={"text": doc["text"], "source": doc["source"]}
    )
    for doc in documents
]
client.upsert(collection_name="knowledge_base", points=points)

# RAG 检索
def retrieve(query: str, top_k: int = 5) -> list[dict]:
    query_vector = encoder.encode(query).tolist()
    results = client.search(
        collection_name="knowledge_base",
        query_vector=query_vector,
        limit=top_k
    )
    return [{"text": r.payload["text"], "score": r.score} for r in results]

# 在 RAG 管道中使用
context = retrieve("什么是 Python？")
prompt = f"背景信息: {context}\n\n问题: 什么是 Python？"

与 LangChain 结合

from langchain_community.vectorstores import Qdrant
from langchain_community.embeddings import HuggingFaceEmbeddings

embeddings = HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2")
vectorstore = Qdrant.from_documents(documents, embeddings, url="http://localhost:6333", collection_name="docs")
retriever = vectorstore.as_retriever(search_kwargs={"k": 5})

与 LlamaIndex 结合

from llama_index.vector_stores.qdrant import QdrantVectorStore
from llama_index.core import VectorStoreIndex, StorageContext

vector_store = QdrantVectorStore(client=client, collection_name="llama_docs")
storage_context = StorageContext.from_defaults(vector_store=vector_store)
index = VectorStoreIndex.from_documents(documents, storage_context=storage_context)
query_engine = index.as_query_engine()

多向量支持

命名向量（不同嵌入模型）

from qdrant_client.models import VectorParams, Distance

# 包含多种向量类型的集合
client.create_collection(
    collection_name="hybrid_search",
    vectors_config={
        "dense": VectorParams(size=384, distance=Distance.COSINE),
        "sparse": VectorParams(size=30000, distance=Distance.DOT)
    }
)

# 使用命名向量插入
client.upsert(
    collection_name="hybrid_search",
    points=[
        PointStruct(
            id=1,
            vector={
                "dense": dense_embedding,
                "sparse": sparse_embedding
            },
            payload={"text": "文档内容"}
        )
    ]
)

# 搜索特定向量
results = client.search(
    collection_name="hybrid_search",
    query_vector=("dense", query_dense),  # 指定使用哪个向量
    limit=10
)

稀疏向量（BM25, SPLADE）

from qdrant_client.models import SparseVectorParams, SparseIndexParams, SparseVector

# 包含稀疏向量的集合
client.create_collection(
    collection_name="sparse_search",
    vectors_config={},
    sparse_vectors_config={"text": SparseVectorParams(index=SparseIndexParams(on_disk=False))}
)

# 插入稀疏向量
client.upsert(
    collection_name="sparse_search",
    points=[PointStruct(id=1, vector={"text": SparseVector(indices=[1, 5, 100], values=[0.5, 0.8, 0.2])}, payload={"text": "文档"})]
)

量化 (内存优化)

from qdrant_client.models import ScalarQuantization, ScalarQuantizationConfig, ScalarType

# 标量量化 (内存减少4倍)
client.create_collection(
    collection_name="quantized",
    vectors_config=VectorParams(size=384, distance=Distance.COSINE),
    quantization_config=ScalarQuantization(
        scalar=ScalarQuantizationConfig(
            type=ScalarType.INT8,
            quantile=0.99,        # 裁剪异常值
            always_ram=True      # 将量化结果保存在内存中
        )
    )
)

# 使用重排序进行搜索
results = client.search(
    collection_name="quantized",
    query_vector=query,
    search_params={"quantization": {"rescore": True}},  # 对顶级结果进行重排序
    limit=10
)

负载索引

from qdrant_client.models import PayloadSchemaType

# 创建负载索引以加速过滤
client.create_payload_index(
    collection_name="documents",
    field_name="category",
    field_schema=PayloadSchemaType.KEYWORD
)

client.create_payload_index(
    collection_name="documents",
    field_name="timestamp",
    field_schema=PayloadSchemaType.INTEGER
)

# 索引类型: KEYWORD, INTEGER, FLOAT, GEO, TEXT (全文), BOOL

生产部署

Qdrant Cloud

from qdrant_client import QdrantClient

# 连接到 Qdrant Cloud
client = QdrantClient(
    url="https://your-cluster.cloud.qdrant.io",
    api_key="your-api-key"
)

性能调优

# 为搜索速度优化 (更高的召回率)
client.update_collection(
    collection_name="documents",
    hnsw_config=HnswConfigDiff(ef_construct=200, m=32)
)

# 为索引速度优化 (批量加载)
client.update_collection(
    collection_name="documents",
    optimizer_config={"indexing_threshold": 20000}
)

最佳实践

批量操作 - 使用批量 upsert/search 以提高效率
负载索引 - 为用于过滤的字段创建索引
量化 - 对于大型集合 (>1M 向量) 启用
分片 - 用于集合 >10M 向量
磁盘存储 - 对于大型负载启用 on_disk_payload
连接池 - 重用客户端实例

常见问题

带过滤条件的搜索缓慢:

# 为过滤字段创建负载索引
client.create_payload_index(
    collection_name="docs",
    field_name="category",
    field_schema=PayloadSchemaType.KEYWORD
)

内存不足:

# 启用量化和磁盘存储
client.create_collection(
    collection_name="large_collection",
    vectors_config=VectorParams(size=384, distance=Distance.COSINE),
    quantization_config=ScalarQuantization(...),
    on_disk_payload=True
)

连接问题:

# 使用超时和重试
client = QdrantClient(
    host="localhost",
    port=6333,
    timeout=30,
    prefer_grpc=True  # 使用 gRPC 以获得更好性能
)

参考资料

高级用法 - 分布式模式、混合搜索、推荐
故障排除 - 常见问题、调试、性能调优

资源

GitHub: https://github.com/qdrant/qdrant (22k+ stars)
文档: https://qdrant.tech/documentation/
Python 客户端: https://github.com/qdrant/qdrant-client
云服务: https://cloud.qdrant.io
版本: 1.12.0+
许可证: Apache 2.0

技能元数据​

Qdrant - 向量相似度搜索引擎

何时使用 Qdrant​

快速开始​

安装​

基本用法​

核心概念​

点 - 基本数据单元​

集合 - 向量容器​

距离度量​

搜索操作​

基本搜索​

过滤搜索​

批量搜索​

RAG 集成​

与 sentence-transformers 结合​

与 LangChain 结合​

与 LlamaIndex 结合​

多向量支持​

命名向量（不同嵌入模型）​

稀疏向量（BM25, SPLADE）​

量化 (内存优化)​

负载索引​

生产部署​

Qdrant Cloud​

性能调优​

最佳实践​

常见问题​

参考资料​

资源​