Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

ADK Qdrant官方 / ADK编译 2026-07-24 5 分钟 107 次浏览
速览导读 / Summary

Qdrant 团队分享了构建基于 580 万真实商品数据的电商搜索系统的经验。文章核心在于打破传统“检索 + 过滤 + 排序”的割裂架构,提出将过滤内嵌于查询、混合检索(BM25+ 向量)作为首选方案、以及通过内存量化与公式重排序实现高性能排名的策略。实测显示,移除重排序(Rescore)可提升 4.5 倍查询速度,而将个性化权重控制在 0.45 即可在保持召回率的同时显著减少无关推荐。

查询延迟 ~40ms 混合检索与过滤的端到端响应时间
模型选择 MiniLM (384 维) 相比大模型,精度损失仅 2%,但延迟降低 4.5 倍,内存减少 3 倍
个性化权重 0.45 平衡召回率与无关推荐的最佳权重阈值

Key Insights / 核心看点

  • 1 混合检索架构:单次 Query API 请求融合 BM25 精确匹配与 Dense Vector 意图匹配,通过 RRF 算法实现高效排序。
  • 2 过滤内嵌策略:利用 Filterable HNSW 图结构在检索阶段直接应用过滤条件,避免传统“先搜后滤”导致的空结果和性能浪费。
  • 3 小模型优先原则:实测证明,优化 Embedding 输入配方比升级大模型更能解决问题,MiniLM 在精度与延迟间实现了最佳平衡。
  • 4 跳过重排序优化:在 RRF 融合机制下,内存量化 (int8) 的误差可被平滑,移除磁盘重排序 (Rescore) 可将查询延迟降低 4.5 倍以上。
  • 5 个性化权重校准:将用户偏好从检索阶段移至排名阶段,并将权重设定为 0.45,可在保持高召回率的同时显著减少无关推荐。

Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

在构建电商搜索系统时,相关性、过滤、个性化、商品展示和推荐通常被拆分为五个独立服务,最终排名由多方拼凑而成。Qdrant 团队通过搭建 Qdrant Shopping(基于 580 万真实亚马逊时尚商品数据),探索了这些模块如何收敛为单一高效架构。其核心发现是:通过 Query API 实现毫秒级响应,将检索、过滤与排序统一在向量数据库中完成。

核心架构突破:从“五步走”到“一步到位”

1. 混合检索是标配:BM25 与向量的融合

商品查询本质是双重需求:一部分是精确匹配(品牌、型号、SKU),另一部分是意图匹配(如“适合徒步的保暖衣物”)。

  • 策略:同时构建 Dense Vector(基于标题和类别)和 BM25 Sparse Vector(基于标题、品牌、类别)。
  • 融合:在单次 Query API 请求中,利用 Reciprocal Rank Fusion (RRF) 将两个分支的结果融合。
  • 价值:避免了传统架构中先检索后过滤导致的“空结果”问题,也解决了纯向量检索无法匹配精确关键词的痛点。

2. 过滤内嵌于查询:拒绝“先搜后滤”

传统做法是先检索 Top 100 候选再应用过滤,若库存不足或规格不符,页面极易变空。

  • Qdrant 方案:利用 Filterable HNSW 图结构,在检索阶段直接应用过滤条件(如价格区间、库存状态)。
  • 性能提升:仅对匹配的产品进行打分,避免了无效计算。同时,侧边栏的 Facet Counts 直接来源于同一 Payload,确保数据一致性。

3. 模型选择:小模型 + 精准 Embedding > 大模型

团队曾误以为需要更大模型来解决“按品牌而非按衣物排序”的 Bug,实则是输入文本(Embedding Input)设计不当。

  • 关键发现:仅使用标题作为 Embedding 输入会导致品牌词主导向量。加入 Product Category 后,所有模型均表现稳定。
  • 性能对比
    • MiniLM (384 维): 精度@10 为 90.3%,延迟 ~40ms,RAM 仅 1.9GB。
    • 大模型 (1024 维): 精度@10 仅提升 2 个百分点,但延迟飙升至 ~180ms,RAM 占用 6GB。
  • 结论:对于 580 万商品库,大模型带来的精度提升(2%)无法抵消其 4.5 倍的延迟和 3 倍的内存成本。建议优先优化 Embedding 配方,而非盲目升级模型。

4. 内存量化与跳过重排序 (Rescore)

  • 存储策略:向量在 RAM 中存储为 int8,原始 float32 数据保留在磁盘。
  • 去重排序 (Rescore):传统做法会在检索后读取磁盘原始向量进行重排序以消除量化误差。
  • 实测结果:Rescore 最多仅提升 2 点 Recall@10,但将查询时间从 41ms 延长至 334ms(延迟增加 4.5-8 倍)。
  • 结论:由于 RRF 融合机制本身能平滑量化噪声,且重排序涉及昂贵的磁盘 I/O,跳过 Rescore 是更优选择。

5. 个性化:从检索阶段移至排名阶段

  • 早期尝试:将用户偏好向量作为第三分支参与检索,导致搜索“牛仔裤”时返回“法兰绒衬衫”(因用户偏好)。
  • 优化方案:将个性化移至 Ranking 阶段。
    • 机制:文本查询决定“哪些商品合格”,用户偏好仅用于“重新排序”。
    • 权重:经过测试,权重 0.45 是最佳平衡点。相比 0.6 的权重,它在保持高召回率(0.82 vs 0.79)的同时,将 Top 10 中的无关推荐从 1.7 个降至 0.03 个。
  • 冷启动与无意图场景:无历史用户使用纯文本排名;无文本查询(如落地页)则完全由偏好驱动。

6. 商品化即权重组合

利润率、热度、新鲜度、价格、评分和库存等商业信号不应由独立服务处理,而应通过 Formula Query 在融合后进行重排序,直接组合 Payload 字段生成最终分数。

关键技术指标 (Metrics)

指标项 数值/描述 说明
查询延迟 ~40ms 包含混合检索与过滤的端到端时间
精度@10 90.3% (MiniLM) 小模型在 20 万商品子集上的表现
内存占用 1.9GB (int8) 580 万商品全量索引 (MiniLM)
Rescore 延迟 增加 4.5-8 倍 引入磁盘重排序后的性能损耗
个性化权重 0.45 平衡召回率与无关推荐的黄金比例

总结

Qdrant 的电商搜索实践表明,高性能搜索系统的关键不在于堆砌算力,而在于架构的简洁性与数据流的优化。通过 混合检索 解决语义与精确匹配矛盾,利用 内存量化 换取极致速度,并将 个性化商品化 逻辑下沉至排名阶段,开发者可以构建出既快又准的搜索体验。这套方案不仅适用于电商,对任何大规模产品目录的搜索优化都具有极高的参考价值。

What You Embed Matters More Than Which Model. A quality bug looked like a job for a bigger model... The fix turned out to be in the input text.

Qdrant Team

同主题深度资讯

查看更多 →
产品动态 2026-09-15

Topview 发布 Codex 插件工作流:在 ChatGPT 生态内实现 AI 视频生成

Topview 正式宣布其插件工作流集成至 OpenAI 的 Codex 代理系统,支持在本地桌面端或 CLI 中直接调用生成式模型创建 AI 视频。文章详细区分了 ChatGPT 网页版插件目录与 Codex 本地代理的架构差异,明确了安装路径、OAuth 认证流程及 Canvas 画布工作流。该更新旨在解决开发者在 ChatGPT 生态内调用视频生成模型(如 Seedance, Wan 3.0 等)的碎片化问题,强调 Pro 及以上订阅计划对自动化工作流的必要性。

Topview官方 / ADK编译 5 分钟
AI 工具 2026-09-08

Accio Work 2026 安全剃须刀刀片评测指南发布:覆盖敏感肌与硬茬胡须的全场景解决方案

Accio Work 于 2026 年 9 月发布最新评测指南,针对 2026 年湿剃市场的演变,深度解析了 8 款最佳安全剃须刀刀片。指南涵盖从 Astra Superior Platinum 的全能王者到 Feather Hi-Stainless 的极致锋利,特别强调了针对敏感肌肤(如 Derby Extra Super Stainless)和环保需求(如 Personna Lab Blue)的专项解决方案,为不同肤质与胡须类型的用户提供精准选型建议。

Accio Work官方 / ADK编译 3 分钟
AI 工具 2026-09-08

Accio Work 发布厨房研磨工具智能指南:材料选择与性能优化解析

Accio Work 发布了一篇关于研磨钵(Mortar and Pestle)最佳材料选择的深度指南。文章详细对比了花岗岩、大理石、陶瓷、木材及不锈钢等主流材质在研磨性能、耐用性、维护难度及美学风格上的差异。该指南旨在帮助消费者及零售商根据烹饪需求(如香料粉碎、酱汁制作)做出精准决策,体现了 Accio Work 在垂直领域知识库构建与搜索优化方面的技术实力。

Accio Work官方 / ADK编译 3 分钟
AI 工具 2026-09-08

Accio Work 2026 年迷你喷射快艇设计趋势:电动化与模块化重塑水上运动

Accio Work 发布 2026 年迷你喷射快艇设计趋势报告,展示了 9 款重新定义水上运动的新概念。核心亮点包括革命性的充气式电动快艇、热插拔电池系统的通勤者设计、以及专为家庭安全优化的模块化构建方案。这些设计利用先进复合材料与零排放电动动力,解决了传统水上运动便携性差、续航焦虑及安全性不足的问题,为个人娱乐与商业租赁市场提供了全新灵感。

Accio Work官方 / ADK编译 3 分钟