课程内容
我有话说
1/2 Faiss 向量检索库
面向推荐、以图搜图这类需要在海量数据里找最相似那几个的场景,介绍一个高性能开源检索库。文章说明它为何比朴素遍历快得多,支持哪些索引结构、能否借助多核与显卡加速,并演示建库、插入向量、按相似度搜索、指定外部编号映射以及持久化保存的基本用法。适合做大规模相似度匹配的工程读者,读完能为自己的检索系统选对索引并快速上手。
2/2 Product Quantization(PQ)
Product Quantization 是一种有效的近似最近邻搜索方法,具有较高的搜索效率和较低的内存消耗。该方法已被广泛应用于图像检索、文本检索和机器学习等领域。 PQ 将高维数据点分成多个子空间,并对每个子空间使用独立的编码方法,将数据点映射到一个有限的编码集合中。这个编码过程将高维数据转换成低维编码,从而降低了存储和计算的成本。 Paper:Product Quantization for Nearest Neighbor Search (hal.science) 例如,我们有 N 个 1024 维度的数据点: 将每个向量划分成 8 个 128 维的子向量 subvectors,更多的...



