云原生数据仓库AnalyticDB：向量检索

精确检索

完全按照相似度距离排序的暴力搜索。此方式需要比较每一个向量，因此它的搜索速度较慢，但是召回率可以达到百分之百。

欧氏距离、内积距离，余弦相似度三种距离相似度的精确检索使用方式如下：

• 欧氏距离

  SELECT ID, l2_distance(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) as score FROM <TABLE_NAME> ORDER BY l2_squared_distance(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) LIMIT <TOPK>;

• 内积距离

  SELECT ID, inner_product_distance(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) as score FROM <TABLE_NAME> ORDER BY negative_inner_product_distance(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) LIMIT <TOPK>;

• 余弦相似度

  SELECT ID, cosine_similarity(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) as score FROM <TABLE_NAME> ORDER BY 
  cosine_distance(<VECTOR_COLUMN_NAME>, array[1,2,3...N]::float4[]) LIMIT <TOPK>;

各字段说明：

• score：在三种检索方式中的score分别表示欧氏距离，内积距离和余弦相似度，并且分别按欧氏距离从小到大排序，按点积距离从大到小排序，按余弦相似度从大到小排序。

• <VECTOR_COLUMN_NAME>：向量列名称。

• <TABLE_NAME>：向量表名称。

• <TOPK>：需要检索的结果集topk。

近似的索引检索

通过使用HNSW索引的方式进行搜索，此方式搜索速度较快，但得到的结果是一个近似的结果，一般召回率都可以达到99%以上。

SELECT id, chunk, intime, url FROM chunks
ORDER BY
    feature <=> array[10,2.0,…, 1536.0]::real[]
LIMIT 100;

QUERY PLAN
-------------------------------------------------
 Limit
   ->  Gather Motion 3:1  (slice1; segments: 3)
         Merge Key: ((feature <=> $0))
          ->  Limit
               ->  Ann Index Scan using feature_idx on chunks
                Order By: (feature <=> $0)
 Optimizer: Postgres query optimizer

SELECT id, chunk, intime, url FROM chunks WHERE
    intime > '2023-04-01' AND intime <= '2023-05-01'
ORDER BY
    feature <=> array[10,2.0,…, 1536.0]::real[]
LIMIT 100;

相关参考

向量检索的SQL优化

通过下文示例介绍向量检索的SQL优化。例如，创建向量表如下，向量索引目前支持一个向量列上创建多个向量索引，可以根据需求创建所需的索引，但一定要保证查询的SQL和索引能匹配上。如<->操作符只能使用采用欧氏距离构建的索引；<#>操作符只能使用采用内积距离构建的索引；<=>操作符只能使用采用余弦相似度构建的索引。

CREATE TABLE test_table (
    id serial primary key,
    feature real[]
) distributed by (id);

CREATE INDEX idx_test_table_feature_l2 ON test_table USING ann(feature) WITH (dim=768, distancemeasure=l2, hnsw_m=64, pq_enable=1);
CREATE INDEX idx_test_table_feature_ip ON test_table USING ann(feature) WITH (dim=768, distancemeasure=ip, hnsw_m=64, pq_enable=1);
CREATE INDEX idx_test_table_feature_cosine ON test_table USING ann(feature) WITH (dim=768, distancemeasure=cosine, hnsw_m=64, pq_enable=1);

• 当不需要返回向量距离的score值时，您可以采用以下SQL进行查询：

  -- 按欧氏距离排序的向量检索。
  SELECT id 
  FROM test_table
  ORDER BY feature <-> array[1,2,3 ... 768]::real[]
  LIMIT topk;
  
  -- 按内积距离排序的向量检索。
  SELECT id
  FROM test_table
  ORDER BY feature <#> array[1,2,3 ... 768]::real[]
  LIMIT topk;
  
  -- 按余弦相似度排序的向量检索。
  SELECT id
  FROM test_table
  ORDER BY feature <=> array[1,2,3 ... 768]::real[]
  LIMIT topk;

• 当需要返回向量距离的score值时，您可以利用向量索引返回的排序值进行二次计算得到真实的向量距离score，而避免做完整的向量距离计算，以减少计算耗时。具体SQL如下：

  -- 按欧氏距离排序的向量检索。
  SELECT t.id as id, sqrt(t.score) as score 
  FROM 
    (SELECT id，feature <-> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t;
  
  -- 按内积距离排序的向量检索。
  SELECT t.id as id, (-1 * t.score) as score
  FROM
    (SELECT id, feature <#> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t;
  
  -- 按余弦相似度排序的向量检索。
  SELECT t.id as id, (1.0 - t.score) as score
  FROM 
    (SELECT id, feature <=> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t;

• 当需要根据score的范围进行过滤并返回结果时，您可以使用下面的SQL来实现，该SQL利用了向量索引的排序值进行计算得到最终的score，节省了大量的计算耗时，具体示例如下：

  -- 按欧氏距离排序的向量检索。
  SELECT t.id as id, sqrt(t.score) as score 
  FROM 
    (SELECT id，feature <-> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t
  WHERE score < 100;
  
  -- 按内积距离排序的向量检索。
  SELECT t.id as id, (-1 * t.score) as score
  FROM
    (SELECT id, feature <#> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t
  WHERE score > 10;
  
  -- 按余弦相似度排序的向量检索。
  SELECT t.id as id, (1.0 - t.score) as score
  FROM 
    (SELECT id, feature <=> array[1,2,3 ... 768]::real[] as score
     FROM test_table
     ORDER BY score LIMIT topk) t
  WHERE score > 0.5;

向量检索相关的内核参数

上述内核参数可以在会话级别设置生效。