Redis®*: 向量搜索与RAG

使用Redis进行语义搜索、推荐和检索增强生成(RAG)

👋 欢迎来到 Stackhero 文档!

Stackhero 提供即开即用的 Redis cloud 解决方案,带来多项优势,包括:

  • 集成 Redis Commander 网页界面
  • 无限制的消息大小与传输。
  • 只需一键即可轻松完成更新
  • 依托专属私有基础设施,实现卓越性能与强大安全性

节省时间简化您的工作流程:只需 5 分钟即可体验 Stackhero 的 Redis cloud hosting 方案!

如果您正在构建语义搜索、推荐引擎或检索增强生成(RAG)流程,您需要一种可靠的方式来存储embedding,并能快速找到与查询最接近的匹配项。您在Stackhero上的Redis实例原生支持这一功能:查询引擎会对向量建立索引,并能在毫秒级别响应相似度搜索。无需为Redis单独添加向量数据库:所有功能都集中在同一个平台上。

这种方案之所以高效且易用,主要得益于两项关键特性:

  • 混合查询。 您可以在一次请求中,将向量相似度搜索与常规过滤条件(如数值区间、标签或全文检索)结合。例如:“找出与该问题最接近的5个片段,但仅限于该用户有权限阅读、且发布时间在一月之后的文档”,这一需求可以通过单次查询完成,无需多次调用。
  • 架构简化。 embedding、缓存和会话数据共存,统一使用凭证、备份和监控。这大大降低了系统复杂度和运维负担。

请在 Stackhero 控制台 的服务配置 Modules 部分启用 Search 模块(如需以JSON格式存储文档,也请启用 JSON 模块)。详细操作步骤请参考 Search与JSON指南

声明向量字段时,需要指定其维度和距离度量方式。维度需与您的embedding模型一致:例如,OpenAI text-embedding-3-small为1536维,许多开源模型为768维等。

FT.CREATE chunksIndex
  ON HASH
  PREFIX 1 chunk:
  SCHEMA
    content TEXT
    documentId TAG
    publishedAt NUMERIC
    embedding VECTOR HNSW 6
      TYPE FLOAT32
      DIM 1536
      DISTANCE_METRIC COSINE

HNSW 会创建一个图索引,随着数据量增长依然能保持查询高效,适合几千条以上的向量集合。对于小型集合且对精确结果有较高要求时,可以使用 FLAT 进行暴力搜索。

COSINE 是大多数文本embedding模型推荐的距离度量方式。如有特殊需求,也可选择 L2IP

K近邻(KNN)查询示例如下。向量以原始little-endian float32字节形式传递:

FT.SEARCH chunksIndex "*=>[KNN 5 @embedding $queryVector AS score]"
  PARAMS 2 queryVector "<rawBytes>"
  SORTBY score
  RETURN 2 content score
  DIALECT 2

如需结合相似度搜索与过滤条件,只需将 * 替换为过滤表达式:

FT.SEARCH chunksIndex "(@documentId:{doc42} @publishedAt:[1735689600 +inf])=>[KNN 5 @embedding $queryVector AS score]"
  PARAMS 2 queryVector "<rawBytes>"
  SORTBY score
  DIALECT 2

向量查询必须指定 DIALECT 2。如果省略此参数,查询将采用旧语法并返回错误。

import { createClient, SCHEMA_FIELD_TYPE, SCHEMA_VECTOR_FIELD_ALGORITHM } from 'redis';

const client = createClient({ url: process.env.STACKHERO_REDIS_URL_TLS });
await client.connect();

const DIMENSIONS = 1536;
const toBytes = embedding => Buffer.from(new Float32Array(embedding).buffer);

// 1. 启动时仅需创建一次索引
try {
  await client.ft.create(
    'chunksIndex',
    {
      content: SCHEMA_FIELD_TYPE.TEXT,
      documentId: SCHEMA_FIELD_TYPE.TAG,
      embedding: {
        type: SCHEMA_FIELD_TYPE.VECTOR,
        ALGORITHM: SCHEMA_VECTOR_FIELD_ALGORITHM.HNSW,
        TYPE: 'FLOAT32',
        DIM: DIMENSIONS,
        DISTANCE_METRIC: 'COSINE'
      }
    },
    { ON: 'HASH', PREFIX: 'chunk:' }
  );
}
catch (error) {
  if (!error.message.includes('Index already exists')) {
    throw error;
  }
}

// 2. 索引您的片段(embedding由模型提供方生成)
async function indexChunk({ id, documentId, content, embedding }) {
  await client.hSet(`chunk:${id}`, {
    content,
    documentId,
    embedding: toBytes(embedding)
  });
}

// 3. 检索与问题最接近、且限定在某一文档内的片段
async function retrieve({ questionEmbedding, documentId, count = 5 }) {
  const results = await client.ft.search(
    'chunksIndex',
    `(@documentId:{${documentId}})=>[KNN ${count} @embedding $queryVector AS score]`,
    {
      PARAMS: { queryVector: toBytes(questionEmbedding) },
      SORTBY: 'score',
      RETURN: [ 'content', 'score' ],
      DIALECT: 2
    }
  );

  return results.documents.map(({ value }) => value.content);
}

// 4. 将检索结果作为上下文传递给模型
const context = await retrieve({ questionEmbedding, documentId: 'doc42' });
const prompt = `Answer using only this context:\n\n${context.join('\n\n')}\n\nQuestion: ${question}`;
import os
import numpy as np
import redis
from redis.commands.search.field import TextField, TagField, VectorField
from redis.commands.search.index_definition import IndexDefinition, IndexType
from redis.commands.search.query import Query

DIMENSIONS = 1536

r = redis.from_url(os.environ['STACKHERO_REDIS_URL_TLS'])

# 启动时仅需创建一次索引
try:
    r.ft('chunksIndex').create_index(
        (
            TextField('content'),
            TagField('documentId'),
            VectorField(
                'embedding',
                'HNSW',
                {'TYPE': 'FLOAT32', 'DIM': DIMENSIONS, 'DISTANCE_METRIC': 'COSINE'},
            ),
        ),
        definition=IndexDefinition(prefix=['chunk:'], index_type=IndexType.HASH),
    )
except redis.ResponseError as error:
    if 'Index already exists' not in str(error):
        raise


def index_chunk(chunk_id, document_id, content, embedding):
    r.hset(
        f'chunk:{chunk_id}',
        mapping={
            'content': content,
            'documentId': document_id,
            'embedding': np.array(embedding, dtype=np.float32).tobytes(),
        },
    )


def retrieve(question_embedding, document_id, count=5):
    query = (
        Query(f'(@documentId:{{{document_id}}})=>[KNN {count} @embedding $queryVector AS score]')
        .sort_by('score')
        .return_fields('content', 'score')
        .dialect(2)
    )
    results = r.ft('chunksIndex').search(
        query,
        query_params={'queryVector': np.array(question_embedding, dtype=np.float32).tobytes()},
    )
    return [document.content for document in results.docs]

向量数据存储于内存中。您可以用以下公式估算内存需求:

numberOfVectors x dimensions x 4 bytes,再加上HNSW图结构大约30–50%的额外空间。

例如,一百万条1536维的向量,原始数据约占6GB。对于这种规模,建议选择20GB的套餐作为起步。您可以通过以下方式进一步降低内存占用:

  • 使用更小的模型。 例如,768维模型的内存消耗仅为1536维模型的一半。
  • 如模型支持,存储为 FLOAT16 而非 FLOAT32,可再次将空间减半。

您可通过 FT.INFO chunksIndexPrometheus监控中的 used_memory 指标,实时监控实际使用情况。如需扩容,可直接在控制台升级套餐,操作便捷。

  • 向量索引仅适用于数据库0,与Redis所有搜索索引一致。
  • 向量集合(Vector sets)提供了无需配置的简化方案。 Redis内置了 VADDVSIM 命令,您无需启用任何模块即可立即进行相似度搜索。对于单集合的简单推荐场景非常方便。如果需要过滤、分页或多字段,建议使用查询引擎。
  • 对已有键构建索引会在后台进行。 您可通过 FT.INFO 查看进度。在索引完成前,搜索会返回部分结果。

如需了解更多Redis向量搜索相关内容,请参阅 官方Redis向量搜索文档