Valkey: Node.js中的RAG流程

本文件是向量搜索与RAG指南的一部分。您可以在这里查看完整指南：使用Valkey进行语义搜索、推荐和检索增强生成（RAG）。

👋 欢迎来到 Stackhero 文档！

Stackhero 提供即开即用的 Valkey cloud 解决方案，带来多项优势，包括：

内置 Valkey Admin Web 管理界面。

无限制的消息大小与传输。

只需一键即可轻松完成更新。

基于专属私有基础设施，实现卓越性能与强大安全性。

节省时间，简化您的工作流程：只需 5 分钟即可体验 Stackhero 的 Valkey cloud hosting 解决方案！

Valkey采用与Redis相同的协议，因此您可以直接使用任何兼容Redis的客户端。

import { createClient, SCHEMA_FIELD_TYPE, SCHEMA_VECTOR_FIELD_ALGORITHM } from 'redis';

const client = createClient({ url: process.env.STACKHERO_VALKEY_URL_TLS });
await client.connect();

const DIMENSIONS = 1536;
const toBytes = embedding => Buffer.from(new Float32Array(embedding).buffer);

// 1. 启动时仅需创建一次索引
try {
  await client.ft.create(
    'chunksIndex',
    {
      content: SCHEMA_FIELD_TYPE.TEXT,
      documentId: SCHEMA_FIELD_TYPE.TAG,
      embedding: {
        type: SCHEMA_FIELD_TYPE.VECTOR,
        ALGORITHM: SCHEMA_VECTOR_FIELD_ALGORITHM.HNSW,
        TYPE: 'FLOAT32',
        DIM: DIMENSIONS,
        DISTANCE_METRIC: 'COSINE'
      }
    },
    { ON: 'HASH', PREFIX: 'chunk:' }
  );
}
catch (error) {
  if (!error.message.includes('Index already exists')) {
    throw error;
  }
}

// 2. 对片段进行索引（embedding由您的模型提供）
async function indexChunk({ id, documentId, content, embedding }) {
  await client.hSet(`chunk:${id}`, {
    content,
    documentId,
    embedding: toBytes(embedding)
  });
}

// 3. 检索与问题最接近、限定于某文档的片段
async function retrieve({ questionEmbedding, documentId, count = 5 }) {
  const results = await client.ft.search(
    'chunksIndex',
    `@documentId:{${documentId}}=>[KNN ${count} @embedding $queryVector]`,
    { PARAMS: { queryVector: toBytes(questionEmbedding) } }
  );

  return results.documents.map(({ value }) => value.content);
}

// 4. 将检索结果作为上下文传递给模型
const context = await retrieve({ questionEmbedding, documentId: 'doc42' });
const prompt = `Answer using only this context:\n\n${context.join('\n\n')}\n\nQuestion: ${question}`;

Valkey: Node.js中的RAG流程

👋 欢迎来到 Stackhero 文档！

继续阅读本指南

Valkey 的其他文章