Valkey: 服务容量规划

本文档属于向量搜索与RAG指南的一部分。您可以在此处查看完整指南:使用Valkey进行语义搜索、推荐和检索增强生成(RAG)

👋 欢迎查阅 Stackhero 文档!

Stackhero 提供即开即用的 Valkey 云端 解决方案,带来多项优势,包括:

  • 集成 Valkey Admin Web 管理界面
  • 无限制的消息大小与传输。
  • 一键完成升级,操作便捷。
  • 基于专属私有基础设施,实现卓越性能与强大安全性

节省时间简化您的工作流程:只需 5 分钟即可体验 Stackhero 的 Valkey 云托管 方案!

向量存储在内存中,因此需要提前规划其内存占用。float32向量的粗略估算公式为:

numberOfVectors x dimensions x 4 bytes,再加上HNSW图结构大约30%到50%的额外空间。

例如,一百万条1536维向量,原始向量大约需要6GB内存。建议选择20GB套餐作为起步。您也可以通过选择维度更低的模型来降低内存消耗:768维模型的内存占用仅为1536维模型的一半。

您可以通过 FT.INFO chunksIndexPrometheus监控中的 used_memory 指标查看实际内存使用情况。如需更多内存,您可随时在控制台升级套餐。