Redis®*: 服務規模規劃
此文件屬於向量搜尋與RAG指南的一部分。請在此處查看完整指南:使用Redis進行語意搜尋、推薦系統及檢索增強生成(RAG)。
👋 歡迎瀏覽 Stackhero 文件!
Stackhero 提供即開即用的 Redis cloud 方案,帶來多項優勢,包括:
- 已包含
Redis Commander網頁介面。- 無限訊息大小及傳輸量。
- 一鍵輕鬆完成更新。
- 以專屬私人基礎設施提供最佳效能及強大安全性。
節省時間,簡化您的工作流程:只需5分鐘即可體驗 Stackhero 的 Redis cloud hosting 方案!
向量會儲存在記憶體中。您可以用以下公式估算所需記憶體:
numberOfVectors x dimensions x 4 bytes,再加上約30–50%額外空間以儲存HNSW圖形。
例如,一百萬個1536維的向量,僅原始向量就需約6GB記憶體。對這種規模,建議選擇20GB方案作為起點。您可以透過以下方式減少記憶體用量:
- 使用較小的模型。 例如,768維模型的記憶體需求僅為1536維模型的一半。
- 如模型支援,將
FLOAT32改為FLOAT16,可再減半空間需求。
您可透過FT.INFO chunksIndex及Prometheus監控中的used_memory指標,監察實際用量。如有需要,您可隨時於控制台升級方案,操作簡單直接。