知识库设置

知识库设置用于管理本地知识库在聊天过程中的检索性能、缓存策略以及核心模型关联。

模型关联

• 当前 Embedding 模型:
  • 显示当前系统全局默认的向量化模型。
  • 重要性: 所有的知识库文档在导入时都会通过此模型转换为向量。检索时，用户的提问也会使用同一模型进行向量化以匹配内容。
  • 快速跳转: 点击 “前往知识库配置 →” 可直接进入 知识库管理工具 更改模型或重新索引文档。

性能与缓存管理

为了提高检索体验，系统采用了双层缓存机制：

• 向量缓存容量 (Embedding Cache):
  • 说明: 控制在内存中保留的文本片段向量数量。
  • 作用: 较大的值能显著减少对 Embedding API 的重复调用（尤其是在多轮对话中），但会增加内存占用。
• 检索结果缓存容量 (Retrieval Cache):
  • 说明: 控制完整检索结果（Top-K 匹配块）的缓存数量。
  • 作用: 当你在短时间内提出相似问题时，系统可直接从缓存返回结果，无需重新进行复杂的向量空间计算。

---

注意

模型一致性: 如果你在知识库工具中更换了 Embedding 模型，务必对已有的知识库进行“重新索引”，否则在此处进行的检索将因向量维度或空间分布不一致而失效。