Skip to content

🔧 上下文管道 (Context Pipeline) 概览

上下文管道 (Context Pipeline) 是 LLM Chat 的核心处理引擎——它负责将原始消息、预设、世界书、知识库等碎片化内容,按照预设的逻辑顺序组装成最终发送给 LLM 的请求上下文

为什么需要管道?

一次高质量的 AI 对话请求通常涉及多个复杂的处理步骤,例如:

  • 注入 Agent 的系统提示词。
  • 匹配并注入世界书条目或知识库片段。
  • 应用用户自定义的正则替换规则。
  • 展开动态宏(如当前时间、变量值)。
  • 确保总 Token 数不超过模型限制。

上下文管道通过可编排的处理器序列来管理这些步骤,每个处理器专注于一个核心职责,确保了处理过程的透明和可调试性。

管道架构

原始会话数据 → [处理器 A] → [处理器 B] → [处理器 C] ... → 最终 API 请求

系统允许你在聊天设置中灵活配置管道:

  • 独立开关: 每个处理器都可以单独开启或关闭。
  • 顺序调整: 拖拽改变处理器的执行顺序,以应对特殊的上下文逻辑需求。
  • 实时监控: 通过 上下文分析器 实时观察每个处理器的输入与输出。

核心处理器分类

分类处理器示例职责
基础加载Session Loader, Assembler加载历史、组装预设消息
内容增强Worldbook, Knowledge, Transcription注入世界书、RAG 检索、附件转写
文本处理Regex, Macro, Variable正则清洗、宏展开、变量状态更新
预算与格式Token Limiter, FormatterToken 裁剪、API 协议适配

下一步

Released under the Apache-2.0 License.