🔧 上下文管道 (Context Pipeline) 概览
上下文管道 (Context Pipeline) 是 LLM Chat 的核心处理引擎——它负责将原始消息、预设、世界书、知识库等碎片化内容,按照预设的逻辑顺序组装成最终发送给 LLM 的请求上下文。
为什么需要管道?
一次高质量的 AI 对话请求通常涉及多个复杂的处理步骤,例如:
- 注入 Agent 的系统提示词。
- 匹配并注入世界书条目或知识库片段。
- 应用用户自定义的正则替换规则。
- 展开动态宏(如当前时间、变量值)。
- 确保总 Token 数不超过模型限制。
上下文管道通过可编排的处理器序列来管理这些步骤,每个处理器专注于一个核心职责,确保了处理过程的透明和可调试性。
管道架构
原始会话数据 → [处理器 A] → [处理器 B] → [处理器 C] ... → 最终 API 请求系统允许你在聊天设置中灵活配置管道:
- 独立开关: 每个处理器都可以单独开启或关闭。
- 顺序调整: 拖拽改变处理器的执行顺序,以应对特殊的上下文逻辑需求。
- 实时监控: 通过 上下文分析器 实时观察每个处理器的输入与输出。
核心处理器分类
| 分类 | 处理器示例 | 职责 |
|---|---|---|
| 基础加载 | Session Loader, Assembler | 加载历史、组装预设消息 |
| 内容增强 | Worldbook, Knowledge, Transcription | 注入世界书、RAG 检索、附件转写 |
| 文本处理 | Regex, Macro, Variable | 正则清洗、宏展开、变量状态更新 |
| 预算与格式 | Token Limiter, Formatter | Token 裁剪、API 协议适配 |