Token 预算管理 (Token Management)
Token 是 LLM 处理文本的计费和性能单位。有效的 Token 管理不仅能节省成本，还能防止上下文溢出导致模型“断片”。
1. Token Limiter 处理器
Token Limiter 是管道中最重要的处理器之一。它负责计算当前上下文的总 Token 数，并在超过模型限制时执行裁剪。
裁剪优先级 (Priority)
当上下文超长时，处理器不会随机删除内容，而是按照以下优先级进行保留：
- 核心预设 (Presets): 系统提示词等核心设定具有最高优先级，最后被裁剪。
- 世界书与知识库: 动态注入的内容次之。
- 历史消息 (History): 按照“由近及远”的原则，最先裁剪最早的历史消息。
2. 统计与显示
在聊天界面的侧边栏或上下文分析器中，你可以看到实时的 Token 统计：
- 当前 Token: 本次请求预估消耗的 Token 总数。
- 上下文占比: 核心预设、历史消息、世界书等各部分占用的比例。
3. 优化建议
3.1 使用上下文压缩
当对话过长时，与其任由系统裁剪掉早期的关键信息，不如使用上下文压缩。
- 原理: 调用模型将一段长对话总结为几句话。
- 效果: 原始消息被移除，摘要消息被注入，大幅释放 Token 空间。
3.2 调整扫描深度
减小世界书或知识库的扫描深度和召回上限，可以有效控制单次请求的 Token 基础开销。
3.3 启用 Token 截断警告
在系统设置中，你可以配置当 Token 接近模型上限时显示警告，提醒你进行手动清理或压缩。