请求设置
请求设置模块负责优化与大模型后端通信的稳定性,并确保你的对话数据在任何意外情况下都能安全保存。
网络稳定性 (Network Stability)
- 超时管理:
- 请求超时: 设置单次请求的最长等待时间(默认 60s)。对于推理速度较慢的长文本模型,建议适当调大。
- 智能重试策略:
- 重试模式:
- 固定间隔: 简单的重复尝试。
- 指数退避 (推荐): 失败后等待时间翻倍。这能有效规避 API 服务商的并发限制(Rate Limit),是专业用户的首选。
- 最大重试次数: 建议设为 3-5 次,以平衡响应速度和连接成功率。
- 重试模式:
数据安全与持久化 (Persistence)
- 增量自动保存 (Incremental Save):
- 核心功能: 在模型生成长文本的过程中,系统会以设定的频率(如每 2000ms)在后台静默保存已生成的片段。
- 应用场景: 即使在生成过程中应用突然崩溃、电脑断电或网络彻底中断,当你重新打开应用时,已经生成的那部分内容也会被完整保留,无需重新生成。
- 保存间隔: 建议根据电脑性能设置。较短的间隔提供更高的数据安全性,但会增加磁盘 I/O 频率。
提示
如果你正在使用不稳定的代理服务器或进行超长文本生成,请务必开启 “生成中自动保存”。