上下文管理
长任务可能超出模型上下文窗口。ChemAgent 估算上下文占用,为新输出预留容量,并在接近配置上限时压缩较早内容。
上下文预算
- ✓配置上限
部署设置智能体可使用的最大上下文 Token。
- ✓预留容量
窗口的一部分保留给下一次请求与模型输出。
- ✓结构化估算
文本、图片、工具参数与工具结果以不同方式计入估算。
压缩流程
- 1检测压力
当前轮次与系统提示接近可用预算。
- 2保留近期工作
最相关的近期轮次留在活动上下文中。
- 3总结较早内容
被裁剪内容总结后写入日级记忆。
- 4继续会话
保留上下文接收维持连续性所需的摘要。
限制
压缩会损失细节
重要工程事实、批准与来源应明确保存在项目文档或长期知识中,不能只依赖对话压缩。