AI 上下文规划
上下文窗口计算器
按系统提示、对话历史、文档、回答和思考词元估算大模型上下文用量。查看每次请求还能放多少内容，估算长文档需要分几片，并为相邻片段预留重叠。
上下文预算
当前请求超出窗口。可缩短内容或拆成多次请求。
- 窗口已用
- 59,000 / 32,768
- 每次可加入的内容
- 23,768
- 处理内容所需请求数
- 3
- 含重叠的内容词元
- 52,000
- 总输入词元
- 53,000
- 预留生成词元
- 6,000
- 窗口超出词元
- 26,232
- 输出超出词元
- 0
上下文与分片怎么算
系统提示、工具定义、消息格式和历史对话占用输入词元。输入和生成共用窗口时，还要减去预留的回答与思考词元。每片都要携带固定请求开销。长文放不下时，第二片起每次新增内容量等于可用内容预算减去重叠量。
例如，共用窗口为 32,768，固定输入为 3,000，预留生成 6,000，则每次可放 23,768 个内容词元。处理 50,000 个词元的文档，每片重叠 1,000，需要 3 次请求。
按目标模型的分词器统计文本，另行计入 API 的格式、工具、图片或文件开销。此工具用词元总量做规划，原文分片可由应用按实际段落完成。