| 含义 | 一次请求可处理的 token 上限 |
|---|---|
| 单位 | token（不是字符） |
| 口径 | 多数为输入+输出合计 |
| 现状 | 主流 128k/200k 起，大窗口到 1M 级 |
用 tiktoken 实测 token 数
用 tiktoken 实测 token 数
import tiktoken
enc = tiktoken.get_encoding("o200k_base")
text = "上下文窗口的 token 计量示例：一张表 3 行。"
print(len(enc.encode(text)))有效上下文小于标称窗口（lost in the middle 现象）：关键指令与文档建议放在输入的头尾位置。