模型 deepseek,2026-10-23 09:42 ## 实验 1:输入变长,输出只要 8 个 token | 输入 token | 首 token 延迟(中位数) | 各次 | |---|---|---| | 2,185 | 1.23 秒 | 1.45, 1.23, 1.12 | | 9,200 | 1.30 秒 | 1.22, 1.64, 1.30 | | 77,591 | 1.63 秒 | 1.40, 2.11, 1.63 | | 292,995 | 3.63 秒 | 3.59, 3.63, 4.00 | ## 实验 2:输入很短,输出变长 | 要求的输出 token | 实际收到的块 | 首 token 延迟 | 总时间 | 每个输出 token | |---|---|---|---|---| | 50 | 50 | 1.13 秒 | 1.43 秒 | 5.0 毫秒 | | 200 | 200 | 1.00 秒 | 1.59 秒 | 3.0 毫秒 | | 800 | 800 | 1.11 秒 | 3.24 秒 | 2.7 毫秒 | ## 实验 3:同一份长文档上连问 6 轮 每轮输入约 107,412 token。 | 轮次 | 只在末尾追加 | 开头插时间戳 | |---|---|---| | 1 | 2.67 秒 | 3.25 秒 | | 2 | 1.94 秒 | 3.11 秒 | | 3 | 2.18 秒 | 3.00 秒 | | 4 | 2.16 秒 | 3.16 秒 | | 5 | 1.57 秒 | 3.62 秒 | | 6 | 1.63 秒 | 3.20 秒 | | 第 2 轮起的中位数 | 1.94 秒 | 3.16 秒 | 按 AI Builder Space 价目,每轮输入约 $0.0161,两种写法一样:它不单独给缓存命中打折,usage 里也不报命中了多少。缓存在这里省的是时间。 原始计时已存到 sample_output/api_deepseek_20261023.json