吞吐量

Throughput

学到认得就够：听到能明白

你可能会说

“我想在一天内处理更多已授权材料，但又不想让每条错误变多；吞吐量与单次回复速度、允许并发数有什么差别？”

吞吐量是在给定时间内完成的工作量，可以是成功请求、文档或输出单位；它衡量整体处理能力，必须同时注明质量标准和负载条件。

也叫处理吞吐、处理速率

使用 AI

科研里的例子

将“每小时完成并抽查通过的论文提取条目”作为指标，同时记录失败与复查量；增加并发后看有效产出是否真正提高。

提高并发可能增加单位时间完成数，也可能触发限流、排队或资源竞争，导致单项等待变长。不同任务长度和工具调用次数会改变吞吐，因而不能把简单聊天测得的速率直接套用到全文抽取。科研流水线更适合统计通过检查的条目数，而不是只数返回了多少文本。失败重试和人工返工也应计入总成本，才有实际比较意义。

亲手检查一次

明确计量单位、成功条件和任务分布，在同等质量要求下比较；观察负载提高时错误率、排队与返工是否同步增加。

它做不到的

吞吐高不等于质量好，也不意味着单个用户等待更少；不同服务报的请求、字符或生成单位不能不换口径直接相较。

读完这张，你的理解变了什么？

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。