GPT-6.1 Sol 的 priority 档值不值得开
首 token 延迟从 610ms 降到 280ms,单价是标准档的 1.6 倍。我们测了三种场景,告诉你什么时候值得。
Orbis News阅读约 1 分钟
演示内容 · 文章、模型及数据均为虚构示例,不作为事实或价格依据。
{"version":1,"sourceTitle":"GPT-6.1 Sol 的 priority 档值不值得开","motif":"lanes","min":5,"demoAuthor":"周以宁","models":["openai/gpt-6.1-sol"],"order":4,"topicOrder":1,"topicIndex":1,"story":{"time":"15:20","dot":["GPT-6.1 Sol","多了一档低延迟"],"title":"GPT-6.1 Sol 新增 priority 档:首 token 中位延迟降到 280ms","sum":"通过 service_tier 参数开启,单价是标准档的 1.6 倍。适合语音助手、实时补全这类对等待敏感的场景,批量任务继续用标准档更划算。","src":"OpenAI","slug":"gpt-61-priority-tier","sourceExcerpt":"首 token 延迟从 610ms 降到 280ms,单价是标准档的 1.6 倍。我们测了三种场景,告诉你什么时候值得。"}}
先看结论
- 通过 service_tier: "priority" 开启。
- 对首 token 延迟敏感的语音、补全场景值得开。
- 批量任务和后台处理继续用标准档。
怎么开启
client.chat.completions.create(
model="openai/gpt-6.1-sol",
messages=messages,
service_tier="priority",
)延迟实测
| 场景 | 标准档 | priority 档 |
|---|---|---|
| 首 token 中位延迟 | 610ms | 280ms |
| 首 token P95 | 1.9s | 0.62s |
| 每秒输出 tokens | 82 | 118 |
差别最大的是 P95:标准档在高峰时段偶尔会等两秒,priority 档基本稳定在 0.6 秒以内。
文中提到的模型
模型 ID 可以直接填进 model 参数,在 Orbis 用同一个 API Key 调用。