‹ 返回资讯首页
行业动态

GPT-6.1 Sol 的 priority 档值不值得开

首 token 延迟从 610ms 降到 280ms,单价是标准档的 1.6 倍。我们测了三种场景,告诉你什么时候值得。

Orbis News阅读约 1 分钟

演示内容 · 文章、模型及数据均为虚构示例,不作为事实或价格依据。

先看结论

  • 通过 service_tier: "priority" 开启。
  • 对首 token 延迟敏感的语音、补全场景值得开。
  • 批量任务和后台处理继续用标准档。

怎么开启

client.chat.completions.create(
    model="openai/gpt-6.1-sol",
    messages=messages,
    service_tier="priority",
)

延迟实测

场景标准档priority 档
首 token 中位延迟610ms280ms
首 token P951.9s0.62s
每秒输出 tokens82118

差别最大的是 P95:标准档在高峰时段偶尔会等两秒,priority 档基本稳定在 0.6 秒以内。

文中提到的模型

模型 ID 可以直接填进 model 参数,在 Orbis 用同一个 API Key 调用。

GPT-6.1 Sol
openai/gpt-6.1-sol
输入 ¥18 / 输出 ¥144每百万 tokens
查看模型