开源项目 llm-bench 发布 1.0，可以对任意 OpenAI 兼容接口做压测
Orbis News阅读约 1 分钟
演示内容 · 文章、模型及数据均为虚构示例，不作为事实或价格依据。
{"version":1,"hot":{"heat":8,"sources":[{"n":"GitHub","u":"#"}]}}
支持统计首 token 延迟、吞吐和错误率分布，结果可导出为 CSV。把 base_url 换成 Orbis 就能直接测。
来源与说法（演示）
- GitHub
演示内容 · 文章、模型及数据均为虚构示例，不作为事实或价格依据。
支持统计首 token 延迟、吞吐和错误率分布，结果可导出为 CSV。把 base_url 换成 Orbis 就能直接测。