你的API快不快?测测看
记住配置(接口地址、模型名称、限流与并发参数)
记住 API Token(明文保存在本浏览器)
测速
截图结果并下载
限流配置
固定窗口
滚动窗口
并发配置
本工具可测试你的 LLM 接口速度和延迟,分别测量吞吐量 (tokens/sec) 和首 token 响应时间 (平均延迟),支持多种输入输出 token 组合。输入接口地址和 (可选) API Token,点击“测速”即可。
限流:任意“限流时间”窗口内新发起的请求数不超过“限流数量”,支持固定窗口(窗口边界重置计数)与滚动窗口(滑动统计);并发:同时在途的请求数不超过“并发数量”。默认不启用限流、逐个串行请求。
性能图
吞吐量 (每秒 token 数) - 数值越高越好
低 中 高
第一个token等待时间 (平均)
平均延迟 (秒, 越低越好)
低 中 高