后台等待,已经明显缩短
同组问题的文字探针:从用户输入结束,到后台回答写完。
旧方案与当前配置5 个问题 · 小样本
当前:轻量架构 + 直达工具 + luna(关闭推理)。图示为耗时范围,非平均值。
真实语音还要看任务复杂度
2.9 秒直接回答
6.6 秒调用 1 个工具
13.0 秒3 个工具 / 4 轮
约 18 秒其中一个工具约 10 秒
本地连测试环境的 4 次委派;工具耗时受网络放大。以上均非“用户听到答案”的时间,也不是线上承诺。
查看模型对照与测试口径
| 配置 | 后台回答写完 |
|---|---|
| 独立架构 + sol · 低推理 | 9–11 秒 |
| 独立架构 + sol · 关闭推理 | 约 6.5 秒 |
| 独立架构 + luna · 低推理 | 4.4–5.5 秒 |
| 独立架构 + luna · 关闭推理 | 3.4–4.2 秒 |
按用户提供的研发记录整理,未独立复跑。文字探针和真实语音样本分开呈现;集群内工具耗时尚未实测。原始研发素材