能不能调整token吞吐速率

感觉现在输出好慢,能不能出一个可以调节输出速度的功能

1 个赞

有就好了!

1 个赞

感觉近期大多数模型都有这个问题

1 个赞