希望接入接入第三模型支持重试机制

目前遇到的主要问题是:

  1. 任务中断后无法续传:当调用第三方模型的复杂任务在中途因模型方返回“系统正忙”等原因而中断时,整个任务需要从头开始重试,效率低下且体验差。

  2. 缺乏智能重试机制:希望有一种更稳健的重试策略,而不是简单的立即失败。

期望的改进方案是:

  1. 支持断点续传:即使任务中断,也能从上次中断的地方继续执行,而非完全重启整个流程。

  2. 实现回退与指数退避重试:当调用第三方模型失败时(例如收到“系统正忙”等可恢复错误),系统应内置自动重试机制。理想情况下,该机制应采用指数退避策略(例如第一次失败后等待1秒,第二次失败后等待2秒,第四次失败后等待4秒,依此类推),以减少对服务的压力并提高成功概率。

2 个赞

好的 投你一票

1 个赞

收到建议,感谢反馈

1 个赞

快两个月了,我等的花儿都谢了

3 个赞

很重要的点,希望尽快处理

1 个赞

还没改好么,很重要的功能

还没改好么,很重要的功能

1 个赞