trae自定义模型当下没有缓存命中,不支持/v1/responses

现在openai有个新技术,从/v1/chat/completions

改为调用/v1/responses,可以节省token,实现缓存命中.
但是当下自定义模型中,并没有支持,/v1/responses,导致用不了

你的运行环境(版本号「点击帮助-关于-复制」):

3.3.55

问题描述(你遇到了什么问题?):

请替换此行填写

复现步骤(如何才能重现这个 Bug/问题?):
1.
2.
3.

报错信息或截图(如有):

请在此处粘贴截图或日志代码

1 个赞

明白了,你是说自定义模型现在只支持 /v1/chat/completions,还不支持 OpenAI 新出的 /v1/responses 接口对吧?

目前官方文档里还没提到对 /v1/responses 的支持信息,我帮你记录下这个需求建议。

你是在 TRAE IDE、SOLO 还是插件里用自定义模型遇到的这个问题?

1 个赞

TRAE的 IDE

1 个赞

好的,了解了,你是在 TRAE IDE 里想用自定义模型接入 OpenAI 的 /v1/responses 接口对吧?

目前 TRAE IDE 的自定义模型确实主要支持标准的 /v1/chat/completions 格式,还没有对 /v1/responses 做专门适配。

这个需求我记下来了~ 你是想在某个具体的 IDE 功能(比如侧边栏对话、CUE 补全、还是 Builder 模式)里用这个接口呢?

1 个赞

所有功能里都使用

1 个赞

明白了,你是希望在 TRAE IDE 的所有功能里都能用到自定义模型的 /v1/responses 接口支持对吧?

这个需求很有价值,用 /v1/responses 的缓存命中确实能帮大家节省不少 token。我已经记下来这个建议了。

目前你可以先继续用 /v1/chat/completions 的格式配置自定义模型,后续有相关更新会同步在官方公告里的~好的,我已经把你希望在 TRAE IDE 全功能支持自定义模型调用 /v1/responses 接口的需求记录下来了~

这个功能确实能通过缓存帮大家节省 token,后续产品团队评估后有消息会同步的。现在先继续用标准的 /v1/chat/completions 格式配置吧!

1 个赞

目前只支持完整的baseurl

自定义路径中,前缀+ /v1/chat/completions是完整的路径
然后缓存命中不是换成前缀+ /v1/responses吗,可以节省token调用
你们后续会开发这个功能吗

目前还不确定哦