【标题】
希望可以增加自定义模型的请求体、请求头透传的能力
【正文】
各位产品/研发大佬好:
在使用自定义模型功能时,我发现目前系统对标准 OpenAI API 格式的支持很好,但在对接一些企业内部部署的网关或特定模型提供商(比如某些深度调优的 DeepSeek 模型)时,遇到了一些兼容性痛点。
这类网关往往会在标准的请求之外,强制要求一些非标的请求头(Headers)或深层嵌套的请求体(Body)参数。如果不传这些特定参数,接口就会报错。
痛点场景举例:
比如我目前在对接的一个模型,它的完整请求长这样:
curl --location --request POST ‘https://aigw-gzgy2.cucloud.cn:8443/v1/messages’
–header ‘User-Agent: Apifox/1.0.0 (https://apifox.com)’
–header ‘Content-Type: application/json’
–header 'Authorization: Bearer ’
–header ‘Accept: /’
–header ‘Host: aigw-gzgy2.cucloud.cn:8443’
–header ‘Connection: keep-alive’
–data-raw ‘{
“model”: “DeepSeek-V4-Pro”,
“messages”: [{“role”: “user”, “content”: “17*19=?”}],
“temperature”: 1.0,
“top_p”: 1.0,
“max_tokens”: 4096,
“chat_template_kwargs”: {
“thinking”: true,
“reasoning_effort”: “high”
}
}’
这里有两个核心问题目前的配置无法解决:
- Header 非标:鉴权字段非常规,甚至需要自定义
User-Agent或特定的 Token 传递格式。 - Body 需要深度扩展:除了基础的
temperature等参数外,必须在根级注入类似于chat_template_kwargs这样的自定义嵌套 JSON 对象。
期望的解决方案(Feature Request):
希望能在“添加/编辑自定义模型”的配置页面中,增加两个高级配置项:
- 自定义请求头(Custom Headers):允许用户以 JSON 或 Key-Value 列表的形式,配置额外的 Header。在发起请求时,与系统默认 Header 合并透传。
- 自定义请求体扩展(Custom Body Extensions):允许用户输入一段 JSON 对象。在发起实际请求前,将其与标准的请求体(如
messages,model等)进行**深度合并(Deep Merge)**再发送。
带来的价值:
实现这个能力后,产品就能完美兼容市面上 99% 的魔改大模型网关和代理,极大提升高级用户的自定义体验。
希望团队能考虑评估一下这个需求,谢谢!