自定义模型增加上下文配置

经过我的测试,发现添加的自定义模型中,没有上下文的配置,相关参数均为null。
这导致使用自定义模型时,上下文长度被锁定为默认的128K。
自行修改sqlite3文件后,再次启动会被重置。

当前auto模型排队的时候,自定义模型可以作为一个很好的补充,希望允许自定义模型设置上下文长度。

这个很有必要,内置的免费,但是不稳定还排队,开放了添加自定义,结果还限制,效果确实不好,都已经提供了,做到位多好,扭扭捏捏的,体验很不好

3 个赞

昨天还有128K, 今天限制成64K了, 总提示达到限制, 唉!

2 个赞

我记录下您的建议

1 个赞

对呀,为啥统一限制上下文啊?官方模型和glm不是都已经大于200k了吗

现在自定义模型,各家供应商的模型列表缺失的很严重,这个更新工作量应该不大,什么时候能更新一下?

1 个赞

这个其实你自己输入名字就好吧,好像不是靠选的

不过楼主啊,你说的这个sqlite3文件在哪啊,我找不着啊

实际上不是sqlite3文件名,只不过是这个格式。
MAC:/Users/{user}/Library/Application Support/TRAE SOLO CN/User/globalStorage/state.vscdb

请你你是如何修改的?我这边改了后一会它又自动变回去了。都不等着重打开软件~我修改的是
【uid】_AI.agent.model.model_list_map,context_window_size,features→context_window
我看有好几个触发情况、重启、新建任务、AI回复完都会覆盖回来。

就是自动改回去

对啊,希望能开放自定义