0. 先和大家打个招呼吧 ![]()
-
你是谁: 开发爱好者
-
你是怎么用 TRAE 把 Demo 做出来的: 在开发中不断的反复调试与迭代。
-
(我们相信,每个作品背后都有一个真实的人。这段不计入评分,但真诚的分享,会让你的作品更有温度、也更容易被看到
)
1. Demo 简介
-
是什么:高性能服务端程序(C++23 后端 + Vue 3 管理后台),可部署为独立服务、Docker 容器或 systemd 系统服务
-
面向谁:- AI 应用开发者:需要对接多家大模型厂商、统一管理 API Key、实现智能路由
- 企业技术团队:需要统一管控 AI 服务接入、监控调用、保障数据安全合规
- 研究与教育场景:需要对比不同模型表现、进行多模型协同实验
-
主要功能:**多模型厂商统一接入**:适配器模式屏蔽 OpenAI、DeepSeek、Moonshot、智谱 GLM 等厂商差异,提供统一 `/v1/chat/completions` 接口,支持权重路由、健康检查、自动故障转移。
- **多厂商协同作战**:4 种协同策略(Best-of-N 选优、Vote 投票、Concatenate 串行累加、Pipeline 生成-评审-润色流水线),组合多家模型能力。
- **自动化匹配引擎**:三层智能架构(感知层意图分析+PII检测 → 决策层语义技能匹配+知识库检索 → 执行层注入Prompt+管道处理),输入一句话自动匹配技能、查知识、选模型、出结果,支持 dry_run 审计完整决策链。
- **Agent 编排与自动扩缩容**:主代理-子代理架构,6 种编排策略(串行/并行/MapReduce/流水线/投票/自动),基于利用率/错误率/延迟P95的弹性伸缩,8 种预设角色 + 权限沙箱。
- **技能管理系统**:可复用技能模块(system_prompt + 工具集 + 厂商偏好),支持技能包安装(.zip/.tar.gz)、版本管理与回滚、远程技能市场一键安装。
- **知识库检索**:基于 Embedding 向量余弦相似度的本地知识库,自动文本分片(800字/片,100字重叠),LRU 缓存,多知识库隔离。
- **伪装管道 Pipeline**:可插拔的请求/响应处理链,内置 4 个处理器(SensitiveMask 脱敏、PromptRewrite 改写、OutputSanitize 安全过滤、WatermarkInjector 水印注入)。
- **监控与管理**:Vue 3 + Element Plus + ECharts 可视化后台,实时调用面板、API Key 管理、异步批量日志、滑动窗口统计(P50/P95/P99),80+ REST API 端点。
2. Demo 创作思路
-
灵感来源:在实际开发中,每接入一个新厂商都要重搭环境、重写插件、重建知识库。这些本应是**“一次构建、处处可用”**的基础设施,却没有任何统一层来做这件事。于是想做一个 AI 网关,让开发者的技能和知识库像"通行证"一样——一张在手,通行所有 AI 厂商。
-
想解决的问题:AI 应用开发者要用多家大模型厂商服务时,得在电脑上装一堆各家 SDK 和客户端,环境冲突频发;每换一家厂商,之前写好的技能插件和建好的知识库就得推倒重来。厂商生态彼此封闭,开发者的技能与知识资产无法跨平台复用,重复造轮子成为常态
-
为什么做这个方向:在使用多家ai产品过程中,发现了这个问题。
3. Demo 体验地址
AI通行证-智能多模型网关.zip (915.2 KB)
4. TRAE 实践过程
.1043853916242560:a35754546ca42fe9c9d57eb58cc9d37d_6a4d903074ed42be25d14126.6a4e742f0edfc32ec6f1056e.6a4e742d528d552a4dab23b0:Trae CN.T(2026/7/9 00:00:47) .1043853916242560:93b5c3bd13f552829eb06d437d5bbc90_6a4d903074ed42be25d14126.6a4e97200edfc32ec6f10713.6a4e971e528d552a4dab23b1:Trae CN.T(2026/7/9 02:29:52) .1043853916242560:d24dfadc01b551ba8dd383c16ddb0325_6a4d903074ed42be25d14126.6a4eaa600edfc32ec6f1082f.6a4eaa5d528d552a4dab23b2:Trae CN.T(2026/7/9 03:52:00)




