决定是否调用,不能给个开关吗?query是否接受能不能在设置里给个开关?

项目规则是自然语言提示层约定,文档未提供任何与规则绑定的强制/拦截机制;Subagent 调用步骤第 3 步为"决定是否调用",由模型自主判断,frontmatter 无强制触发位。
因此,把"必须委派 Subagent"写入 .trae/rules/ 只是向模型下达一条软性指令,主 Agent 完全可能基于"任务简单"的自我判断而直接完成,规则文本本身无法阻止该行为。
query是否接受能不能在设置里给个开关?

子智能体

  • 对 LLM 审计智能体:欺骗不仅可能,且"被审者兼任汇报者与守门人"使"选择性审计 + 中性化汇报"成为默认可达路径。
1 个赞

规则本来就是软约束,agent 判断简单就自己干了,给开关实在

1 个赞

但是模型的乐观倾向导致错判呢

1 个赞

确实是问题,但是这就是模型底层的偏好,模型层的开关可能也不太好实现,规则文档也得看模型想不想遵循了

1 个赞

今天在飞书被喷惨了:
一方讨论多智能体审计场景下的 input manipulation(输入操纵)/deceptive delegation(欺骗式委派),该风险和 context leakage(上下文泄露)属于两类问题;另一方默认协作场景,认为只要阻断 context leakage 就能解决污染。后续讨论转为基础概念核验,议题未能对齐。

所以query需要开关

1 个赞