下载

上下文建议

通过在线评估分析真实对话、错误和反馈,审阅上下文建议,并将修改提交到上下文仓库。

上下文建议(Recommendations)是 Cappy 的在线评估:分析项目的真实使用记录,找出上下文缺失、错误或表达不清的地方,并建议修改哪些文件、怎样修改。它可以发现你在编写测试集时没有预料到的问题。

评估中的 cappy test 则是离线评估,使用你准备的固定问题和参考 SQL 检查结果。两者配合使用:从真实使用中发现问题,修改上下文,再将典型问题加入评估,检查修复效果及是否影响原有回答。

离线评估在线评估
使用方式cappy test上下文建议
依据预先编写的问题与参考结果实际对话、工具错误、用户反馈和上下文读取记录
运行时机发布前、修改上下文或模型后,也可接入 CI项目使用后手动运行,或按计划定期运行
回答的问题这次修改后,已有问题还能正确回答吗?真实使用暴露了哪些上下文问题,应该怎样修改?

工作方式

你可以手动启动分析,也可以设置每天、每周或每月运行。分析 Agent 将项目的使用记录与上下文文件对照,生成带有依据和目标文件的建议。

使用记录通过限定在当前项目的只读查询提供给分析 Agent;认证信息等字段不在可查询视图中。分析时可以读取上下文并准备修改草稿,草稿不会直接覆盖项目文件。后续由你审阅并提交,或按配置自动创建 PR。

分析哪些问题

分析 Agent 会查找以下使用记录,并读取相关的 RULES.md、semantics/、databases/、docs/ 和 repos/<name>/ 文件,判断问题应该在哪里修正。

记录可以发现的问题
工具错误SQL 或其他工具反复失败,相关表、字段或操作条件可能缺少说明
负面反馈用户点踩或留下纠正意见,可能暴露回答与业务预期的差异
重新生成和修正相同问题需要反复重问或手动纠正,可能存在不明确的规则
未覆盖的问题Agent 无法回答,或对相同分析任务采取不一致的做法

分析还会考虑读取上下文的成本。文件被截断、频繁读取且每次都消耗较多 Token、或偶尔读取但开销异常高时,建议可能是拆分文件、精简内容,或把重复分析流程整理成技能。

例如,用户反复要求按月展示订单趋势,而 Agent 每次都重新摸索图表格式并执行相同查询,建议可能指出缺少一份报表生成技能;如果查询总是引用不存在的字段,建议则可能要求修正表说明或指标定义。具体诊断需要结合建议引用的对话判断。

建议包含什么

进入 上下文 → 建议 后,可以看到问题分类、诊断说明和触发对话。分类包括工具错误、幻觉、语义缺失、上下文膨胀、技能和其他。

展开建议,结合以下信息审阅:

  • 问题及依据:发生了什么,涉及哪些对话、用户反馈或工具错误。点击引用的对话可回看原始问题和执行过程。
  • 修改目标:建议修改的文件及修改方向,例如补充 RULES.md 的查询条件,或在指标文件中修正定义。
  • 修改草稿:能够生成文件修改时,卡片显示“建议更改”。打开后可逐文件查看新增、删除与周围内容。
  • 人工修复说明:需要修改生成来源或无法直接提交时,可能显示“如何修复”,提供说明和可复制的提示词。没有文件草稿时,也可以从建议复制提示词继续处理。
上下文建议页面,展示分析完成后生成的建议和触发对话
一次实际分析发现了重复报表操作、日期标签和查询范围相关的问题;建议需要结合触发对话审阅。

建议较多时,可以按分类、触发用户和是否有反馈筛选,并按检测日期、触发对话数或 PR 状态排序。优先审阅影响较多对话、反复出现的问题。

启用并运行分析

开启上下文建议

此功能目前默认关闭。由实例管理员设置以下环境变量,并重启 Cappy 服务:

BETA_CONTEXT_RECOMMENDATIONS_ENABLED=true

这是实例的启动配置,不是项目内的提示词或数据库环境变量。项目管理员和具有写入权限的成员可以访问、运行和处理建议。

配置分析模型与运行方式

在 上下文 → 建议 → 配置 中选择分析模型。分析模型属于组织的后台模型设置,需要组织管理员修改;项目内的其他建议配置可以由具有写入权限的成员维护。

首次使用可以保留“关闭(仅手动)”频率,并关闭 YOLO 模式,先查看一次分析结果。

上下文建议的配置页,包含分析模型、运行频率、自定义指令和仓库设置
配置决定由哪个模型分析、何时运行,以及是否自动创建修改请求。

点击立即运行

点击页面上方的 立即运行。运行期间按钮显示“正在运行…”,完成后查看“建议”标签中的结果;页面也会显示最近一次运行时间。运行失败时会显示错误信息。

可以打开运行记录对应的对话查看分析过程。没有新建议只表示本次分析未产出新问题,不等于所有回答都已通过评估。

配置选项

选项作用
分析模型执行上下文分析的模型;由组织管理员设置
运行频率默认“关闭(仅手动)”;也可选每天、每周一或每月 1 日,按服务器时间 03:00 运行;界面显示换算后的本地时间
自定义系统提示词指令追加到每次分析的内置指令之后,最多 4,000 个字符
仓库通过“打开 Git 设置”连接上下文仓库;已连接时可“管理 Git 设置”,并查看配置中的关联仓库
YOLO 模式默认关闭;启用后,分析结束会自动为符合条件的建议创建 PR,并将其标记为已应用
每次运行的最大拉取请求数YOLO 模式下控制自动创建的数量,默认 3,范围 1–10,优先处理影响较大的建议

自定义指令可以用来指定分析重点,例如:

重点分析收入指标相关的错误和用户反馈。
检查是否缺少退款、取消订单和时间范围的定义,并指出需要修改的上下文文件。

“关闭(仅手动)”只关闭定时运行,仍可以点击“立即运行”。YOLO 模式控制自动创建 PR,不会自动合并 PR,也不会代替你将上下文更新到运行中的项目。

使用建议改进上下文

建议可以用于发现反复失败的查询、处理新反馈,以及整理重复分析流程。处理一条建议时,先打开触发对话,确认问题确实存在,再查看目标文件是否缺少相应定义。模型的诊断也可能不准确。

对于确认需要修改的问题,使用草稿或修复说明完成修改。手动处理完成后点击 标记为已应用;不适用或判断有误的建议点击 忽略。相应记录会移动到“已应用”或“已忽略”标签中。

状态用于跟踪处理进度。标记为已应用不会替你编辑文件、合并 PR 或发布上下文。

打开如何修复,在右侧查看目标文件、修复说明和可复制的提示词
“如何修复”提供具体修改方向;先结合左侧的诊断和触发对话确认,再修改文件。

将建议提交为 PR

连接 GitHub 或 GitLab 后,建议中的修改可以提交为拉取请求(PR)或合并请求(MR)。只有需要修改的文件能够映射到已连接仓库,并且建议包含修改草稿时,才能直接创建。

连接 Git 账号与上下文仓库

在个人设置中连接 GitHub 或 GitLab 账号,确保账号可以访问目标仓库。然后从建议配置中的 打开 Git 设置 连接项目的上下文仓库;已连接的仓库会显示在配置页。

从其他仓库复制的模型与文档作为上下文仓库中的项目文件维护。需要修改来源时,先更新原仓库,再将修改后的材料加入项目并通过上下文仓库发布。

审阅修改草稿

打开卡片中的 建议更改,检查目标文件、增删内容以及相关上下文。重点确认修改是否修复了触发问题,是否与已有指标和规则冲突。

RULES.md、semantics/ 等人工维护文件可以形成修改草稿;databases/ 中由同步生成的文件,需要按 如何修复 的说明修改其来源,再重新同步。未连接的来源也需要手动处理。

创建并审阅 PR

点击 创建 PR,在 Git 平台上审阅修改并合并。创建成功后,卡片提供 查看 PR 入口,并显示 PR 的后续状态。

合并后,按构建项目中的发布步骤更新运行中的上下文,再运行相关评估。创建 PR 本身不会让修改在 Agent 中生效。

批量处理建议

需要一起处理多条建议时,打开列表中的选择模式,勾选相关卡片。底部操作栏可以将符合条件的修改合并为一个 PR,每条建议形成独立提交,方便审阅。

直接创建 PR 的建议需要包含修改草稿,且尚未关联 PR。一次最多选择 20 条;同一批修改需要属于同一目标仓库和分支。也可以选择 复制提示词,将这些建议交给自己的编码助手处理。