Skip to content

视频 09 来源笔记:Goal 目标驱动 Agent

来源元信息

  • 讲者:小单说AI
  • Bilibili:BV1zAKg6kEV2
  • 本地字幕:从零实现自己的agent第九期:目标驱动agent.ai-zh.srt
  • 字幕覆盖:00:00:00–00:09:12
  • 对照材料:本期仓库无独立文本稿;已核对 ppt/第九期-目标驱动agent.html
  • CAE 对应情况:PPT 与 templates/agent/identity.md 有 Goal 规则,但累计示例止于 step12_hooks.py

按时间顺序的主题窗口

[00:00:00–00:01:24] 长时间目标模式示例

视频展示一个运行数十小时的 3D 小镇复刻任务,用来说明 Goal 模式会持续比较目标与现状并推进。演示也暴露边界:运行很久不等于质量已经达标。

[00:01:24–00:02:19] 装修验收比喻

施工方说“完成”不能直接付尾款,必须按墙面、电路和水管等标准验收。不合格就返工,再次核验。Goal 的核心不是更长时间,而是明确验收门禁。

[00:02:19–00:03:04] 从人工催促到自动闭环

普通流程需要用户反复指出问题并要求继续;Goal 模式把“做 → 验 → 不通过再做”交给 Agent 与 Verifier,直到通过或遇到必须人工处理的阻塞。

[00:03:04–00:03:48] 一份可检查的目标

目标要回答:最终看到什么、哪些区域能改或不能改、怎样确定完成。第三项应尽量变成可重复执行的命令或客观检查。

[00:03:48–00:04:50] 每轮只推进可验证差距

Agent 比较当前状态与目标,选择下一步,执行,再进入目标门禁。失败回到差距分析;成功才结束。计划路径可调整,验收终点不能被执行 Agent 擅自降低。

[00:04:50–00:05:25] 两类自动结束

一类是所有检查通过;另一类是缺权限、缺信息或风险过高,需要人工输入。工程上还应有预算耗尽、系统错误和用户取消等终态。

[00:05:25–00:06:42] 用 Codex 为 Emperor Agent 规划 Goal

视频先要求分析现有项目并产出升级文档,把文档作为目标契约。这个过程强调“先写验收条件,再让 Agent 长时间执行”。

[00:06:42–00:07:35] 开启模式与人工授权

Agent 按升级文档执行多个阶段,遇到创建工作分支的权限阻塞后暂停请求授权。批准后才继续,说明持续运行不能绕过用户权限。

[00:07:35–00:08:19] 三点复盘

明确结果,逐轮比较差异并修改,遇到能力外问题暂停询问。视频用“一份能检查的目标”总结 Goal。

[00:08:19–00:09:12] 系列收束

九期基础主线结束,后续转向 Emperor Agent 的产品迭代。Goal 需要综合前八期的计划、工具、记忆、协作、Hook 与验证能力。

主教学论点

Goal 模式是一份稳定的验收契约加一个受预算约束的控制循环。Agent 可以改变执行路线,但不能自行改变成功标准或扩大权限。

控制循环与状态

text
draft → active → checking
  ├─ unmet → active
  ├─ satisfied → complete
  ├─ permission/info needed → waiting_for_human → active
  ├─ budget exhausted → stopped
  ├─ fatal error → failed
  └─ user cancel → cancelled

每轮要保存:目标版本、当前差距、选择的动作、证据、检查结果、成本和下一状态。恢复时从持久状态继续,不能只依赖聊天 History。

好目标的三个问题

  1. 最终产物或用户可见结果是什么?
  2. 可修改范围、禁止范围和权限边界是什么?
  3. 哪条命令、测试、截图或业务指标证明完成?

把“做得更好”“看起来一样”改成可测指标,是 Goal 设计最难也最重要的部分。

重要比喻

  • 装修验收:自述不是证据,检查通过才支付尾款。
  • Goal 像控制系统:目标是设定值,工具改变环境,Verifier 提供反馈。

术语与纠正

  • 自动字幕中的 “购物模式 / 构模式 / go 模式” 均应为 Goal 模式
  • Todo 管单轮步骤,Goal 管跨轮、可恢复的长期成功条件;两者可以关联但不能混用。
  • “永不停歇”是宣传式表达。可靠实现必须有预算、停止条件和人工暂停。

需要工程限定的说法

  • 运行 22 小时只能证明持续执行,不能证明有效进步。
  • 执行 Agent 不应同时拥有修改验收标准的权限。
  • 视觉复刻需要图像或结构化度量,仅靠模型主观判断容易奖励投机。
  • 每轮都由大模型核验会增加成本和相关性偏差;优先使用确定性测试。
  • 自动持续运行必须限制分支、网络、文件与密钥权限,风险动作继续走人工批准。

来源映射

  • CAE:ppt/第九期-目标驱动agent.htmltemplates/agent/identity.md 的 Goal 目标树规则。固定累计 Step 尚无独立 Goal 实现,这是明确内容缺口。
  • 《深入理解 AI Agent》:第 6 章可验证性与评估;第 8 章长期闭环、验证发布回滚和安全边界。
  • 必做实验:chapter8/trajectory-verifierchapter8/prompt-auto-optimization
  • Mini Emperor:goals.pyGoalStatusGoalTracker;课程正文会扩展预算、证据和等待人工状态。
  • 进入正文:book/09-Goal目标驱动.mdbook/10-Mini-Emperor综合项目.md

内容差异与待核对

  • 本期没有仓库文本稿,时间定位来自本地 SRT;术语由 PPT 资产 goal-control-loopgoal-three-questions 与代码模板交叉确认。
  • PPT 标题以“老问题、三个问题、每轮一步、停下理由”组织,覆盖本笔记的目标契约、控制循环和终态。
  • 视频演示的是使用外部 Codex Goal 能力改造 Emperor Agent,不是 CAE 仓库里可直接运行的 Goal 教学代码。

Markdown 是唯一内容源,HTML 由构建流程生成。