一、先说结论:探索和发现,就是让 Agent 不只会做已知任务,还能主动寻找新机会
前面很多 Agent 设计模式,解决的是“怎么把一件已知任务做好”。
这一章讲的 探索和发现,解决的是另一个更难的问题:
当答案还不知道、路径还不明确、目标空间很大时,Agent 怎么主动尝试新方向,并从尝试中找到更好的方案。用一句人话讲:
探索和发现,就是让 Agent 在“稳妥做已知的事”和“冒险试未知的事”之间,做出合理平衡。如果一个 Agent 只会利用已有经验,它会很稳定,但容易卡在局部最优;如果它只会到处乱试,它可能偶尔发现惊喜,但大部分时间都在浪费资源。
真正有用的探索,不是瞎试,而是有预算、有方向、有反馈、有记录的系统化尝试。
二、为什么需要探索:只会走熟路的 Agent,很难发现新东西
可以把 Agent 想象成两种角色。
一种是出租车司机。乘客告诉它目的地,它负责选择路线,把人安全送到。这个任务很明确:从 A 到 B,越快越好。
另一种是探险家。没人告诉它终点在哪里,它要离开熟悉的地图,去未知区域寻找可能有价值的新大陆。
大多数业务 Agent 一开始都是“出租车司机”:用户问问题,它回答;用户给任务,它执行;系统给目标,它优化;流程写好了,它照着跑。
这当然有价值,但它解决的是“已知问题”。真正难的是:用户的问题类型变了,Agent 能不能发现新模式?市场出现新机会,Agent 能不能提出新实验?工具链里有多个方案,Agent 能不能逐渐学会哪个更适合当前任务?
这就是探索和发现的意义。它让 Agent 不只是执行者,也能成为“发现者”。
三、探索到底在做什么:4 个关键动作
探索不是随机乱试。一个可用的探索系统,通常包含 4 个动作:
提出候选方向 → 选择要尝试的方向 → 执行并收集反馈 → 更新策略第一步是生成候选方向。候选项可以是一个新工具、一条新路线、一个新提示词、一个新实验方案、一个新产品策略,或者一个从未尝试过的用户分群。如果候选项质量太差,后面的选择算法再聪明也没用。
第二步是选择尝试方向。Agent 面前通常有两类选择:
| 选择 | 做什么 | 风险 |
|---|---|---|
| 利用 | 选择当前已知最好的方案 | 容易停在局部最优 |
| 探索 | 选择还不确定、但可能更好的方案 | 可能浪费资源或影响体验 |
比如一个推荐 Agent 已经知道用户喜欢科技文章。它可以继续推荐科技文章,这叫利用;也可以偶尔推荐一本商业传记或一篇心理学文章,看看用户是否感兴趣,这叫探索。
关键不是“要不要探索”,而是:什么时候探索?探索多少?探索哪个方向?探索失败后怎么处理?
第三步是收集反馈。一次探索有没有价值,不能只看“试了没有”,还要看有没有结果回收。
第四步是更新策略。哪些方向值得继续试,哪些方向应该减少尝试,哪些条件下某个方案更有效,哪些失败可以避免重复发生,都要写回记忆或知识库。
四、什么样的东西值得探索:三种内在奖励
在很多场景里,外部奖励并不会马上出现。科研 Agent 提出一个假设,短时间内不一定知道它是否正确;产品 Agent 提出一个新功能方向,也不一定马上看到收入变化。
这时就需要“内在奖励”:即使暂时没有最终收益,Agent 也能判断某个方向是否值得继续探索。
| 内在奖励 | 关注什么 | 适合场景 | 简单记法 |
|---|---|---|---|
| 新颖性 | 状态、问题、样本或方案是否和过去不一样 | 内容发现、用户问题聚类、异常样本、新需求识别 | 没见过 |
| 信息增益 | 尝试后能不能明显减少不确定性 | A/B 测试、科研实验、市场策略、模型路由 | 试了更明白 |
| 惊讶性 | 实际结果是否明显偏离预期 | 异常检测、运维监控、风险识别、业务洞察 | 结果不符合预期 |
比如客服 Agent 发现最近有一批用户问题不属于任何旧分类,就应该把它标成“新型问题”,而不是强行塞进旧标签。
再比如系统以为某类用户不喜欢长文,但实验发现他们反而读完率很高。这个“反常结果”就值得继续研究。
五、常见实现方式:从简单随机到进化搜索
探索可以有很多实现方式,不同复杂度适合不同场景。
| 方法 | 核心思路 | 适合场景 | 注意点 |
|---|---|---|---|
| ε-greedy | 大部分时间选当前最好方案,少部分时间随机试其他方案 | 选项少、风险低、初期验证 | 简单,但随机探索不够聪明 |
| UCB | 给表现好和尝试少的方案都一点机会 | 推荐、路由、实验分配 | 需要记录收益和尝试次数 |
| Thompson Sampling | 用概率分布表达不确定性,再抽样选择 | 广告、推荐、模型路由 | 实现比 ε-greedy 稍复杂 |
| LLM 辅助探索 | 让模型生成新候选方向 | 提示词、产品策略、代码实现、研究假设 | LLM 负责生成,不要直接拍板 |
| LLM + 进化搜索 | 生成变体、评估、保留好方案、继续变异 | 提示词优化、SQL 优化、规则策略、代码片段搜索 | 必须有可靠评估器 |
ε-greedy 最容易理解:
如果随机数 < ε:
随机选择一个方案
否则:
选择当前平均回报最高的方案LLM 的价值不在于“替系统做最终判断”,而在于生成传统算法想不到的新候选。更稳的结构是:
LLM 提出方向 → 规则/评估器打分 → Bandit 或人工选择 → 小流量验证 → 结果写回记忆如果问题可以被文本、代码、公式或配置表达,还可以让 LLM 充当“变异器”:
这类系统的关键不是让 LLM 一次写出完美答案,而是让它不断产生可评估的变体,再用评估器筛选。
六、完整案例:用探索机制优化一个产品增长 Agent
假设我们要做一个产品增长 Agent,它的目标是:
持续发现并验证可以提升新用户次日留存率的实验方案。这个任务很适合探索。因为没有人一开始就知道哪个方案最好,只能不断提出假设、做实验、看结果、再迭代。
先定义目标和边界:
目标:提升新用户次日留存率
主指标:D1 留存率
辅助指标:注册完成率、首次关键行为完成率、用户投诉率、实验成本
约束:不误导用户;不过度打扰;不牺牲长期信任;每周最多上线 3 个实验;样本量达标后再判断然后生成候选实验。每个候选都要说清楚假设、指标、风险和新颖性:
{
"name": "根据用户来源定制引导页",
"hypothesis": "不同来源用户意图不同,个性化引导可以提升激活率",
"metric": "激活率、D1 留存率",
"risk": "需要更多埋点和配置成本",
"novelty": 5
}候选实验不应该直接上线,可以先用一个轻量公式排序:
实验分数 =
30% × 预期收益
+ 25% × 信息增益
+ 20% × 新颖性
- 15% × 成本
- 10% × 风险新颖性不是越高越好。一个新颖但高风险的方案,不一定应该马上上线。它可能应该先做小流量验证,或者让人工审核。
如果有多个实验同时可选,可以用 Bandit 思路分配流量:一开始每个实验都给一点流量;表现好的实验获得更多流量;表现差的实验减少流量;不确定但潜力大的实验继续保留少量探索机会。
实验结束后,Agent 要把结果写回记忆和知识库:
{
"experiment_id": "EXP-2026-061",
"result": "positive",
"impact": { "activation_rate": "+6.2%", "d1_retention": "+2.1%" },
"lesson": "搜索广告用户更需要明确价值解释,邀请链接用户更需要快速协作入口。",
"next_suggestion": "继续探索不同来源用户的首页默认任务差异。"
}最后加入人工复核。低风险实验可以让 Agent 自动排期小流量测试;中风险实验需要产品经理确认;涉及隐私、强提醒、价格策略、诱导点击、大流量放量和品牌信任的高风险实验,必须让产品、法务、运营共同确认。
探索不是做完就结束。真正的价值在于把一次实验变成下一次探索的起点。
七、探索的层级:不要一上来就做“自主科研 Agent”
探索能力可以分层建设,不必一开始就做很复杂。
| 层级 | 做什么 | 适合场景 | 成本 |
|---|---|---|---|
| L0 | 简单 A/B 测试 | 文案、按钮、推荐位 | 很低 |
| L1 | Bandit 动态分配 | 推荐、广告、模型路由 | 低 |
| L2 | 好奇心驱动探索 | 爬虫、浏览器 Agent、新问题发现 | 中 |
| L3 | LLM + 进化搜索 | 代码、提示词、公式、策略优化 | 中高 |
| L4 | 多 Agent 科研探索 | 假设生成、实验设计、文献综合 | 高 |
| L5 | 自主发现系统 | 前沿科学、复杂开放问题 | 很高 |
小白最容易犯的错是:刚开始就想做 L4 或 L5。
更稳的路线是:
先从 L0/L1 开始,把反馈闭环跑通;
再做 L2,让 Agent 能发现新样本;
如果问题可以被代码、提示词或公式表达,再尝试 L3;
只有当评估、监控、安全、人机协同都成熟后,才考虑 L4 以上。八、真实难题和安全边界:越会发现,越要知道什么时候停
探索系统上线一段时间后,可能会出现一个问题:
Agent 越来越不探索了。它开始觉得“自己已经懂了”,于是不断选择熟悉方案。这可以理解为“好奇心枯竭”。
解决方法不是让 Agent 永远随机,而是设计“课程式探索”:先探索低风险、小成本方向,再探索中等风险、可能带来明显收益的方向,最后才探索高不确定性但高潜力方向。同时要监控探索率、新颖性、信息增益和重复失败率。
另一面是安全边界。探索能力本身是中性的,它可以用来发现新药、新材料、新算法、新产品机会,也可能被滥用到不该探索的领域。
| 边界问题 | 设计要求 |
|---|---|
| 什么不能探索 | 明确禁止方向,敏感领域不允许自动执行 |
| 什么必须审批 | 高风险候选、资金、隐私、法律、生产系统、品牌信任 |
| 什么必须记录 | 候选、理由、预期收益、风险、结果、教训、下一步 |
| 什么时候停止 | 不确定、高风险、反馈异常、连续失败时先停下来 |
| 谁来反驳 | 开放式探索不要让一个 Agent 同时负责提出、证明和评价想法 |
复杂探索更适合多 Agent 协作:有人提出,有人反驳,有人查证,有人评估,有人迭代。单个 Agent 做所有角色,容易自说自话。
九、关键设计点和常见坑
探索和发现模式要落地,关键不是算法炫技,而是把闭环设计好。
| 设计点 | 要问的问题 | 常见坑 |
|---|---|---|
| 目标 | 探索什么?什么结果算有价值? | 泛泛地产生想法,无法判断好坏 |
| 预算 | 时间、成本、流量、Token、失败次数、风险预算是多少? | 未知方向吞掉主任务资源 |
| 反馈 | 用户行为、自动评估、人工评审、业务指标从哪里来? | 探索无法学习 |
| 记录 | 为什么选它?预期收益是什么?结果和教训是什么? | 失败后不记录,下一次重复踩坑 |
| 长期价值 | 是否同时看用户体验、风险、可持续性和新知识? | 被点击率、短期转化率带偏 |
| 角色拆分 | 谁提出、谁反驳、谁评审、谁审批? | 让一个 Agent 自己提出、自己评审、自己通过 |
最小可用记录可以长这样:
{
"candidate": "探索方案",
"reason": "为什么选择它",
"expected_gain": "预期收益",
"risk": "风险判断",
"result": "实际结果",
"lesson": "沉淀经验",
"next_action": "继续、停止、扩大或修改"
}没有这张记录卡,探索就很难从“试一试”变成系统能力。
十、给小白的探索选型决策树
不同业务不需要同样复杂的探索系统。可以按下面的方式选择:
简单记:
候选少:A/B 测试。
候选多:Bandit。
候选需要生成:LLM 辅助。
候选可以自动评估:LLM + 进化。
风险高:多 Agent 评审 + 人工复核。十一、和上一篇及相关模式的关系
上一篇讲优先级排序,核心问题是:
在已知任务里,先做哪一个?探索和发现的核心问题是:
有没有值得尝试的新任务、新方向、新方案?它们刚好互补。优先级排序保证当前任务做得稳,探索和发现保证系统不会永远停在旧方法里。
探索也离不开评估、监控和记忆。评估负责判断新方案有没有更好,监控负责发现成本和风险,记忆负责保存试过什么、为什么试、结果如何、失败原因是什么、后续是否值得再试。
十二、一句话记住
探索和发现,就是让 Agent 在不丢掉稳定性的前提下,拿出一部分资源去尝试未知方向,并把每次尝试变成下一次变聪明的经验。