一、先说结论:探索和发现,就是让 Agent 不只会做已知任务,还能主动寻找新机会

前面很多 Agent 设计模式,解决的是“怎么把一件已知任务做好”。

这一章讲的 探索和发现,解决的是另一个更难的问题:

当答案还不知道、路径还不明确、目标空间很大时,Agent 怎么主动尝试新方向,并从尝试中找到更好的方案。

用一句人话讲:

探索和发现,就是让 Agent 在“稳妥做已知的事”和“冒险试未知的事”之间,做出合理平衡。

如果一个 Agent 只会利用已有经验,它会很稳定,但容易卡在局部最优;如果它只会到处乱试,它可能偶尔发现惊喜,但大部分时间都在浪费资源。

真正有用的探索,不是瞎试,而是有预算、有方向、有反馈、有记录的系统化尝试。


二、为什么需要探索:只会走熟路的 Agent,很难发现新东西

可以把 Agent 想象成两种角色。

一种是出租车司机。乘客告诉它目的地,它负责选择路线,把人安全送到。这个任务很明确:从 A 到 B,越快越好。

另一种是探险家。没人告诉它终点在哪里,它要离开熟悉的地图,去未知区域寻找可能有价值的新大陆。

大多数业务 Agent 一开始都是“出租车司机”:用户问问题,它回答;用户给任务,它执行;系统给目标,它优化;流程写好了,它照着跑。

这当然有价值,但它解决的是“已知问题”。真正难的是:用户的问题类型变了,Agent 能不能发现新模式?市场出现新机会,Agent 能不能提出新实验?工具链里有多个方案,Agent 能不能逐渐学会哪个更适合当前任务?

这就是探索和发现的意义。它让 Agent 不只是执行者,也能成为“发现者”。


三、探索到底在做什么:4 个关键动作

探索不是随机乱试。一个可用的探索系统,通常包含 4 个动作:

提出候选方向 → 选择要尝试的方向 → 执行并收集反馈 → 更新策略
流程图画布 · 115%
Mermaid 流程图加载中...

第一步是生成候选方向。候选项可以是一个新工具、一条新路线、一个新提示词、一个新实验方案、一个新产品策略,或者一个从未尝试过的用户分群。如果候选项质量太差,后面的选择算法再聪明也没用。

第二步是选择尝试方向。Agent 面前通常有两类选择:

选择做什么风险
利用选择当前已知最好的方案容易停在局部最优
探索选择还不确定、但可能更好的方案可能浪费资源或影响体验

比如一个推荐 Agent 已经知道用户喜欢科技文章。它可以继续推荐科技文章,这叫利用;也可以偶尔推荐一本商业传记或一篇心理学文章,看看用户是否感兴趣,这叫探索。

关键不是“要不要探索”,而是:什么时候探索?探索多少?探索哪个方向?探索失败后怎么处理?

第三步是收集反馈。一次探索有没有价值,不能只看“试了没有”,还要看有没有结果回收。

第四步是更新策略。哪些方向值得继续试,哪些方向应该减少尝试,哪些条件下某个方案更有效,哪些失败可以避免重复发生,都要写回记忆或知识库。


四、什么样的东西值得探索:三种内在奖励

在很多场景里,外部奖励并不会马上出现。科研 Agent 提出一个假设,短时间内不一定知道它是否正确;产品 Agent 提出一个新功能方向,也不一定马上看到收入变化。

这时就需要“内在奖励”:即使暂时没有最终收益,Agent 也能判断某个方向是否值得继续探索。

内在奖励关注什么适合场景简单记法
新颖性状态、问题、样本或方案是否和过去不一样内容发现、用户问题聚类、异常样本、新需求识别没见过
信息增益尝试后能不能明显减少不确定性A/B 测试、科研实验、市场策略、模型路由试了更明白
惊讶性实际结果是否明显偏离预期异常检测、运维监控、风险识别、业务洞察结果不符合预期

比如客服 Agent 发现最近有一批用户问题不属于任何旧分类,就应该把它标成“新型问题”,而不是强行塞进旧标签。

再比如系统以为某类用户不喜欢长文,但实验发现他们反而读完率很高。这个“反常结果”就值得继续研究。


五、常见实现方式:从简单随机到进化搜索

探索可以有很多实现方式,不同复杂度适合不同场景。

方法核心思路适合场景注意点
ε-greedy大部分时间选当前最好方案,少部分时间随机试其他方案选项少、风险低、初期验证简单,但随机探索不够聪明
UCB给表现好和尝试少的方案都一点机会推荐、路由、实验分配需要记录收益和尝试次数
Thompson Sampling用概率分布表达不确定性,再抽样选择广告、推荐、模型路由实现比 ε-greedy 稍复杂
LLM 辅助探索让模型生成新候选方向提示词、产品策略、代码实现、研究假设LLM 负责生成,不要直接拍板
LLM + 进化搜索生成变体、评估、保留好方案、继续变异提示词优化、SQL 优化、规则策略、代码片段搜索必须有可靠评估器

ε-greedy 最容易理解:

如果随机数 < ε:
    随机选择一个方案
否则:
    选择当前平均回报最高的方案

LLM 的价值不在于“替系统做最终判断”,而在于生成传统算法想不到的新候选。更稳的结构是:

LLM 提出方向 → 规则/评估器打分 → Bandit 或人工选择 → 小流量验证 → 结果写回记忆

如果问题可以被文本、代码、公式或配置表达,还可以让 LLM 充当“变异器”:

流程图画布 · 115%
Mermaid 流程图加载中...

这类系统的关键不是让 LLM 一次写出完美答案,而是让它不断产生可评估的变体,再用评估器筛选。


六、完整案例:用探索机制优化一个产品增长 Agent

假设我们要做一个产品增长 Agent,它的目标是:

持续发现并验证可以提升新用户次日留存率的实验方案。

这个任务很适合探索。因为没有人一开始就知道哪个方案最好,只能不断提出假设、做实验、看结果、再迭代。

先定义目标和边界:

目标:提升新用户次日留存率
主指标:D1 留存率
辅助指标:注册完成率、首次关键行为完成率、用户投诉率、实验成本
约束:不误导用户;不过度打扰;不牺牲长期信任;每周最多上线 3 个实验;样本量达标后再判断

然后生成候选实验。每个候选都要说清楚假设、指标、风险和新颖性:

{
  "name": "根据用户来源定制引导页",
  "hypothesis": "不同来源用户意图不同,个性化引导可以提升激活率",
  "metric": "激活率、D1 留存率",
  "risk": "需要更多埋点和配置成本",
  "novelty": 5
}

候选实验不应该直接上线,可以先用一个轻量公式排序:

实验分数 =
30% × 预期收益
+ 25% × 信息增益
+ 20% × 新颖性
- 15% × 成本
- 10% × 风险

新颖性不是越高越好。一个新颖但高风险的方案,不一定应该马上上线。它可能应该先做小流量验证,或者让人工审核。

如果有多个实验同时可选,可以用 Bandit 思路分配流量:一开始每个实验都给一点流量;表现好的实验获得更多流量;表现差的实验减少流量;不确定但潜力大的实验继续保留少量探索机会。

实验结束后,Agent 要把结果写回记忆和知识库:

{
  "experiment_id": "EXP-2026-061",
  "result": "positive",
  "impact": { "activation_rate": "+6.2%", "d1_retention": "+2.1%" },
  "lesson": "搜索广告用户更需要明确价值解释,邀请链接用户更需要快速协作入口。",
  "next_suggestion": "继续探索不同来源用户的首页默认任务差异。"
}

最后加入人工复核。低风险实验可以让 Agent 自动排期小流量测试;中风险实验需要产品经理确认;涉及隐私、强提醒、价格策略、诱导点击、大流量放量和品牌信任的高风险实验,必须让产品、法务、运营共同确认。

探索不是做完就结束。真正的价值在于把一次实验变成下一次探索的起点。


七、探索的层级:不要一上来就做“自主科研 Agent”

探索能力可以分层建设,不必一开始就做很复杂。

层级做什么适合场景成本
L0简单 A/B 测试文案、按钮、推荐位很低
L1Bandit 动态分配推荐、广告、模型路由
L2好奇心驱动探索爬虫、浏览器 Agent、新问题发现
L3LLM + 进化搜索代码、提示词、公式、策略优化中高
L4多 Agent 科研探索假设生成、实验设计、文献综合
L5自主发现系统前沿科学、复杂开放问题很高

小白最容易犯的错是:刚开始就想做 L4 或 L5。

更稳的路线是:

先从 L0/L1 开始,把反馈闭环跑通;
再做 L2,让 Agent 能发现新样本;
如果问题可以被代码、提示词或公式表达,再尝试 L3;
只有当评估、监控、安全、人机协同都成熟后,才考虑 L4 以上。

八、真实难题和安全边界:越会发现,越要知道什么时候停

探索系统上线一段时间后,可能会出现一个问题:

Agent 越来越不探索了。

它开始觉得“自己已经懂了”,于是不断选择熟悉方案。这可以理解为“好奇心枯竭”。

解决方法不是让 Agent 永远随机,而是设计“课程式探索”:先探索低风险、小成本方向,再探索中等风险、可能带来明显收益的方向,最后才探索高不确定性但高潜力方向。同时要监控探索率、新颖性、信息增益和重复失败率。

另一面是安全边界。探索能力本身是中性的,它可以用来发现新药、新材料、新算法、新产品机会,也可能被滥用到不该探索的领域。

边界问题设计要求
什么不能探索明确禁止方向,敏感领域不允许自动执行
什么必须审批高风险候选、资金、隐私、法律、生产系统、品牌信任
什么必须记录候选、理由、预期收益、风险、结果、教训、下一步
什么时候停止不确定、高风险、反馈异常、连续失败时先停下来
谁来反驳开放式探索不要让一个 Agent 同时负责提出、证明和评价想法

复杂探索更适合多 Agent 协作:有人提出,有人反驳,有人查证,有人评估,有人迭代。单个 Agent 做所有角色,容易自说自话。


九、关键设计点和常见坑

探索和发现模式要落地,关键不是算法炫技,而是把闭环设计好。

设计点要问的问题常见坑
目标探索什么?什么结果算有价值?泛泛地产生想法,无法判断好坏
预算时间、成本、流量、Token、失败次数、风险预算是多少?未知方向吞掉主任务资源
反馈用户行为、自动评估、人工评审、业务指标从哪里来?探索无法学习
记录为什么选它?预期收益是什么?结果和教训是什么?失败后不记录,下一次重复踩坑
长期价值是否同时看用户体验、风险、可持续性和新知识?被点击率、短期转化率带偏
角色拆分谁提出、谁反驳、谁评审、谁审批?让一个 Agent 自己提出、自己评审、自己通过

最小可用记录可以长这样:

{
  "candidate": "探索方案",
  "reason": "为什么选择它",
  "expected_gain": "预期收益",
  "risk": "风险判断",
  "result": "实际结果",
  "lesson": "沉淀经验",
  "next_action": "继续、停止、扩大或修改"
}

没有这张记录卡,探索就很难从“试一试”变成系统能力。


十、给小白的探索选型决策树

不同业务不需要同样复杂的探索系统。可以按下面的方式选择:

流程图画布 · 115%
Mermaid 流程图加载中...

简单记:

候选少:A/B 测试。
候选多:Bandit。
候选需要生成:LLM 辅助。
候选可以自动评估:LLM + 进化。
风险高:多 Agent 评审 + 人工复核。

十一、和上一篇及相关模式的关系

上一篇讲优先级排序,核心问题是:

在已知任务里,先做哪一个?

探索和发现的核心问题是:

有没有值得尝试的新任务、新方向、新方案?

它们刚好互补。优先级排序保证当前任务做得稳,探索和发现保证系统不会永远停在旧方法里。

探索也离不开评估、监控和记忆。评估负责判断新方案有没有更好,监控负责发现成本和风险,记忆负责保存试过什么、为什么试、结果如何、失败原因是什么、后续是否值得再试。


十二、一句话记住

探索和发现,就是让 Agent 在不丢掉稳定性的前提下,拿出一部分资源去尝试未知方向,并把每次尝试变成下一次变聪明的经验。