四种模型全部失败了，没有一个能让自改进Agent成功优化自身提示词。 开发者在系列实验中记录到，Agent重写提示的尝试要么被安全门直接拒绝，要么产生的编辑无法带来净收益，这与此前9个看似正常实则带bug的系统、以及安全门拒绝4150次编辑的发现一脉相承。

四模型在提示重写任务上的具体失败表现

实验覆盖了四个不同规模和来源的模型。每个模型都被赋予相同的任务：阅读当前Agent的运行日志，找出表现不佳的任务，生成针对提示词的具体编辑建议，然后由安全门判断是否允许应用。

第一个模型在生成编辑后，安全门直接拒绝了几乎所有输出，理由是修改幅度过大或引入了潜在风险。第二个模型虽然通过了安全门，但实际应用新提示后，Agent在四个任务上的得分虽然略有提升，却在第五个任务上出现了严重退化，最终净收益为负。第三个模型产生的编辑过于保守，修改内容极少，运行结果与原提示几乎没有区别。第四个模型则反复生成循环式的“自我表扬”式修改，内容看起来像在夸自己做得好，却没有实质性调整。

这些失败不是孤立的。四个模型都无法稳定产出“既通过安全门、又带来正向净收益”的编辑。开发者观察到，模型在理解长期任务表现与提示词之间因果关系时表现得很弱，经常把短期波动当作长期趋势，或者把无关的日志噪声当作可优化的信号。最终，没有任何一个模型让整个自改进循环向前迈出有意义的一步。

这一结果与开发者此前的记录高度一致。此前他已经发现9个看似运行正常的系统实际都藏着bug，而安全门也曾在4150次编辑尝试中全部说不。这次四模型测试进一步把问题从“模型不够聪明”推向了更深层的机制缺陷。

搜索策略缺陷而非模型能力是核心瓶颈

实验结论明确指向搜索策略本身出了问题，而不是模型的原始能力不足。标题直接写道“the search strategy is broken”，这不是一句泛泛而谈。

开发者发现，即使换用更强的模型，搜索到的候选编辑质量也没有本质提升。模型能写出语法正确、看起来合理的提示修改，但这些修改在实际运行环境中几乎无法产生正向收益。搜索过程本质上是在一个极高维、极度稀疏的提示词空间里随机采样，而当前采用的评分函数、日志采样方式和净收益计算方法，都不足以引导模型找到真正有价值的点。

这就像在黑暗中用手电筒照一个巨大仓库，四个不同亮度的手电筒都只能照亮很小一块区域，且照到的东西大多是无关的杂物。问题不在于手电筒功率，而在于搜索路径和评估标准从根本上就错了。

开发者对比了前后实验数据：当把搜索策略固定，只更换底层模型时，成功率曲线几乎没有移动；而当微调搜索时的日志窗口大小、任务采样比例或净收益阈值时，结果反而出现明显波动。这进一步证明瓶颈在搜索策略，而非模型参数量或对齐程度。

安全门拒绝4150次编辑的实际运行逻辑

安全门不是简单的关键词过滤器，而是一个经过专门训练或规则强化的判断器。它在自改进循环中扮演最后一道防线，职责是阻止任何可能导致整体性能下降或引入不安全行为的提示修改。

根据系列实验记录，安全门对每一次编辑都会执行多维度检查：修改幅度是否超过设定阈值、新提示是否引入模糊指令、是否改变了关键安全约束、运行模拟结果是否在任何已知任务上出现退化等。只要有一项触发，编辑就会被拒绝。

4150次全部拒绝的记录显示，安全门的保守程度极高。它宁可让Agent保持现状，也不愿意冒险应用一个“可能更好但无法100%保证”的修改。这种设计在早期防止了大量bug，但也直接卡死了自我改进的通道。

开发者在之前的文章中提到，安全门本身成了产品。它不是副产品，而是整个系统目前最核心、最稳定的部件。正是因为它太有效，才让后续所有模型的改进尝试都撞在同一堵墙上。

自改进Agent提示重写机制的实现方式

Agent的自我提示重写流程大致如下：首先收集过去N轮的任务执行日志，包括输入、输出、人工或自动评分；然后把这些日志连同当前提示词一起喂给大模型，要求模型输出一个“diff格式”的新提示版本；接着安全门对这个diff进行审查；如果通过，就替换原提示并进入下一轮观察。

整个流程有严格约束。模型不允许直接重写整个提示，只能做局部编辑；必须提供修改理由；必须预测修改后在哪些任务上会提升、哪些可能下降。日志采样也不能是全量，必须按特定比例覆盖成功和失败案例。

这些约束的本意是降低搜索空间复杂度，同时让模型学会因果推理。但实际运行中，模型经常违反隐含的因果逻辑，或者给出的理由与实际效果对不上。开发者此前记录的“一次编辑修复了4个任务却破坏了1个”的案例，就是这种机制下典型的局部最优陷阱。

当前Agentic AI自我改进的真实局限

这一系列实验对中文开发者构建Agentic系统有直接警示。目前主流的“让LLM自己改prompt”思路在闭环自我改进上遇到了硬天花板。模型再强，也难以在高维提示空间里通过稀疏反馈找到有效方向，而过于强大的安全门又把几乎所有探索路径都堵死。

真实局限体现在三个层面：一是搜索效率极低，绝大部分算力都浪费在无效候选上；二是评估信号噪声太大，净收益计算很难区分真实改进和随机波动；三是安全与改进目标存在根本冲突，安全门越可靠，改进通道就越窄。

对中文开发者来说，这意味着不能简单把开源模型换成更大参数量就指望系统自动进化。搭建自改进Agent前，必须先把搜索策略和评估体系设计清楚，否则只会重复同样的失败。当前阶段，Agentic AI更适合在人工定义的窄领域内迭代，而不是追求完全开放的自我进化。

可行替代路径与仍未解决的问题

在搜索策略失效后，几个替代方向值得尝试。一是引入人类在环的少量高质量反馈，把模型生成的候选编辑交给人工审核后再进入训练；二是转向更结构化的提示表示，比如把提示拆成可独立优化的模块，降低搜索维度；三是使用进化算法或强化学习中的特定变体，而不是纯靠LLM生成式搜索。

还有研究者尝试让多个Agent组成种群，相互评审对方的提示修改，以此增加探索多样性。但这些路径目前都处于早期阶段，尚未有公开的、大规模验证成功的案例。

仍未解决的问题包括：如何设计一个既不过度保守、又能防止灾难性退化的安全机制？如何在缺少可靠长期反馈的情况下，给搜索过程提供可信的梯度？当任务分布随时间漂移时，旧的净收益标准是否仍然有效？这些问题目前都没有明确答案。

实验最终表明，自改进Agent的浪漫想象与工程现实之间仍有巨大鸿沟。搜索策略的突破可能比单纯堆模型参数更重要，而在这之前，大多数开发者仍需依靠人工迭代来推动Agent能力提升。

参考来源