AI学会预判自身修改后果 进化更高效

能给自己改代码、改指令的AI智能体是当前自我进化研究的热门方向，但每次改动都可能引入新错误，而靠反复测试去验证又费时费算力。据Phys.org报道，弗吉尼亚大学、微软研究院与清华大学的研究人员提出了一套「预判式」方案：让智能体在真正测试之前，先预测一次修改会带来什么后果。论文已发布于预印本平台arXiv。

新方法构建在名为HyperAgents的自进化框架之上——该框架由两个智能体组成：一个负责干活，另一个负责修改两者的代码与指令，历史版本和成绩则存档备查。研究团队在中间加了一个「改进动力学模型」：它审视一项拟议修改、被改的智能体和既往成绩，提前预测各任务的结果，并且会区分两种失败——答案是错的，还是压根没跑完。这个区分很有价值：答错可能意味着推理能力不足，跑不完则往往说明程序本身出了毛病，对应的补救手段完全不同。

一个实际例子能看出这套预判的用处：某次修改把指令挪到了引号之外，直接弄坏了程序。负责修改的智能体其实自己也发现了错误，但工具调用次数用完还没修好。预判模型预测到会有一批任务「跑不完」，于是触发额外一轮修改——改回引号、检查语法之后，修订版智能体顺利完成了11道任务。

实验结果可圈可点：团队在每种实验条件下各跑5轮、每轮40个改进周期，发现引入预判后能更早得到更强的编码智能体。在166道与改进过程隔离的编程任务上，该方法选出的智能体中位成功率约30％，对照组HyperAgents为22％，起点智能体只有16％；即便把语言模型token预算拉平比较，优势依然保持。预判模型自身也会进化——每5轮汇总一次预测与实际结果的偏差，再决定是否采纳新版本。

团队还验证了经验的迁移能力：把在「论文录用预测」和「模拟机器人奖励设计」上共同训练出的预判器，直接搬到数学评分任务上，面对100道没见过的评分题，配了迁移预判器的智能体与专家评分完全一致的中位准确率为55％，高于用全新预判器的51％和原框架的47％。研究人员强调，这些结果并不意味着AI智能体已能取代人类评审、阅卷员或程序员，而是说明预判能帮智能体挑出真正有用的修改，且这种预测经验还能跨领域复用。

编译自 Phys.org，原标题："AI agents get better by anticipating errors in their own software changes"