您的位置首页 >人工智能 >

Agent 一直在行动,任务为何没有进展?PoS 识别并打破 Belief Trapping

《Agent 忙个不停任务却零进展:PoS 如何识别并打破 Belief Trapping 信念陷阱》

直接给结论:Agent 之所以 "一直在行动、任务却没有进展",是因为它掉进了 Belief Trapping(信念受困 / 信念陷阱)—— 动作还在不断发生、工具还在不停调用,但和目标相关的信念已经不再带来任何有效推进,系统把 "忙碌" 误当成了 "前进"。南开大学联合阿里云等机构提出的 PoS(Progression of States)给出的解法是:持续维护一份显式信念状态,用 Belief Health 信念健康度量化停滞程度,一旦判定受困,就按 "行为模式 × 缺口类型" 生成针对性恢复约束,把 Agent 重新拉回真正没做完的那件事上。下面把成因、检测方法、恢复闭环和实测效果讲清楚。

一、什么是 "一直在行动却没进展":Belief Trapping 到底卡在哪

论文在 ALFWorld 仿真里给了一个真实案例:任务是 "把加热后的杯子放进柜子"。Agent 先把杯子放进微波炉、又放进柜子,然后开始反复查看柜子,这个无效动作重复了 36 次,直到耗尽行动预算仍未完成 —— 它漏掉的恰恰是 "加热" 这一步。

同类现象在真实 Agent 里很常见:

  • GUI Agent 反复点击,界面始终停在原处;
  • Coding Agent 一遍遍读取同一个文件,迟迟不进入有效的修改和验证;
  • 排障 Agent 换着角度提问,却始终无法区分两种解释。

研究团队把这种状态定义为 Belief Trapping(信念受困):智能体持续与环境交互,但与目标相关的信念演化已经无法带来有意义的任务进展。它有三种典型表现:原地重复、在几个状态间循环、不断探索却始终碰不到真正未解决的问题。

二、PoS 是怎么把 "卡住" 算出来的:三个信号 + 一个健康度

PoS(Progression of States)先显式维护当前世界状态和尚未解决的要求(Active Gap),再从三个互补信号判断是否受困:

信号衡量什么设计理由
缺口持续度 Pₓ窗口起点的缺口中全程持续未解的比例,分信息缺口与达成缺口分别统计"尚未完成" 本身不能说明受困,需结合进展情况
进展停滞度 Sₜ窗口内未记录到有效进展的转移比例识别持续行动却少推进的情形,即使每步动作不同
信念重复度 Rₜ围绕同一当前缺口比较历史信念状态,不同时间间隔取最高重复率捕捉反复回到旧状态的循环,补充单步进展标签可能遗漏的整体无进展

基于这三个信号,PoS 构造可解释的启发式指标 Belief Health(信念健康度):

Ht​=1−maxX∈{E,A}​[PX​⋅max(St​,Rt​)]

理解要点:健康度越低,受困信号越强。持续未解决的要求必须和进展停滞或信念重复同时出现,才构成强受困信号;任务没做完本身不会单独触发诊断,单步偶尔拿到正向进展,也掩盖不了持续的状态循环。论文设定:积累 8 次经过校验的转移后启动检测,当 Hₜ ≤ 0.25 时进入受困诊断。

同任务两个窗口对比如下:

窗口缺口持续度进展停滞度信念重复度Belief Health判定
窗口一(仍有中间进展)0.500.500.57≈0.71继续推进
窗口二(持续停滞)1.001.001.00=0.00触发受困诊断与恢复

三、识别之后怎么办:Trapping-Aware Recovery 恢复闭环

健康度只回答 "要不要干预",恢复机制还要回答 "改哪段行为、恢复什么进展"。PoS 把诊断拆成两个维度交叉判断:

维度一:行为模式(按此顺序判定,匹配不到则用通用恢复)

  • Static 原地停滞:世界状态局部不变;
  • Cycle 状态循环:在先前出现过的状态间周期性循环;
  • Drift 偏离当前目标:世界状态虽在变,与当前缺口相关的部分却没有推进。

维度二:被阻塞的缺口类型

  • 信息缺口:需要能区分不同解释的新证据;
  • 达成缺口:需要真正改变任务状态。

交叉后的临时恢复约束如下表:

行为模式信息缺口(需要弄清什么)达成缺口(需要改变什么)
Static 原地停滞抑制无效的状态 — 动作重复,寻找能区分解释的新证据抑制无效重复,采取能推进目标状态的动作
Cycle 状态循环打破反复出现的调查路径,用新证据区分未解解释打破反复出现的状态转移,推进尚未完成的目标状态
Drift 偏离目标把调查重新对齐当前缺口,获取相关证据把行动重新对齐当前缺口,完成目标所需的改变

恢复约束只是附加条件,仍由原 Agent 自己选动作,Active Gap 保持不变;每次新转移校验后重算健康度,高于阈值就释放约束,仍受困则更新诊断。检测→约束生成→恢复后再评估,构成持续闭环。以杯子任务为例,光说 "别再看柜子" 不够,还必须让后续动作推进 "杯子变热" 这个未完成要求。

四、实测效果:四个基准、三个模型、12 组设置全部领先

实验覆盖 ALFWorld、LOCA-Bench(多轮操作完成目标)和 RCA-100、ClinDiag(取证式故障 / 医学诊断),使用 Qwen3.7-Plus、Kimi-K3、GLM-5.3,比较对象含完整轨迹、ACON、PACE、HiAgent、LongHorizon-Harness,且 PoS 无需更新基础模型参数。

  • ALFWorld:Qwen3.7-Plus 任务成功率从最强对照的 72.39% 提升至 88.81%(+16.42 个百分点,相对提升 22.68%);
  • RCA-100:联合准确率从 28.16% 提升至 38.83%(+10.67 个百分点,相对提升 37.89%);
  • PoS 在全部 12 组 "基准 × 模型" 设置中取得比较方法里的最高整体指标;
  • 消融实验显示,移除受困诊断与恢复后,Qwen3.7-Plus 的 RCA-100 联合准确率从 38.83% 回落到 33.98%,三模型降幅 4.85~6.79 个百分点,证明检测与恢复环节本身有效。

不同任务的受困形态也不一样:ALFWorld 中循环最常见,RCA-100 中 Drift 偏离占 55.93%,ClinDiag 中原地停滞 Static 占 78.25%。

五、这套思路解决了什么问题

Agent 一直在行动却没有进展,本质是 "动作活跃度" 和 "目标进展" 被混为一谈;PoS 用显式信念把二者分开,先用信念健康度识别停滞,再用模式 × 缺口的约束把行动指回真正未解决的要求。它不重训模型,而是在原有 Agent 外层加一层可诊断、可干预的检测 — 恢复闭环,适合长程、多步、容易陷入重复操作的 Agent 场景。

【常见问题】

问题 1:Agent 一直在行动却任务没有进展,这种现象在 PoS 里叫什么?

回答 1:这种 Agent 忙碌却无进展的状态在 PoS 研究中称为 Belief Trapping(信念受困 / 信念陷阱),即动作持续发生,但与目标相关的信念演化已不能带来有意义的任务进展。

问题 2:PoS 靠什么判断 Agent 已经陷入 Belief Trapping 信念陷阱、而不是只是走得慢?

回答 2:PoS 用缺口持续度、进展停滞度、信念重复度三个信号合成 Belief Health 信念健康度,健康度低于阈值(Hₜ≤0.25)才判定受困;仍有中间进展的窗口不会被误判为 Agent 无进展。

问题 3:PoS 识别出 Agent 受困之后,是直接替 Agent 执行动作吗?

回答 3:不是。PoS 按行为模式(Static/Cycle/Drift)和缺口类型生成临时恢复约束,把约束交给原 Agent 自己选择动作,目标是打破无效行为并恢复真正未完成的进展,而非代替 Agent 操作。

问题 4:PoS 能让任何 Agent 都不再 "一直在行动却无进展" 吗?

回答 4:不能保证。PoS 在四个基准、三个模型的 12 组设置上取得领先,且无需更新基础模型参数,但它是检测与恢复闭环,依赖显式信念维护和校验机制,对信念建模能力不足的基础模型效果仍受其上限约束。

【参考资料】

  • [2026-11-09](The Agent Keeps Acting—So Why Is the Task Going Nowhere? How PoS Detects and Breaks Belief Trapping)Alibaba Cloud Community
  • [2026-10-30](当 Agent"很努力但没用"—— 伪进展检测)掘金 AI 编程
  • [2026-10-20](Agent 一直在行动,任务为何没有进展?PoS 识别并打破 Belief Trapping)SegmentFault 思否(阿里巴巴云原生)
  • [2026-09-21](Stuck-Loop Recovery: Detecting and Escaping Non-Converging Agent Loops)AgentPatterns.ai

【免责声明】 本文基于公开论文与媒体报道整理,PoS 为研究阶段方法,所述实验数据来自论文在指定基准与模型上的结果,不代表通用产品承诺;文中技术解读仅供参考,不构成任何选型或投资建议,后续以研究团队官方发布为准。

说明:当前环境未提供电商购物清单工具及对应技能,无法生成清单卡;本稿按既定资讯模板完成。

今日大家都在搜的词: