官方网站-首页

2025 年是 agent 爆发之年。

基于处理复杂、多步骤任务以及与不同环境实时互动的能力，由大语言模型（LLM）驱动的 agent 系统，尤其是多 agent 系统（MAS），被认为非常适合用来解决现实世界中的问题，也因此被越来越多地应用在各个领域中，如软件工程、药物发现、科学模(mó)拟(nǐ)，以(yǐ)及(jí)通用 agent 系统。

然而，相比于单个 agent 系统甚至(zhì)更(gèng)简(jiǎn)单(dān)的(de) baseline，多(duō) agent 系(xì)统(tǒng)却(què)在(zài)处(chù)理(lǐ)实(shí)际(jì)问题时更易出错。如下图所示，AppWorld 的故障率可高达 86.7%。

图｜使用 GPT-4o 和 Claude-3 的 5 种常用多 agent LLM 系统的故障率

这是为什么呢？来自加州大学伯克利分校和意大利联合圣保罗银行的研究团队给出了答案——

他们首次对多 agent 系统面临的挑战进行了全面研究，并确定了 14 种独特的故障模式，并划分为 3 大类：（1）规范和系统设计故障；（2）agent 间错位；（3）任务验证和终止。

相关研究论文以“Why Do Multi-Agent LLM Systems Fail?”为题，已发表在预印本网站 arXiv 上。

论文链接：https://arxiv.org/abs/2503.13657

具体而言，他们提出了首个基于经验的多 agent 系统故障分类法——MASFT，理解和缓解多 agent 系统故障提供了一个结构化框架。

同时，他们也开发了一个可扩展的“LLM-as-a-judge”评估管道，用于分析新的多 agent 系统性能和诊断故障模式。

另外，针对 agent 规范、对话管理和验证策略，他们还进行了干预研究，尽管将任务完成率提高了 14%，但仍未能完全解决多 agent 系统故障问题，这凸显了结构性多 agent 系统重新设计的必要性。

此外，他们也将研究成果进行开源，包括：

150 多个标注的多 agent 系统会话轨迹；

可扩展的 LLM-as-a-judge 评估管道和 150 多个轨迹的 LLM 标注；

15 个选定轨迹的详细专家标注。

多达 14 种故障模式

在这项工作(zuò)中(zhōng)，研(yán)究(jiū)团(tuán)队(duì)使(shǐ)用(yòng)了(le)扎(zhā)根(gēn)理(lǐ)论(lùn)（Grounded Theory）这(zhè)一(yī)定(dìng)性(xìng)研(yán)究(jiū)方(fāng)法(fǎ)，直(zhí)接(jiē)从(cóng)经(jīng)验(yàn)数(shù)据(jù)中(zhōng)构(gòu)建(jiàn)理(lǐ)论(lùn)，而(ér)不(bù)是(shì)检(jiǎn)验(yàn)预(yù)定(dìng)义(yì)的(de)假(jiǎ)设(shè)，使(shǐ)故(gù)障(zhàng)模(mó)式(shì)的(de)识(shi)别(bié)有(yǒu)机(jī)地(de)产(chǎn)生(shēng)。

他(tā)们(men)通(tōng)过(guò)理(lǐ)论(lùn)抽(chōu)样(yàng)、开(kāi)放(fàng)式(shì)编(biān)码(mǎ)、持(chí)续(xù)比(bǐ)较(jiào)分(fēn)析(xī)、备(bèi)忘(wàng)录(lù)和(hé)理(lǐ)论(lùn)化(huà)等(děng)方(fāng)法(fǎ)反(fǎn)复(fù)收(shōu)集和(hé)分(fēn)析(xī)多(duō) agent 系(xì)统(tǒng)的(de)执(zhí)行(xíng)轨(guǐ)迹(jī)，获(huò)得(de)多(duō) agent 系(xì)统(tǒng)跟(gēn)踪(zōng)记(jì)录(lù)并(bìng)讨(tǎo)论(lùn)初(chū)步(bù)发(fā)现(xiàn)后(hòu)，通(tōng)过(guò)收(shōu)集观(guān)察(chá)到(dào)的(de)故(gù)障(zhàng)模(mó)式(shì)得(de)出(chū)了(le) MASFT。

图｜系统研究多 agent 系统的方法流程

为了实现自动故障识别，他们开发了基于 LLM 的标注器，并验证了它的可靠性。

然后，他们进行了标注器之间的协议研究，通过添(tiān)加(jiā)、删除、合并、拆分或修改定义反复调整故障模式和故障类别，直到达成共识。这一过程反映了一种学习方法，即不断完善分类法，直至达到稳定性，并通过 Kappa 系数来衡量标注器之间的一致性。

图｜多 agent 系统故障模式分类法

最终，MASFT 包含了(le) 3 个(gè)总(zǒng)体(tǐ)故(gù)障(zhàng)类别：规范和系统设计故障；agent 间错位；任务验证和终止，确定了多 agent 系统在执行过程中可能遇到的 14 种细粒度故障模(mó)式(shì)。

MASFT 还将多 agent 系统的执行划分为 3 个阶段：执行前、执行中和执行后，确定了每个细粒度故障模式可能发生的多 agent 系统执行阶段。

图｜多 agent 系统故障类别相关矩阵

另外，他们发现，多 agent 系统面临着与复杂的人类组织类似的问题，其故障模式与在人类组织中观察到的常见故障模式一致。“不要求澄清”破坏了“尊重专业知识”，“agent 错位”体现了加强等级区分和协调角色分配的必要性。

多 agent 协作的有效性，仍有待提高

针对以上所有的故障类别，研究团队提出了战术策略和结构策略。

战术策略涉及针对特定故障模式的直接修改，如改进提示、agent 网络的拓扑结构和对话管理。然而，两个案例研究证明，这些方法的有效性并不一致。

结构策略，即对整个系统有影响的更全面的方法：强验证、增强型通信协议、不确定性量化以及内存和状态管理。这些策略需要更深入的研究和细致的实施，仍是有待未来探索的研究课题。

图｜多 agent 系统的解决策略和故障分类

研究团队在两个案例研究中应用了这些策略方法。

在第一个案例中，他们使用(yòng) AG2 中(zhōng)的(de) MathChat 场(chǎng)景实现作为基线，在该场景中，学生 agent 与能够执行 Python 代码的助理 agent 合(hé)作(zuò)解(jiě)决(jué)问(wèn)题(tí)。

为(wèi)了(le)进(jìn)行(xíng)基(jī)准(zhǔn)测(cè)试(shì)，他(tā)们(men)从(cóng) GSM-Plus 数(shù)据(jù)集中(zhōng)随(suí)机(jī)选(xuǎn)取(qǔ)了(le) 200 个(gè)练(liàn)习(xí)。第(dì)一(yī)种(zhǒng)策(cè)略(è)是(shì)改(gǎi)进(jìn)原(yuán)始(shǐ)提(tí)示(shì)，使(shǐ)其(qí)具(jù)有(yǒu)清(qīng)晰(xī)的(de)结(jié)构(gòu)和(hé)专(zhuān)门(mén)用(yòng)于(yú)验(yàn)证(zhèng)的(de)新(xīn)部(bù)分(fēn)。第(dì)二(èr)种(zhǒng)策(cè)略(è)是(shì)将(jiāng) agent 配置细化为一个更专业的系统，其(qí)中(zhōng)包(bāo)含(hán)三(sān)个(gè)不(bù)同(tóng)的(de)角(jiǎo)色(sè)：问(wèn)题(tí)解(jiě)决(jué)者(zhě)（Problem Solver），不(bù)使(shǐ)用(yòng)工(gōng)具(jù)，使(shǐ)用(yòng)思(sī)维(wéi)链(liàn)方(fāng)法(fǎ)解(jiě)决(jué)问(wèn)题(tí)；编(biān)码(mǎ)者(zhě)（Coder），编(biān)写(xiě)并(bìng)执(zhí)行(xíng) Python 代码，得出最终答案；验证者（Verifier），审查讨论并批判性地评估解决方案，要么确认答案，要么引发进一步讨论。

在这种情况下，一旦找到解决方案，只有验证人可以终止对话。

在第二个案例中，ChatDev 模拟了一个多 agent 软件公(gōng)司(sī)，不(bù)同(tóng)的(de) agent 有(yǒu)不(bù)同(tóng)的(de)角(jiǎo)色(sè)定(dìng)位(wèi)，如(rú)首(shǒu)席(xí)执(zhí)行(xíng)官(guān)、首(shǒu)席(xí)技(jì)术(shù)官(guān)、软(ruǎn)件(jiàn)工程师和审核员，他们试图合作解决一个软件生成任务。

他们实施了两种不同的干预措施。第一个是改进特定角色的提示，以强化层次结构和角色一致性；第二个是尝试涉及对框架拓扑结构的根本性改变，将框架的停止结构从有向无环图（DAG）修改为循环图。

现在，只有当 CTO agent 确认所有审查都得到适当满足时，该过程才会终止，并设定(dìng)了(le)最(zuì)大(dà)迭(dié)代(dài)截(jié)止(zhǐ)时(shí)间(jiān)，以(yǐ)防(fáng)止(zhǐ)出(chū)现(xiàn)无(wú)限(xiàn)循(xún)环(huán)。这(zhè)种(zhǒng)方(fāng)法(fǎ)可(kě)以(yǐ)实(shí)现(xiàn)迭(dié)代(dài)改(gǎi)进(jìn)和(hé)更(gèng)全面(miàn)的(de)质(zhì)量(liàng)保(bǎo)证(zhèng)。

图｜各种方案的性能准确度

研究团队表示，许多“显而易见”的解决方案实际(jì)上(shàng)存(cún)在(zài)严(yán)重(zhòng)的(de)局限性，需要概述的结构性策略来实现更加一致的改进(jìn)。

考(kǎo)虑(lǜ)到(dào)目前多 agent 协调中的信息冗余与冲突，协作中放大的模型偏差，未来的多 agent 系统需要做到快速响应、实时验证和动态协调，以提高团(tuán)队(duì)协(xié)作(zuò)的有效性。

“基于 LLM 的多 agent，在分布式科研协作、应急响应系统等领域仍具有一定的潜力。”

作者：与可