我们能否依靠法学硕士代理人起草长期计划？让我们以TravelPlanner为例

这篇论文研究了大型语言模型（LLMs）在制定长期计划方面的能力，使用了一个名为TravelPlanner的现实基准。它探讨了LLMs在处理复杂、嘈杂背景下的稳健性，以及它们通过反馈和微调来提高的能力。研究引入了反馈感知微调（FAFT），结合了正面和负面反馈，并显示出它明显优于传统的监督微调（SFT）。这项研究具有重要意义，因为它为LLMs在实际规划应用中的局限性和潜在增强提供了见解，这是迈向人工通用智能（AGI）的一步。对于那些对人工智能规划和自然语言处理交叉领域以及更自主、更有能力的AI代理的发展感兴趣的人来说，这是特别值得关注的。- 大型语言模型（LLMs）使得自主代理人更接近人工通用智能（AGI）。 - 缺乏关于LLM代理人行为的研究，以及为什么它们有可能失败以及如何改进它们的研究。 - 使用TravelPlanner作为基准，研究LLM代理人在实际规划任务中的表现。 - 提出四个关键研究问题：LLM代理人在推理和规划方面是否足够强大？少量提示是否会对LLM代理人在长篇背景下的表现产生不利影响？我们是否可以依赖改进来提高规划？将LLMs进行正反馈微调是否能进一步提高性能？ - 实验结果表明，LLMs在长篇背景下往往无法关注到关键部分，仍然难以分析长期规划并提供准确的反馈。 - 提出了反馈感知微调（FAFT）方法，利用正反馈和负反馈进行微调，取得了显著的改进。 - 研究结果为实际规划应用提供了深入的见解。