中国科学技术大学和 上海人工智能实验室的研究团队推出Agent-FLAN，它旨在改进大语言模型（LLMs）作为智能代理（agents）的能力。智能代理是指能够理解环境、做出决策并采取行动的系统。尽管现有的LLMs在各种自然语言处理（NLP）任务中表现出色，但它们在作为代理时的性能仍然不如基于API的模型。Agent-FLAN通过精心设计的训练数据和方法，有效地调整了LLMs，使其在各种代理评估数据集上的性能显著提高。Agent-FLAN是一个强大的工具，它通过改进训练数据和方法，显著提高了LLMs在代理任务上的性能，并且能够有效地减少幻觉问题，使其更适合在现实世界中部署。
项目主页：https://internlm.github.io/Agent-FLAN/
GitHub：https://github.com/InternLM/Agent-FLAN
主要功能和特点：
- 改进代理能力： Agent-FLAN通过重新设计训练语料库，使得LLMs在代理任务上的表现超越了以往的最佳工作。
- 减少幻觉问题： 通过构建负面样本，Agent-FLAN大大减少了LLMs在代理任务中的幻觉（hallucination）问题，即生成不真实或无意义的文本。
- 提升通用能力： 在提升代理能力的同时，Agent-FLAN还能略微增强LLMs的通用能力。
工作原理： Agent-FLAN的工作基于三个关键观察结果：
- 代理训练数据通常混合了格式遵循和代理推理，这与模型预训练数据的分布（自然对话）有显著差异。
- LLMs在代理任务所需的不同能力上表现出不同的学习速度。
- 现有方法在提升代理能力时可能会引入幻觉问题。
基于这些观察，Agent-FLAN采取了以下步骤：
- 将代理训练语料库中的格式遵循和通用推理分开，使训练过程与预训练领域（聊天）保持一致。
- 进一步将代理任务分解为不同的能力方面，根据各自不同的学习速率进行数据平衡。
- 构建了Agent-H基准测试，从多个角度评估LLMs的幻觉问题，并精心策划了多样化的“负面”训练样本来有效缓解这个问题。
具体应用场景：
- 交互式问答系统： Agent-FLAN可以用于构建能够理解和回答复杂问题的智能问答系统。
- 自动化客户服务： 它可以作为客户服务代理，处理用户的查询并提供有用的信息或解决方案。
- 虚拟助手： 在智能家居、在线购物和日常计算机任务中，Agent-FLAN可以帮助用户执行各种任务。
0条评论