来自卡内基梅隆大学、华盛顿大学和Meta的研究人员提出了一种新的训练方法预指令调优（Pre-Instruction-Tuning，简称PIT），让大语言模型在处理新文档时更有效地吸收和应用知识。总的来说，这篇论文提出了一种新的方法来提升LLMs的知识吸收和应用能力，这对于构建更加智能和适应性强的AI系统具有重要意义。
论文地址：https://arxiv.org/abs/2402.12847
主要功能：
- 提高LLMs在处理新文档时的知识吸收能力。
- 通过预指令调整，使LLMs在回答问题时能够更好地利用文档中的知识。
主要特点：
- 预指令调整（PIT）： 在继续在文档上进行预训练之前，先对问题-答案（QA）对进行指令调整，这样LLMs在编码复杂文档的知识时，会考虑到如何通过问题来访问这些知识。
- 知识吸收增强： PIT方法显著提高了LLMs从新文档中吸收知识的能力，比标准指令调整方法提高了17.8%。
- 跨领域泛化： PIT方法不仅在特定领域内有效，还能跨领域应用，显示出较强的泛化能力。
工作原理：
- 第一阶段（预指令调整）： LLMs首先在QA对上进行训练，学习如何通过问题来访问知识。然后，模型在结合了QA对和相关文档的数据上进行训练，以增强从信息密集型文档中吸收知识的能力。
- 第二阶段（继续预训练）： 在掌握了QA对后，LLMs继续在文档上进行预训练，以进一步巩固和提升其知识存储和检索能力。
具体应用场景：
- 知识更新： 在需要LLMs不断更新其知识库的应用中，如智能助手、问答系统等，PIT可以帮助模型更快地适应新信息。
- 跨领域应用： 在需要模型在不同领域都能有效回答问题的场景中，PIT的跨领域泛化能力尤为重要。
- 教育和研究： 在教育工具和研究领域，PIT可以帮助创建能够理解和回答复杂问题的智能系统。
0条评论