优惠 用于压缩大语言模型提示词的新方法LLMLingua-2

来自清华和微软的研究团队推出LLMLingua-2，它是一种用于压缩大语言模型（LLMs）提示词（prompts）的新方法，目的是在不丢失关键信息的同时提高效率和泛化能力。在大语言模型的使用中，提示词通常是一段文本，用来引导模型生成特定的输出或完成特定的任务。然而，这些提示可能会非常长，导致计算成本增加和信息感知能力下... 阅读全文