西北大学和微软的研究人员推出一种新型大语言模型（LLMs）的自我探索方法，称为“自探索语言模型”（Self-Exploring Language Models，简称SELM）。这种方法专门用于在线对齐大型语言模型，即通过人类的反馈来调整和优化语言模型的行为，使其更好地遵循人类的意图。实验结果表明，当SELM应用于Zep... 阅读全文

谷歌推出一种新的强化学习方法，名为“价值激励的偏好优化”（Value-Incentivized Preference Optimization，简称VPO）。这种方法特别适用于在线和离线环境中的人类反馈强化学习（Reinforcement Learning from Human Feedback，简称RLHF）。RLH... 阅读全文

Meta推出新技术Nest（Nearest Neighbor Speculative Decoding，最近邻推测解码），它旨在改善大语言模型（LLMs）在生成文本时的准确性和归因能力。大型语言模型虽然在多种任务上表现出色，但它们有时会生成与现实不符的“幻觉”内容，并且在提供生成内容的来源归因方面存在不足。 主要功能：... 阅读全文

Google DeepMind推出新型多塔解码器架构Zipper，它能够将多个在不同模态上独立预训练的生成模型融合在一起，创造出比单独模型更强大的多模态生成能力。简单来说，Zipper就像一个多才多艺的艺术家，能够把不同的艺术形式（比如语言、声音和图像）融合在一起，创作出新的艺术作品。论文还提到了Zipper的一些限制... 阅读全文

Google DeepMind推出一种新的强化学习方法DRO（Direct Reward Optimisation，直接奖励优化），用于大语言模型（LLM）的对齐。这种方法旨在改善大型语言模型的行为，使其更好地符合人类的偏好。这很重要，因为一个好的语言模型不仅需要智能，还需要能够生成对用户有帮助且安全的内容。 主要功能... 阅读全文

谷歌发布论，探讨了大语言模型（LLMs）在发展高级心理理论（Theory of Mind，ToM）方面的能力。心理理论是一种人类能力，它允许我们推理和理解自己和他人的多重心理和情感状态，并且能够递归地进行推理（例如，我认为你相信她知道）。例如，你正在开发一个虚拟助手，它需要理解用户的情感状态以提供更好的支持。如果这个虚... 阅读全文

蚂蚁集团推出新型检索增强型文本生成框架METRAG（Multi-layered Thoughts enhanced Retrieval-Augmented Generation），这个框架旨在解决现有大语言模型（LLMs）在知识密集型任务中遇到的一些问题，比如知识更新的不及时、成本问题以及生成幻觉（即生成与事实不符的内... 阅读全文

中国科学院自动化研究所、清华大学和微软亚洲研究院的研究人员推出综合性大语言模型（LLMs）对齐方法套件Xwin-LM，Xwin-LM的目标是确保这些强大的语言模型能够与人类的期望和价值观保持一致，尤其是当它们被集成到各种应用程序中并被广泛使用时。Xwin-LM是一个为大语言模型提供对齐方法的套件，它通过一系列技术手段提... 阅读全文

上海交通大学和微软的研究人员推出Parrot，它是为了更高效地提供基于大语言模型（LLM）的应用程序服务而设计的。例如，有一个智能助手，它能够理解你的语言并帮你完成各种任务，比如写邮件、搜索信息、编写代码等。但是，如果这个助手每次都要从头开始理解你的请求，那么它可能不会那么高效。Parrot系统就是为了解决这个问题而诞... 阅读全文

微软在人工智能领域不断创新，去年将Bing AI（现更名为Microsoft Copilot）集成到了Microsoft Edge浏览器中，随后又推出了Suno AI音乐创作功能，用于制作个性化歌曲。确实，Copilot是一个非常实用的AI工具，它采用了OpenAI的GPT-4模型。如果使用频率不高，Copilot无疑... 阅读全文

AI搜索引擎Perplexity AI近期推出了一项名为“Pages”的创新功能。这项功能能够基于页面搜索结果，自动生成格式规范、内容丰富的报告、文章或指南。 如何使用Perplexity Pages？ 撰写特定主题的报告变得简单快捷。以“撒哈拉沙漠”为例，您只需在Pages中输入相关提示词，比如“有关撒哈拉沙漠的信息... 阅读全文

LMSYS Org推出的大模型竞技场Chatbot Arena已成为海外知名的大模型榜单，但其中文化程度尚显不足。为了填补这一空白，上海人工智能实验室联合魔搭社区推出了中国大语言模型评测竞技场Compass Arena，首次集结了国内主流的大模型阵容，包括阿里通义千问、百度文心一言、腾讯混元等20款国产大模型，竞逐中国... 阅读全文