这篇论文探讨了如何在生成性语言模型（Generative Language Models，简称GLMs）中为用户提供算法追索（algorithmic recourse）的机制。所谓算法追索，指的是用户能够对模型的预测或输出进行改变的能力。在GLMs中，这通常涉及到对生成的文本进行毒性过滤，以确保输出内容不会冒犯或伤害用... 阅读全文

谷歌发布论文介绍了一个名为Cobra的新型多模态大语言模型（MLLM）。Cobra的设计理念是为了提高现有MLLM在处理视觉信息时的效率。传统的MLLM通常基于Transformer网络结构，这种结构虽然强大，但计算复杂度是二次方的，这意味着处理大量数据时效率较低。Cobra通过整合高效的Mamba语言模型到视觉模态中... 阅读全文

来自特拉维夫大学和SNAP的研究人员推出MyVLM，这是一种个性化视觉语言模型（Vision-Language Model，简称VLM）。MyVLM的目标是让预训练的VLM能够理解和处理用户特定的概念，例如识别图片中的特定人物或物品，并在生成文本描述时包含这些个性化信息。例如，如果你有一张包含你朋友的照片，并想知道你的... 阅读全文

Adobe推出一个名为MusicHiFi的新型高保真立体声音码器（vocoder）。声音码器是一种可以将音乐的图像表示（例如梅尔频谱图）转换为音频波形的技术。现有的大多数声音码器通常只能生成较低分辨率的单声道音频（例如16-24 kHz），这限制了它们的效果。MusicHiFi通过使用一系列生成对抗网络（GANs）来改... 阅读全文

这篇论文介绍了一个名为“Alignment Studio”的系统，它旨在帮助开发者将大型语言模型（LLMs）调整到符合特定上下文规范，例如企业的价值观、社会规范、法律法规等。这个系统特别适用于那些需要根据特定情境调整AI行为的场景，而不是仅仅依赖于模型提供商的通用调整。 介绍和举例说明： 想象一下，你是一家国际公司的I... 阅读全文

苹果发布论文介绍了一种名为“Recurrent Drafter”（简称ReDrafter）的新方法，旨在提高大语言模型（Large Language Models，简称LLMs）的解码效率。大型语言模型是人工智能领域的一种先进技术，它们通过学习大量文本数据，能够生成连贯、有意义的文本，就像人类写作一样。但是，这些模型通... 阅读全文

这篇论文的主题是关于如何评估和理解大型语言模型（LLMs）中的奖励模型（Reward Models，简称RMs）。奖励模型在训练过程中扮演着至关重要的角色，它们通过人类反馈来引导模型学习如何更好地与人类价值观和偏好相一致。简单来说，就像你在训练一只宠物时用奖励来告诉它哪些行为是好的，奖励模型也是这样告诉语言模型哪些回答... 阅读全文

Meta发布了一种使用自回归结构化语言模型重建场景的方法SceneScript。该方法使用场景语言编码器-解码器架构，直接从编码的视觉数据中推断出一组结构化的语言命令。为了训练SceneScript，作者生成并发布了一个大规模的合成数据集，名为Aria Synthetic Environments，包含10万个高质量的... 阅读全文

这篇论文探讨了一个有趣的问题：我们是否总是需要更大的视觉模型来获得更好的视觉理解？作者们提出了一种名为“Scaling on Scales”（S2）的方法，这是一种在图像尺度上进行扩展的策略，而不是简单地增加模型的大小。具体来说，他们使用了预训练的小型视觉模型（例如ViT-B或ViT-L），并在多个图像尺度上运行这些模... 阅读全文

来自中国科学技术大学、新加坡国立大学和华为云的研究团队推出3D-MoLM，它旨在帮助语言模型（LMs）理解和解释三维分子结构。想象一下，你有一个复杂的化学分子，想要了解它的具体结构和特性，但是没有专业的化学知识。3D-MoLM能够通过分析分子的三维结构和相关文本描述，生成关于这个分子的详细解释，就像一个虚拟的化学专家一... 阅读全文

来自北航的研究团队推出大语言模型微调框架LLAMAFACTORY，它是一个用于高效微调大语言模型（LLMs）的统一平台。LLAMAFACTORY通过整合一系列最新的高效训练方法，使用户能够灵活地自定义微调100多个不同的LLMs，而无需编码，只需通过内置的Web界面LLAMABOARD即可完成。LLAMAFACTORY... 阅读全文

来自浙江大学、上海科技大学、 重庆大学、 阿里巴巴集团和哈尔滨工业大学的研究团队推出HyperLLaVA，它是一种用于增强多模态大型语言模型（MLLMs）性能的技术。HyperLLaVA的目标是改进现有的MLLMs，如LLaVA，通过动态调整模型的视觉和语言处理部分，使其能够更好地理解和生成与视觉内容相关的文本。总的来... 阅读全文