大语言模型
优惠 视频大语言模型VideoLLaMA 2:为了提升视频和音频导向任务中的空间-时间建模和音频理解能力而设计
5个月前 (06-18)AI
阿里巴巴集团达摩院推出视频大语言模型VideoLLaMA 2,它是为了提升视频和音频导向任务中的空间-时间建模和音频理解能力而设计的。例如,你想让一个人工智能系统观看一段视频并回答有关视频内容的问题,或者描述视频中的场景,这就需要模型能够理解视频中的运动、物体以及它们随时间的变化,同时还得理解视频中的音频信息。Vide... 阅读全文
优惠 新颖方法Turbo Sparse:能够在保持模型性能的同时,显著减少每次推理迭代中激活的参数数量
标签:Turbo Sparse
AI
5个月前 (06-18)AI
上海交通大学并行与分布式系统研究所(IPADS)、清华大学计算机科学与技术系和上海人工智能实验室的研究人员推出新颖方法Turbo Sparse,能够在保持模型性能的同时,显著减少每次推理迭代中激活的参数数量。提高大型语言模型(LLMs)在推理(inference)过程中的效率,特别是针对那些参数量巨大的模型。通过使用T... 阅读全文
优惠 PowerInfer-2:在智能手机上实现大语言模型的高速推理,特别是对于那些模型大小超出设备内存容量的情况
标签:PowerInfer-2
AI
5个月前 (06-18)AI
上海交通大学推出PowerInfer-2,它的主要目标是在智能手机上实现大语言模型(LLMs)的高速推理,特别是对于那些模型大小超出设备内存容量的情况。PowerInfer-2是第一个能够在智能手机上以每秒11.68个token的速度运行TurboSparse-Mixtral-47B模型的系统,这是一个具有47亿参数的... 阅读全文