大语言模型
优惠 ChunkAttention:提高大语言模型(LLMs)在处理长序列时的自注意力(self-attention)模块的效率
6个月前 (02-26)AI
微软发布论文介绍了一种名为ChunkAttention的新方法,它旨在提高大语言模型(LLMs)在处理长序列时的自注意力(self-attention)模块的效率。自注意力是LLMs的核心组成部分,但在推理长序列时会导致显著的延迟。ChunkAttention通过利用多个LLM请求共享系统提示(system promp... 阅读全文
优惠 AgentOhana:为了解决大语言模型(LLMs)在代理任务中面临的数据多样性和复杂性问题而设计
6个月前 (02-26)AI
Salesforce的研究人员发布论文介绍了一个名为AgentOhana的系统,它是为了解决大语言模型(LLMs)在代理任务中面临的数据多样性和复杂性问题而设计的。AgentOhana的目标是将来自不同环境的代理轨迹数据整合到一个统一的格式中,以便更有效地训练和优化AI代理。 论文地址:https://arxiv.or... 阅读全文
优惠 Open WebUI – 仿照 ChatGPT,为本地大语言模型提供图形化界面的开源项目
6个月前 (02-26)AI
Open WebUI 是一个仿照 ChatGPT 界面,为本地大语言模型提供图形化界面的开源项目,可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型(包括 Ollama 和 OpenAI 兼容的 API),也支持远程服务器。Docker 部署简单,功能非常丰富,包括代码高亮、数学公式、网页浏览、预设提示... 阅读全文
优惠 微软开源生成式AI风险识别工具PyRIT,用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险
6个月前 (02-26)AI
微软2月22日发布了一款开源自动化框架PyRIT,这是一款Python风险识别工具包,用于帮助安全专业人士和机器学习工程师识别生成式AI系统的风险。微软的AI红队已使用该工具检查包括Copilot在内生成式AI系统中风险。PyRIT 框架的工作原理是:PyRit Agent向目标生成式AI系统发送恶意提示词,在收到生成... 阅读全文
优惠 基于AI技术和视觉化手段打造的新一代知识图谱搜索工具「Globe Explorer」
7个月前 (02-25)AI
「Globe Explorer」是一款致力于革新知识获取与解析方式的创新工具,它巧妙地运用AI技术和视觉化手段,旨在打造一个基于真实来源、层次分明、图文并茂的知识图谱世界。不同于传统搜索引擎简单的信息罗列,「Globe Explorer」以独特的架构化和可视化的形式,引领用户轻松纵览复杂知识体系,并深挖各个细节。 核心... 阅读全文
优惠 阿里巴巴推出多智能体平台AgentScope:帮助开发者更容易地构建和协调大语言模型(LLMs)的多智能体应用
7个月前 (02-24)AI
阿里巴巴推出多智能体平台AgentScope,它旨在帮助开发者更容易地构建和协调大语言模型(LLMs)的多智能体应用。AgentScope以消息交换为核心通信机制,提供了丰富的语法工具、内置资源和用户友好的交互方式,显著降低了开发和理解的难度。为了实现健壮和灵活的多智能体应用,AgentScope提供了内置和可定制的容... 阅读全文
优惠 Copilot Evaluation Harness:评估大语言模型(LLMs)在软件开发环境中的编程辅助功能
7个月前 (02-24)AI
微软研究人员发布论文介绍了一个名为Copilot Evaluation Harness的工具,它用于评估大语言模型(LLMs)在软件开发环境中的编程辅助功能。LLMs,如OpenAI的GPT-3.5/4和Code Llama,有潜力通过作为智能、聊天驱动的编程助手来显著提高开发者的生产力。然而,直接使用这些模型可能并不... 阅读全文