Outlines〰 是一个 Python 库，它以简单而健壮的方式（具有结构化生成）使用大语言模型（LLM）。这个库由 .txt 公司构建，已经在众多公司的生产环境中得到应用。我们支持 OpenAI 的模型，同时通过 transformers、llama.cpp、exllama2 和 mamba_ssm 等库，释放了 ... 阅读全文

Secret Llama 是一个完全私密的大型语言模型（LLM）聊天机器人，它完全在浏览器中运行，无需服务器支持。支持 Mistral 和 LLama 3 等开源模型。开发者特别感谢 webllm 提供的推理引擎，使得这一切成为可能。 项目主页：https://secretllama.com/ 特点 完全私密：没有任何... 阅读全文

WebLLM 是一个可定制且模块化的 JavaScript 包，它能够将语言模型对话功能直接集成到网络浏览器中，并利用硬件加速技术。所有操作都在浏览器内部完成，无需服务器端的支持，并通过 WebGPU 进行加速。 兼容性 WebLLM 完全兼容 OpenAI API，这意味着你可以使用相同的 OpenAI API 在本... 阅读全文

在当前的人工智能转折点上，多语言文本嵌入API成为了技术竞技场上的新焦点，这场较量不仅涉及行业巨头如OpenAI、Google、Cohere等，也包括了开源领域中微软的E5和北京智源的BGE-M3等重要参与者。通过对比这些模型的特性、使用示例和性能评估，国外开发者深入了解各模型在处理多语言自然语言处理任务中的实力。 模... 阅读全文

英国人工智能安全研究所（AI Safety Institute）近日推出了一款名为“Inspect”的 AI 模型安全评估平台，该平台采用开源授权方式，向全球 AI 工程师免费开放，允许工程师们评估自家模型性能及安全性。这款 Inspect 平台主要由三大主要框架组成，分别为“数据集”、“求解器（Solver）”、“评... 阅读全文

ScrapeGraphAI 是一个基于 Python 的网络爬虫库，它结合了大语言模型（LLM）和直接图逻辑来为网站和本地文档（如 XML、HTML、JSON 等）创建抓取管道。这个库的设计理念是用户只需指定想要提取的信息，库就会自动完成抓取工作。 ScrapeGraphAI 提供了三种主要的抓取管道： SmartSc... 阅读全文

"PyWinAssistant" 是一个创新的开源人工智能框架，专为 Windows 10/11 用户设计。它通过激发大语言模型中的空间推理能力，帮助你更高效地与电脑互动——无需复杂的图像识别技术。 主要特点 无需 OCR 或对象检测：直接利用可视化思维（VoT）技术，简化了用户界面的操作。 提升通用性和效率：提高了应... 阅读全文

由多家企业和机构组成的日本联合研究团队近日发布了一款基于 Arm 架构超级计算机“富岳”训练的大型语言模型 Fugaku-LLM。 开发背景 启动时间：2023年5月 初期参与机构：富士通（富岳超算所有者）、东京工业大学、日本东北大学、日本理化学研究所（理研） 合作扩展 新增合作方（2023年8月）：名古屋大学、Cyb... 阅读全文

DuckDuckGo 作为一家重视用户隐私的搜索引擎，提供了多种工具和服务来保护用户的在线隐私。以下是关于DuckDuckGo及其新推出的「AI Chat」服务的详细介绍： DuckDuckGo 搜索引擎 隐私保护：DuckDuckGo 不追踪用户的搜索行为，不收集个人数据，确保用户隐私不受侵犯。 替代传统搜索引擎：提... 阅读全文

生活中，法律问题无处不在，但请律师往往价格不菲，且通常按时计费。在没有涉及法律纠纷的情况下，想要了解一些法律知识，AI线上律师可以成为一个经济实惠的选择。通过这一服务，常见的法律咨询问题都能得到专业的解答。 适合情况 日常咨询：对于日常生活中的法律疑问，AI线上律师能够提供基础的法律信息和建议。 知识普及：帮助用户了解... 阅读全文

MemGPT 是一个开源项目，旨在简化构建和部署具有状态的（stateful）大型语言模型（LLM）代理的过程。以下是 MemGPT 的一些关键特性和优势： 长期记忆/状态管理：MemGPT 允许构建的代理拥有长期记忆能力，这在处理持续对话或需要记住先前交互的上下文的任务中非常有用。 连接外部数据源：通过 RAG（Re... 阅读全文

Perplexica是一个基于开源人工智能的搜索工具或搜索引擎，它能够深入互联网寻找答案。它受到Perplexity AI的启发，不仅能搜索网络，更能理解您的问题。它采用先进的机器学习算法，如相似性搜索和嵌入技术，来优化搜索结果，并提供明确的答案，同时附上来源引用。Perplexica基于完全开源的SearxNG构建，... 阅读全文