FreeAskInternet 是一款完全免费、私密且本地运行的搜索聚合器和答案生成器，它利用大型语言模型（LLM）工作，无需 GPU 支持。用户可以通过 FreeAskInternet 界面提出问题，系统会调用本地运行的 searxng 进行多引擎搜索，并将搜索结果整合至 ChatGPT3.5 或其他大型语言模型中，基于这些搜索结果生成答案。整个过程均在本地进行，无需 GPU、OpenAI 或 Google API 密钥。
特点
- 🈚️ 完全免费：无需任何 API 密钥，轻松使用。
- 💻 完全本地化：无需 GPU 支持，任何电脑均可运行。
- 🔐 完全私密：所有操作均在本地进行，保护用户隐私。
- 👻 无需 LLM 硬件：无需 GPU，轻松运行。
- 🤩 使用免费 API：集成 ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) 等，无需 API 密钥。
- 🐵 支持自定义 LLM：兼容 ollama, llama.cpp 等，提供更多选择。
- 🚀 快速部署：使用 Docker Compose 快速搭建。
- 🌐 界面友好：适配网页和移动设备，方便用户随时访问。
工作原理
- 用户在 FreeAskInternet 的本地界面提出问题。
- 系统调用本地运行的 searxng 进行多引擎搜索。
- 爬取搜索结果链接的内容，并传递给大型语言模型（如 ChatGPT3.5）。
- 大型语言模型基于搜索结果生成答案。
- 答案流式传输至聊天界面，供用户查看。
0条评论