Secret Llama 是一个完全私密的大型语言模型（LLM）聊天机器人，它完全在浏览器中运行，无需服务器支持。支持 Mistral 和 LLama 3 等开源模型。开发者特别感谢 webllm 提供的推理引擎，使得这一切成为可能。
项目主页：https://secretllama.com/
特点
-
完全私密：没有任何对话数据会离开你的电脑。 -
无需服务器：在浏览器中运行，无需安装。 -
离线工作：支持离线使用。 -
用户界面：友好且易于使用，与 ChatGPT 相当，专为开源的大型语言模型（LLM）设计。
系统要求
要运行 Secret Llama，你需要一个支持 WebGPU 的现代浏览器。以下是支持 WebGPU 的浏览器列表：
-
Google Chrome -
Microsoft Edge -
Firefox（需要通过启用 dom.webgpu.enabled标志来手动激活） -
Safari on MacOS（提供 WebGPU 的实验性支持，可以通过启用 WebGPU 实验性特性来激活）
请注意，除了 WebGPU 支持外，各种模型可能还有特定的内存（RAM）要求。
0条评论