AnythingLLM Desktop 是一款面向个人使用的本地优先 AI 应用，可把文档、聊天、向量检索和 AI Agent 放进同一个桌面界面。它既能连接 Ollama 等本地模型，也能按需接入 OpenAI、Anthropic 等云服务。本文信息核验于 2026-07-15。

AnythingLLM Desktop 官方应用图标

资源信息

  • 类型：本地知识库 / 文档问答 / AI Agent
  • 平台：Windows、macOS、Linux
  • 运行方式：桌面本地运行，可连接本地或云端模型
  • 许可证：核心项目采用 MIT
  • 核验日期：2026-07-15

主要特点

  • 支持 PDF、TXT、DOCX 等多种文档，通过向量检索辅助回答并显示引用。
  • 可配置本地或云端 LLM、Embedding 模型和向量数据库，不绑定单一供应商。
  • 内置 AI Agent、工作区、开发者 API 等能力，桌面版无需注册账号即可使用。

硬件与隐私

AnythingLLM 客户端本身较轻，官方为基础本地体验建议 16GB 内存和 8 核 CPU；磁盘占用主要取决于下载的本地模型。Windows 使用本地模型时，8-12GB 显存能获得更好的速度；若只连接云模型，硬件压力会低很多。

桌面版默认把模型配置、文档、聊天和向量数据保存在本机。可选的匿名遥测可在设置中关闭；配置外部 LLM、Embedding 或向量数据库后，相关请求会直接发送给对应第三方。完全离线使用时，应选择本地模型和本地向量数据库。

使用说明

打开桌面下载页并选择操作系统安装包。首次启动后先选择本地或云端模型，再建立工作区并导入文档。处理敏感资料时，优先使用本地模型，并关闭不需要的外部连接和遥测。

资源入口

打开 AnythingLLM Desktop 官方下载页

AI Agent AnythingLLM RAG 文档问答 本地知识库