Anything LLM

已跟踪

全面的开源解决方案,用于创建和管理具有文档交互、嵌入和完全自定义功能的私有 LLM 聊天机器人。

作者 Mintplex Labs 开源时间 2023-06-04 最近提交 未知

简介

AnythingLLM 是一款一体化 AI 生产力加速器,以设备端运行、隐私优先为核心理念,无需繁琐的安装与配置。它支持使用商业或开源大语言模型和向量数据库构建私有化 ChatGPT 体验,通过独立工作区组织文档,确保上下文清晰。

主要特性

  • 无代码 AI Agent 构建器,支持多模态与多用户权限管理
  • 广泛的 LLM 兼容性,包括 OpenAI、Azure OpenAI、Google Gemini、Anthropic、Llama 和 Mistral
  • 支持多种文档格式(PDF、TXT、DOCX 等),提供拖放式界面和网页嵌入式聊天组件
  • 灵活的部署选项,包括 Docker、AWS、GCP 和 Digital Ocean,提供完整的开发者 API

使用场景

需要私有化、自托管 AI 助手并具备完整文档交互能力的团队和个人。需要多用户权限管理和基于工作区的知识隔离的组织。寻求可定制 AI 平台并兼容多种 LLM 和向量数据库的开发者。

技术特点

模块化架构,前端采用 ViteJS + React,后端使用 NodeJS Express,包含文档处理器和 Docker 部署配置。支持多种向量数据库,包括 LanceDB、PGVector 和 Pinecone。提供语音转文本和文本转语音功能。开源项目,拥有丰富的第三方集成与社区插件生态。