AnythingLLM 是一款多功能全栈应用程序,专为将各类文档、资源或内容转化为大语言模型(LLM)的上下文参考而设计。它支持广泛的商业及开源LLM,兼容多种向量数据库解决方案,让用户能够零妥协地构建私有化的类ChatGPT体验。该应用既可在本地运行,也支持远程部署,并能基于任意提供的文档开展智能对话。
核心功能包括:
- 工作区管理:将文档分类至不同工作区,保持上下文清晰独立
- 多模态支持:兼容闭源和开源大语言模型
- AI代理:可自定义代理程序,执行网页浏览等任务
- 多用户支持:Docker版本包含用户管理与权限控制
- 文档类型:支持PDF、TXT、DOCX等常见格式
- 云端部署:提供多种托管方案,开箱即用的云部署支持
- 省时省成本:相比其他聊天界面,能高效处理大型文档
AnythingLLM 还提供开发者API用于定制化集成,支持众多LLM供应商、嵌入模型、音频转录及文本转语音服务。该项目由Mintplex Labs及社区共同维护,部署选项涵盖Docker、AWS、GCP等平台。
隐私保护是首要原则,用户可选择加入改善产品的匿名遥测数据收集。项目采用MIT许可协议,欢迎社区贡献与参与。