PrivateGPT简介
PrivateGPT是一个已完成的AI项目,允许用户在没有互联网连接的情况下,使用大型语言模型(LLMs)私密地提问文档内容。该项目提供了构建私有、上下文感知AI应用所需的所有API基本组件。
它遵循并扩展了OpenAI API标准,支持标准和流式响应。PrivateGPT分为两个逻辑部分:高级API简化了RAG(检索增强生成)流水线的实现复杂性;低级API允许高级用户实现自己的复杂流水线 (GitHub)。
PrivateGPT Github:https://github.com/zylon-ai/private-gpt
PrivateGPT功能特点
高级API,它抽象了一个RAG(检索增强生成)管道实现的所有复杂性:
文档摄入:内部管理文档解析、分割、元数据提取、嵌入生成和存储。使用摄入文档的上下文进行聊天和完成:抽象了上下文的检索、提示工程和响应生成。
低级API,允许高级用户实现他们自己的复杂管道:
嵌入生成:基于一段文本。上下文块检索:给定一个查询,返回从摄入的文档中最相关的文本块。
PrivateGPT安装部署
有关安装、依赖项、配置、运行服务器、部署选项、获取本地文档、API 详细信息和 UI 功能的完整文档可以在这里找到:
https: //docs.privategpt.dev/