LocalAI | AIUG

AI开源项目 AI开源项目 UI库

LocalAI

手机查看

LocalAI介绍

LocalAI 是免费、开源的 OpenAI 替代品。LocalAI 充当一个与 OpenAI API 规范兼容的即插即用 REST API，用于本地推理。它允许您在消费级硬件上本地或现场运行 LLMs，生成图像、音频（以及更多），支持多个模型系列。不需要 GPU。

本地 OpenAI 替代 REST API。您拥有您的数据。

无需 GPU。也不需要互联网接入

可选，GPU 加速可用。另请参阅构建部分。

支持多种型号

第一次加载后，它会将模型加载到内存中以加快推理速度

不进行 shell-out，而是使用绑定来实现更快的推理和更好的性能。

LocalAI 致力于让任何人都能使用人工智能。欢迎任何贡献、反馈和公关！

请注意，这只是mudler的一个有趣的周末项目，目的是尝试为完整的 AI 助手创建必要的部分，例如ChatGPT：社区正在快速发展，我们正在努力使其变得更好、更稳定。

官网：https://localai.io/

Github：https://github.com/mudler/LocalAI

使用 GPT 生成文本（llama.cpp、gpt4all.cpp 等等）

文本转音频

音频转文本（带有的音频转录whisper.cpp）

具有稳定扩散的图像生成

OpenAI 功能🆕

矢量数据库的嵌入生成

约束语法

直接从 Huggingface 下载模型

视觉 API

Diff3DEdit是一种基于深度学习的3D编辑方法。它通过迭代三个阶段来实现对3D对象的编辑：视图合成阶段、去畸变阶段和修复阶段。

FinGPT是一个开源的金融领域大型语言模型，旨在提供一个适用于金融数据的训练和微调平台。它通过最新的调整方法如LoRA增强模型的适应性和准确性，支持多任务处理，如情感分析和市场数据分析。

LightRAG是由中国香港大学研究团队推出的一种检索增强生成（Retrieval-Augmented Generation, RAG）系统，旨在提升大型语言模型（LLM）的准确性和上下文相关性。该系统通过图结构集成和双层知识检索，优化了信息检索的全面性和效率。

VideoGigaGAN是由Adobe和马里兰大学的研究人员提出的一种新型的生成式视频超分辨率（VSR）模型

LAION-5B是一个大规模的多模态数据集，用于研究目的，包含约58.5亿个图像-文本对。这些数据对是通过CLIP模型过滤的，其中23亿对包含英语文本，22亿对来自超过100种其他语言，其余12.7亿对则包含无法明确归类于某一语言的文本。

ComfyUI是一个开源的基于图形界面Workflow可视化引擎，提供一个用户友好的图形界面。可以将多个Stable Diffusion模型及其Hypernetwork组合成一个完整的工作流(Workflow)，实现自动化的图像生成和优化。