Hugging Face

Hugging Face是一个专注于自然语言处理（NLP）的人工智能公司，它提供了一个平台，让研究人员、开发者和企业能够更容易地开发、分享和部署机器学习模型，特别是NLP模型。Hugging Face的平台包括以下几个主要部分：

模型库（Models）：Hugging Face托管了大量预训练的NLP模型，这些模型可以用于各种语言处理任务，如文本分类、问答、文本生成等。

数据集（Datasets）：提供了多种用于训练和评估NLP模型的数据集。

Spaces：一个可以展示和分享AI模型和应用的社区空间。

文档（Docs）：提供了详细的文档，帮助用户了解如何使用Hugging Face提供的工具和资源。

解决方案和定价（Solutions & Pricing）：为企业提供定制化的AI解决方案和相应的定价计划。

Hugging Face以其开源精神和社区驱动的模式而闻名，它允许用户轻松地下载和训练最先进的预训练模型，从而降低了计算成本、减少了碳足迹，并节省了大量训练模型的时间。此外，Hugging Face还提供了一些工具和库，如Transformers库，这是一个广泛用于NLP任务的开源Python库，它简化了使用Transformers模型的复杂性。

Hugging Face的成功部分归功于其社区的活跃和开放的文化，吸引了许多开发者和研究人员贡献代码、数据集和模型。它也被视为机器学习界的GitHub，因为它为AI模型和数据集提供了一个集中的托管和协作平台。

Jellybox

在本地运行AI模型，完全脱机

零一万物

零一万物是李开复带队孵化的AI2.0公司，总部注册于北京，集中在大模型技术、人工智能算法、自然语言处理、系统架构、算力架构、数据安全、产品研发等领域。

modelscope

是一个由阿里巴巴集团推出的开源模型即服务（Model as a Service, MaaS）共享平台，名为ModelScope。该平台旨在简化AI模型的应用过程，为广大AI开发者提供灵活、易用、低成本的一站式模型服务产品。

OpenELM

Apple专为移动设备上运行的 AI 模型

AnythingLLM

AnythingLLM是由Mintplex Labs Inc.开发的一个全栈应用程序，是一款高效、可定制、开源的企业级文档聊天机器人解决方案。它能够将任何文档、资源或内容片段转化为大语言模型在聊天中可以利用的相关上下文。

LocalAI

LocalAI 是一个免费的开源替代品，旨在作为 OpenAI 的直接替代方案。它充当一个即插即用的 REST API，兼容 OpenAI API 规范，支持本地推理。用户可以在消费级硬件上运行大型语言模型（LLMs）、生成图像和音频等，而无需 GPU。
主要特点

兼容性：LocalAI 与 OpenAI API 规范兼容，便于开发者无缝切换。

本地推理：用户可以在本地或自有服务器上运行模型，确保数据隐私和安全。

无需 GPU：LocalAI 不需要 GPU，能够在普通 CPU 上高效运行，降低了硬件要求。

多模型支持：支持多种模型系列，包括文本生成、音频转录和图像生成等功能。

成本效益：通过本地运行模型，用户可以节省云服务费用，尤其是在大规模应用时。

安装与使用
LocalAI 可以通过简单的命令行安装，支持 Docker 部署，方便用户快速搭建本地 AI 环境。
总之，LocalAI 提供了一个灵活且经济的解决方案，适合希望在本地环境中运行 AI 模型的用户。

LM Studio

LM Studio 是一款桌面应用程序，用于在您的计算机本地开发和实验 LLM。

主要功能

用于运行本地 LLM 的桌面应用程序
熟悉的用户聊天界面
搜索和下载功能 (通过 Hugging Face 🤗)
可以监听类似 OpenAI 端点的本地服务器
用于管理本地模型和配置的系统

XTuner

文档

一个高效、灵活、全能的轻量化大模型微调工具库