llama

AutoGPT致力于实现人人可用的普惠AI，让每个人都能使用和构建AI。我们的使命是提供工具，让您专注于重要事务。

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

用户友好型AI交互界面（支持Ollama、OpenAI API等）

面向大语言模型的高吞吐量与内存优化型推理服务引擎

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

LlamaIndex 是领先的文档智能体与 OCR 平台。

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

Jan是ChatGPT的开源替代方案，可在您的计算机上完全离线运行。

aider是终端中的AI结对编程工具

使用单张4GB GPU实现AirLLM 70B推理

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

您的AI第二大脑。支持自托管。从网络或文档中获取答案。构建自定义智能体、调度自动化任务、进行深度研究。将任何在线或本地大语言模型转化为您的个人自主AI（支持GPT、Claude、Gemini、Llama、Qwen、Mistral）。立即开始——免费使用。

🔥 1Panel 提供直观的 Web 界面和 MCP 服务器，用于管理 Linux 服务器上的网站、文件、容器、数据库和大型语言模型。

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

此仓库包含 Hugging Face 智能体课程

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

顶尖开源文本转语音系统

Meetily是一款隐私优先的AI会议助手，基于Rust构建，提供比Parakeet/Whisper快4倍的实时转录、说话人分离及Ollama摘要功能。100%本地处理，无需云端。作为排名第一的自托管开源AI会议记录工具，支持macOS与Windows系统。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

可通过 API 访问的免费大语言模型推理资源列表

📦 Repomix 是一款强大工具，可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景，例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。

用单个文件分发和运行大语言模型。