SGLang是面向大语言模型与视觉语言模型的高速推理框架。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

《深入理解AI Agent：设计原理与工程实践》（李博杰着）开源主仓库：全书正文、编译版PDF与按章安装代码

增强型 ChatGPT 克隆：功能代理、MCP、技能、DeepSeek、Anthropic、AWS、OpenAI、Responses API、Azure、Groq、o1、GPT-5、Mistral、OpenRouter、Vertex AI、Gemini、Artifacts、AI 模型切换、消息搜索、代码解释器、langchain、DALL-E-3、OpenAPI 操作、功能、安全多用户身份验证、预设、开源自托管。积极的

增强版ChatGPT克隆：具备智能体、MCP、DeepSeek、Anthropic、AWS、OpenAI、响应API、Azure、Groq、o1、GPT-5、Mistral、OpenRouter、Vertex AI、Gemini、产物、AI模型切换、消息搜索、代码解释器、langchain、DALL-E-3、OpenAPI操作、函数、安全多用户认证、预设配置、开源自托管功能。持续活跃开发。

开源多模态AI智能体堆栈，连接尖端AI模型与智能体基础设施

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.

Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

工作与生活的终极空间——在这里，您可以寻找、构建并与智能体队友协作，共同成长。我们将智能体协作提升至全新高度——实现多智能体协同、轻松设计智能体团队，并引入智能体作为工作交互的基本单元。

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

轻量级、开源的AI代理，适用于您的工具、聊天和工作流。

LightRAG：简单快速的检索增强生成框架

【EMNLP 2025 Demo】保留格式的PDF科技论文翻译 - 基于AI完整保留排版的PDF文档全文双语翻译，支持Google/DeepL/Ollama/OpenAI等服务，提供CLI/GUI/MCP/Docker/Zotero

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

终端中的DeepSeek v4编码智能体