SGLang是面向大语言模型与视觉语言模型的高速推理框架。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

增强版ChatGPT克隆：具备智能体、MCP、DeepSeek、Anthropic、AWS、OpenAI、响应API、Azure、Groq、o1、GPT-5、Mistral、OpenRouter、Vertex AI、Gemini、产物、AI模型切换、消息搜索、代码解释器、langchain、DALL-E-3、OpenAPI操作、函数、安全多用户认证、预设配置、开源自托管功能。持续活跃开发。

开源多模态AI智能体堆栈，连接尖端AI模型与智能体基础设施

工作与生活的终极空间——在这里，您可以寻找、构建并与智能体队友协作，共同成长。我们将智能体协作提升至全新高度——实现多智能体协同、轻松设计智能体团队，并引入智能体作为工作交互的基本单元。

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

轻量级、开源的AI代理，适用于您的工具、聊天和工作流。

LightRAG：简单快速的检索增强生成框架

基于模块化图结构的检索增强生成系统

🙌 OpenHands：少编码，多创造

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

终端中的DeepSeek v4编码智能体

让AI做实际工作。随时切换模型——保留你构建的一切。

在终端中运行的DeepSeek模型编码代理

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。