Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

🦍 云原生API网关与AI网关。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

一个汇集生成式人工智能研究动态、面试资源、代码笔记本等丰富内容的一站式资源库！

21堂课带你入门生成式AI开发

🐙 提示工程指南、论文、讲座、笔记本及资源

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

🦜🔗 构建情境感知推理应用程序 🦜🔗

全球首个开源智能体视频制作系统，集成12条流水线、52种工具及500余项智能体技能，可将您的AI编程助手转变为完整的视频制作工作室。

LLM API 管理与分发系统，支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型，统一 API 适配，可用于密钥管理与二次分发。单可执行文件，提供 Docker 镜像，一键部署，开箱即用。

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

连接、保护、控制并观测服务。

OpenAI Whisper模型的C/C++移植版本

一款CLI代理工具，可将常见开发命令的LLM令牌消耗降低60-90%

为Claude Code预索引的代码知识图谱——更少的token、更少的工具调用、100%本地化