🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

🦜🔗 构建情境感知推理应用程序 🦜🔗

用于将文件和办公文档转换为Markdown的Python工具。

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

DeerFlow是一个社区驱动的深度研究框架，将语言模型与网络搜索、爬取及Python执行等工具相结合，同时回馈开源社区。

21堂课带你入门生成式AI开发

🐙 提示工程指南、论文、讲座、笔记本及资源

可视化构建AI智能体

AutoGPT致力于实现人人可用的普惠AI，让每个人都能使用和构建AI。我们的使命是提供工具，让您专注于重要事务。

用户友好型AI交互界面（支持Ollama、OpenAI API等）

面向大语言模型的高吞吐量与内存优化型推理服务引擎

🙌 OpenHands：少编码，多创造

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

轻量级、开源的AI代理，适用于您的工具、聊天和工作流。

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

🪨 能用少量token解决问题时何必用大量token——通过像穴居人一样说话来削减65%token的Claude Code技巧