面向大语言模型的高吞吐量与内存优化型推理服务引擎

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

完全本地的Manus人工智能系统。无需API接口，无需每月200美元支出。仅需支付电费即可体验能思考、浏览网页和编程的自主智能体。官方更新仅通过推特账号@Martin993886460发布

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

screenpipe将您的电脑转变为个人AI助手，它能知晓您的一切操作。记录、搜索、自动化，全部本地运行，完全私密，尽在您掌控。

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

使用单张4GB GPU实现AirLLM 70B推理

可通过 API 访问的免费大语言模型推理资源列表

TencentDB Agent Memory 通过四级渐进式流水线为AI Agent提供完全本地的长期记忆，且不依赖任何外部API。

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

📦 Repomix 是一款强大工具，可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景，例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

LangChain的Java实现版本

TensorZero是工业级LLM应用的开源技术栈，整合了LLM网关、可观测性、优化、评估与实验功能。

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。