#llm 每周趋势报告

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

智能体性能优化系统。为Claude Code、Codex、Opencode、Cursor等工具提供技能、本能、记忆、安全及研究优先的开发支持。

编码智能体框架

编码智能体框架

使用单张4GB GPU实现AirLLM 70B推理

21堂课带你入门生成式AI开发

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

ADHD —— 一种面向编码代理的技能。基于Claude和Codex Agent SDK，采用带剪枝的思维树，在不同认知框架下并行发散思维、评分、剪除陷阱并深化幸存分支。这是创意和跨学科工作的不二之选。

RAGFlow 是领先的开源检索增强生成引擎，融合尖端 RAG 与智能体能力，为大型语言模型构建卓越的上下文层

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

Android平台最强大的人工智能助手与AI聊天软件

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

将代码探索中的AI token成本削减95%以上。领先的MCP服务器，通过tree-sitter AST实现精确的符号级GitHub代码检索。兼容Claude Code、Cursor及任何MCP客户端。已节省超过3130亿token。

RikkaHub是一款支持多种LLM提供商的Android应用

🐙 提示工程指南、论文、讲座、笔记本及资源

为提示工程增添工程化能力的AI框架（兼容Python/TS/Ruby/Java/C#/Rust/Go）

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

通过模型上下文协议将大型语言模型与高级AI智能体连接至Unity编辑器的AI桥梁。可直接在项目中与AI对话生成代码、调试错误并自动化游戏开发任务

基于Flutter框架的LLM聊天客户端，支持Android、iOS及Harmony Next系统。

LangChain的Java实现版本

数据中心级分布式推理服务框架

35种生产级智能体AI架构（Reflexion、LATS、GraphRAG、MemGPT、Voyager、BrowserAgent等）——一个Python库及可运行教材，支持多提供商LLM，并附带17项任务基准排行榜。

JVM代理框架，发音为Em-BAY-bel /ɛmˈbeɪbəl/

🦍 云原生API网关与AI网关。

如何在CUDA中优化某些算法

✨ AI 编程，Vim 风格

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

cuVS - 一个用于GPU上的向量搜索与聚类的库

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

LLM辅助代码/文本补全的Vim插件

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用

Lux是由Spectral Labs开发的开源框架，用于构建多智能体集群智能系统。通过Beams、Prisms、Lenses和Signals等组件，它编排AI驱动的工作流，以创建真正自主的组织。