#llm 每周趋势报告

TencentDB Agent Memory 通过四级渐进式流水线为AI Agent提供完全本地的长期记忆，且不依赖任何外部API。

TencentDB Agent Memory 通过四级渐进式流水线为AI Agent提供完全本地的长期记忆，且不依赖任何外部API。

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

为您的AI代理赋予观察整个互联网的能力。读取并搜索Twitter、Reddit、YouTube、GitHub、Bilibili、小红书——一个命令行工具，零API费用。

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

21堂课带你入门生成式AI开发

编码智能体框架

用于上下文和负责任的人工智能系统的图本机基础设施

AutoGPT致力于实现人人可用的普惠AI，让每个人都能使用和构建AI。我们的使命是提供工具，让您专注于重要事务。

Qwen Code 是生活在数字世界的编程智能体。

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

适合您的单一存储库的终极 RAG。借助人工智能和知识图的力量查询、理解和编辑多语言代码库

适合您的单一存储库的终极 RAG。借助人工智能和知识图的力量查询、理解和编辑多语言代码库

RikkaHub是一款支持多种LLM提供商的Android应用

🐙 提示工程指南、论文、讲座、笔记本及资源

JVM代理框架，发音为Em-BAY-bel /ɛmˈbeɪbəl/

JVM代理框架，发音为Em-BAY-bel /ɛmˈbeɪbəl/

基于Flutter框架的LLM聊天客户端，支持Android、iOS及Harmony Next系统。

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

Ouroboros — 自我创造的人工智能代理。出生于 2026 年 2 月 16 日。

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

🦍 云原生API网关与AI网关。

OpenVINO™是用于优化和部署AI推理的开源工具套件

可扩展且灵活的工作流编排平台，无缝统一数据、机器学习和分析技术栈。

LLM辅助代码/文本补全的Vim插件

如何在CUDA中优化某些算法

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。

cuVS - 一个用于GPU上的向量搜索与聚类的库