#llm 每日趋势报告

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

TencentDB Agent Memory 通过四级渐进式流水线为AI Agent提供完全本地的长期记忆，且不依赖任何外部API。

TencentDB Agent Memory 通过四级渐进式流水线为AI Agent提供完全本地的长期记忆，且不依赖任何外部API。

✨ 为您的应用程序提供开源AI黑客工具 👨🏻‍💻

为您的AI代理赋予观察整个互联网的能力。读取并搜索Twitter、Reddit、YouTube、GitHub、Bilibili、小红书——一个命令行工具，零API费用。

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

21堂课带你入门生成式AI开发

21堂课带你入门生成式AI开发

与你共同成长的智能体

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

一款CLI代理工具，可将常见开发命令的LLM令牌消耗降低60-90%

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理，已在Uber部署。

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理，已在Uber部署。

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

JVM代理框架，发音为Em-BAY-bel /ɛmˈbeɪbəl/

基于Flutter框架的LLM聊天客户端，支持Android、iOS及Harmony Next系统。

🐙 提示工程指南、论文、讲座、笔记本及资源

掌控你的AI。专为AI代理打造的原生macOS框架——支持任意模型、持久化记忆、自主执行与加密身份。基于Swift构建。完全离线运行。开源项目。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

🦍 云原生API网关与AI网关。

面向昇腾平台的vLLM社区维护硬件插件

最佳多智能体论文汇编

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

Awesome Claude 目录：智能体、MCP 服务器、技能、钩子、命令、工具、指南及 AI 工作流资源。