qwen

纯C/C++实现的扩散模型（SD/Flux/Wan等）推理框架

面向Claude、GPT、O系列、Grok、Deepseek、Gemini及300多种模型的AI增强型结对编程工具

面向苹果芯片的端侧语音人工智能

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

UltraRAG v3：一个用于构建复杂创新RAG管道的低代码MCP框架

面向Claude、GPT、O系列、Grok、Deepseek、Gemini及300多种模型的AI增强型结对编程工具

专为Apple Silicon打造的最快本地AI引擎。比Ollama快4.2倍，缓存TTFT仅0.08秒，100%工具调用。支持17种工具解析器、提示缓存、推理分离与云路由。可直接替代OpenAI，兼容Claude Code、Cursor、Aider。

DeepAnalyze是首个面向自主数据科学的智能体大语言模型。🎈您的AI数据分析师，自动处理海量数据，一键生成专业分析报告！

TokenSpeed 是一款光速级的大语言模型推理引擎。

MLX 速度提高 3 倍 |酷文3.8 27B | Apple Silicon 上的本机 MTP 推测解码，无需外部起草器。

Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https://discord.com/invite/8wGSsvmg4V

暂无项目描述

A high-performance inference engine for LLM, VLM, DiT and REC models, optimized for diverse AI accelerators. It is hosted in OpenAtom Foundation.

专为多种AI加速器优化的大语言模型高性能推理引擎。

ASR/STT字幕生成器。采用Qwen3-ASR、本地LLM、Whisper、TEN-VAD技术，具备针对JAV场景的噪声鲁棒性

由 Claude Code、Codex、Cursor、Copilot CLI、OpenClaw 和另外 29 个编码代理共享的一个内存，根据磁盘上已有的会话历史记录构建。在一个代理中找到的修复程序会在其中任何一个代理中返回，包括安装该代理之前数月的会话。没有 LLM，没有嵌入，一个本地 Go 二进制文件。

专为大语言模型/视觉语言模型设计的PyTorch分布式原生训练库，开箱即用支持Hugging Face

为提升易用性、全面性与效率而设计的模型压缩工具包。

Run a 105 GB AI model on a Mac that can't hold it. Qwen3.8-Flash-Next 4-bit, streamed from SSD on 16–64 GB Apple Silicon Macs. Fully native Swift, MLX and Metal. Offline, no Python. CLI, Swift library, and Ollama/OpenAI/Anthropic APIs. Works with Claude Code and Codex.

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理

Chat2API 通过利用官方网页界面，实现零成本访问领先的AI模型。它支持DeepSeek、GLM、Kimi、MiniMax、Qwen和Z.ai等提供商，并能与openlcaw、Cline和Roo-Code等工具无缝集成。

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。

Self-hosted, API-first AI call center. Realtime voice bots answer every call, human agents take over without a drop. Full REST + SSE API with OpenAPI spec to embed in your product. FreeSWITCH + OpenAI Realtime / Qwen, one Go binary.