transformer

SANA：基于线性扩散 Transformer 的高效高分辨率图像合成

摄取、解析并优化任意数据格式 ➡️ 从文档到多媒体 ➡️ 以增强与GenAI框架的兼容性

面向苹果芯片的端侧语音人工智能

一种训练大语言模型的直接方法，涵盖从数据下载到文本生成的完整流程。

用Python编写的开源离线翻译库

BLIP 模型的 PyTorch 实现：通过自举法实现语言-图像预训练，达成统一视觉-语言理解与生成

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

UltraRAG v3：一个用于构建复杂创新RAG管道的低代码MCP框架

一个面向全模态模型的高效推理框架。

面向混合模型的智能路由器。

MLX-VLM：基于MLX在Mac上进行视觉语言模型推理与微调的工具包

面向Transformer模型的快速推理引擎

顶尖自然语言处理技术

Hugging Face transformers 课程

Jetpack Media3 媒体用例支持库，包含用于 Android 的可扩展媒体播放器 ExoPlayer

面向昇腾平台的vLLM社区维护硬件插件

动手学习大模型

[ICLR 26] Stable Video Infinity：基于错误回收的无限长度视频生成

最佳多智能体论文汇编

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

Hugging Face 的 Transformer 音频课程

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。