端到端语音识别基础工具包与开源SOTA预训练模型，支持语音识别、语音活动检测、文本后处理等功能。

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

通过最快的KV缓存层为您的LLM加速

OpenAI Whisper模型的C/C++移植版本

VoxCPM：面向上下文感知语音生成与逼真音色克隆的无分词器文本转语音系统

纳米级vLLM推理引擎

面向大语言模型的高吞吐量与内存优化型推理服务引擎

语音转语音：致力于构建开源模块化GPT4-o的项目

用单个文件分发和运行大语言模型。

Stream 推出的开放视觉智能体平台。使用任意模型或视频提供商快速构建视觉智能体。利用 Stream 的边缘网络实现超低延迟。

专为从事大语言模型、多模态和语音人工智能（自动语音识别与文本转语音）的研究人员和开发者打造的可扩展生成式AI框架

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

SANA：基于线性扩散 Transformer 的高效高分辨率图像合成

TimesFM是谷歌研究团队开发的预训练时间序列基础模型，专注于时间序列预测任务。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

一个可扩展的生成式 AI 框架，专为从事大语言模型、多模态及语音 AI（自动语音识别与文本转语音）的研究人员和开发者构建。

从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。

学习如何开发、部署并迭代生产级机器学习应用。

FinGPT：开源金融大语言模型！我们发布革命性🔥训练模型于HuggingFace平台

FlashInfer：大语言模型服务的核心计算库