transformer

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

21堂课带你入门生成式AI开发

使用PyTorch从零开始逐步实现类ChatGPT大型语言模型

面向大语言模型的高吞吐量与内存优化型推理服务引擎

OpenAI Whisper模型的C/C++移植版本

开源前沿语音人工智能

学习它。构建它。为他人交付它。

规模最大的PyTorch图像编码器/骨干网络集合。包含训练、评估、推理、导出脚本与预训练权重——支持ResNet、ResNeXT、EfficientNet、NFNet、Vision Transformer（ViT）、MobileNetV4、MobileNet-V3和V2、RegNet、DPN、CSPNet、Swin Transformer、MaxViT、CoAtNet、ConvNeXt等模型

Kronos：金融市场语言基础模型

顶尖开源文本转语音系统

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

面向语言模型的完全自动审查移除工具

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

面向智能体、助手和企业搜索的私有AI平台。内置智能体构建器、深度研究、文档分析、多模型支持以及智能体API连接功能。

最先进的网页端机器学习技术，直接在浏览器中运行🤗 Transformers模型，无需服务器支持

MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md

纳米级vLLM推理引擎

面向Dart与Flutter的强大HTTP客户端，支持全局设置、拦截器、FormData、请求中止/取消、文件上传下载、请求超时及自定义适配器等特性。

用于语言模型少样本评估的框架。

本仓库包含使用HuggingFace Transformers库构建的演示案例

专为研究和生产优化的极速前沿分词器

OpenVINO™是用于优化和部署AI推理的开源工具套件

开源安卓实时翻译应用，支持本地运行

一个用于在文本、图像和结构化数据中检测、编辑、掩码和匿名化敏感数据的开源框架。支持自然语言处理、模式匹配和可定制流水线。