面向苹果芯片的端侧语音人工智能

OpenVINO™是用于优化和部署AI推理的开源工具套件

为创作者和开发者打造的Gradio WebUI，具备核心TTS功能（Edge-TTS、kokoro）和零样本声音克隆（E2与F5-TTS、CosyVoice），并集成Whisper音频处理、YouTube下载、Demucs人声分离和多语言翻译。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

端到端语音识别基础工具包与开源SOTA预训练模型，支持语音识别、语音活动检测、文本后处理等功能。

适用于Android、iOS、树莓派及服务端的离线语音识别API，支持Python、Java、C#和Node.js开发语言。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

纳米级vLLM推理引擎

ncnn专为移动平台优化的高性能神经网络推理框架

Meetily是一款隐私优先的AI会议助手，基于Rust构建，提供比Parakeet/Whisper快4倍的实时转录、说话人分离及Ollama摘要功能。100%本地处理，无需云端。作为排名第一的自托管开源AI会议记录工具，支持macOS与Windows系统。

Kronos：金融市场语言基础模型

一款轻量级、极速的进程内向量数据库

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。

让每个人都能构建可靠高效的软件

一款快速反向代理，可帮助您将NAT或防火墙后的本地服务器暴露至互联网。

一款CLI代理工具，可将常见开发命令的LLM令牌消耗降低60-90%

🤱🏻 使用 Rust 将任意网页转换为桌面应用

Lightpanda：专为AI与自动化设计的无头浏览器

用于PDF检查、分类和文本提取的快速Rust库。智能检测扫描版与文本版PDF，以实现智能路由决策。