gpu

线性代数子程序的CUDA模板

在任何AI基础设施上运行、管理和扩展AI工作负载。使用统一系统访问和管理所有AI计算资源（Kubernetes、17+云平台或本地部署）。

从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。

3D高斯泼溅编辑器

Cocos通过免费、开源、跨平台的游戏引擎Cocos Creator，简化了游戏的创作与分发。它赋能数百万开发者，助力其打造高性能、引人入胜的2D/3D游戏及即时网络娱乐内容。

一个快速、可扩展、高性能的基于决策树的梯度提升库，用于Python、R、Java、C++的排序、分类、回归及其他机器学习任务，支持CPU和GPU计算。

网格优化库：缩小网格体积并提升渲染速度

利用陀螺仪数据实现视频防抖。

H2O是一个开源、分布式、快速且可扩展的机器学习平台：支持深度学习、梯度提升、XGBoost、随机森林、广义线性模型、K均值聚类、主成分分析、广义可加模型、规则拟合、支持向量机、堆叠集成、自动机器学习等。

专注于在桌面端和浏览器中运行的硬件加速GPU终端模拟器

FlashInfer：大语言模型服务的核心计算库

一个用于加速仿真、数据生成和空间计算的 Python 框架。

由 AI 驱动的漫画翻译器，用 Rust 编写。

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

HarfBuzz文本整形引擎

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

找到真正能在你的硬件上运行且性能最佳的本地大语言模型。基于真实且考虑时效性的基准进行排名，而非参数数量。一条命令，即刻运行。

Linux 显卡配置与监控工具

基于机器学习的漫画翻译工具，采用Rust语言编写。

面向集体多GPU通信的优化原语

异构AI计算虚拟化中间件（CNCF孵化项目）

llm-d 是基于 Kubernetes 的高性能分布式 LLM 推理框架

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

面向加速基础设施与微服务架构优化的生成式AI参考工作流