支持GPU强力加速的Python张量与动态神经网络库

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

专为Apple Silicon打造的LLM推理服务器，具备连续批处理和SSD缓存功能，可通过macOS菜单栏管理

面向所有人的开源机器学习框架

按模型组织的尖端深度学习脚本——易于在企业级基础设施上进行训练和部署，并具备可复现的准确性与性能。

仅用6行代码实现AI代理记忆功能

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

Apache Airflow - 通过编程方式编写、调度和监控工作流的平台

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

纳米级vLLM推理引擎

ONNX Runtime：跨平台高性能机器学习推理与训练加速引擎

Streamlit——快速构建和共享数据应用的开发框架。

RAGFlow 是领先的开源检索增强生成引擎，融合尖端 RAG 与智能体能力，为大型语言模型构建卓越的上下文层

🤗 最大的 AI 模型即用数据集中心，提供快速、易于使用且高效的数据操作工具

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

Qdrant - 面向下一代 AI 的高性能大规模向量数据库与向量搜索引擎，亦提供云端版本 https://cloud.qdrant.io/

Ultralytics YOLOv5 在 PyTorch > ONNX > CoreML > TFLite 中的实现

Sealos 是一款基于 Kubernetes 构建的 AI 原生云操作系统，统一了从云端 IDE 开发到生产部署与管理的整个应用生命周期，非常适合构建和扩展现代 AI 应用、托管数据库（MySQL、PostgreSQL、Redis、MongoDB）以及复杂的微服务架构。

🦍 云原生API网关与AI网关。

飞桨并行分布式深度学习框架：源于工业实践的机器学习框架