面向所有人的开源机器学习框架

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

始终掌握数据的预期表现。

🤗 最大的 AI 模型即用数据集中心，提供快速、易于使用且高效的数据操作工具

Apache Airflow - 通过编程方式编写、调度和监控工作流的平台

支持GPU强力加速的Python张量与动态神经网络库

Kubernetes工作流引擎

Pulumi - 使用任意编程语言实现基础设施即代码 🚀

ONNX Runtime：跨平台高性能机器学习推理与训练加速引擎

示例 📓 Jupyter 笔记本，展示如何使用 🧠 Amazon SageMaker 构建、训练和部署机器学习模型。

20多个高性能大语言模型，附有预训练、微调和规模化部署的方案

云原生控制平面

Streamlit——快速构建和共享数据应用的开发框架。

即使是精干团队也能快速实现AI驱动的全栈可观测性

学习如何开发、部署并迭代生产级机器学习应用。

面向智能体、助手和企业搜索的私有AI平台。内置智能体构建器、深度研究、文档分析、多模型支持以及智能体API连接功能。

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

模块化平台（包含 MAX 和 Mojo）

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

Triton推理服务器提供优化的云端和边缘推理解决方案。