由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名
alibaba/rtp-llm
项目介绍
RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。
RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.
智能解读
智能标签
使用场景
项目健康度
距上次更新 1 天
平台 Star TOP 16% · Forks 249
本周 +7 ⭐ · 本月 +49 ⭐
77 位贡献者 · 0 条平台评论
缺少 2 项内容
1 项改进建议
- 增长：近期 Star 增长缓慢，项目热度有待提升
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
karpathy/llm.c
基于纯C/CUDA的简易大语言模型训练
NVlabs/instant-ngp
即时神经图形原语：极速神经辐射场（NeRF）及其他技术
xlite-dev/LeetCUDA
📚LeetCUDA：面向初学者的现代CUDA学习笔记（基于PyTorch）🐑，包含200+个CUDA内核、张量核心、HGEMM、FA-2 MMA。🎉
HigherOrderCO/HVM2
一个基于Rust的大规模并行、最优函数运行时
deepseek-ai/DeepEP
DeepEP：高效的专家并行通信库
deepseek-ai/DeepGEMM
DeepGEMM：具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
加载评论中...