由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

每日 每周 每月
2026-10
返回报告
🏷️

#llm-inference 每月趋势报告

📅 2026-10
📊 4 个项目

🔥 #llm-inference 每月热门项目

ashhart/TensorFold

Zig

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

ai ai-tools llm
ashhart
ashhart 开发者
1.6k
331
871
+861
排名 #2
10月31日
查看详情

flashinfer-ai/flashinfer

Cuda

FlashInfer：大语言模型服务的核心计算库

attention cuda distributed-inference
flashinfer-ai
flashinfer-ai 开发者
6.8k
1.7k
1.9k
+312
排名 #2
10月31日
查看详情

flashinfer-ai/flashinfer

Cuda

FlashInfer：大语言模型服务的核心计算库

attention cuda distributed-inference
flashinfer-ai
flashinfer-ai 开发者
6.5k
1.5k
1.9k
+225
排名 #1
10月2日
查看详情

jax-ml/scaling-book

SCSS

“How To Scale Your Model”的主页，这是一本关于在 TPU 上扩展法学硕士的简短博客式教科书

jax llm-inference llms
jax-ml
jax-ml 开发者
1.5k
213
1.2k
+60
排名 #8
10月2日
查看详情

📊 数据统计

4 个热门项目
2026-10 数据日期

🔥 TrendForge - 追踪开源项目热度，发现技术趋势

助手