由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

每日 每周 每月
2026-11-04
返回报告
🏷️

#llm-inference 每日趋势报告

📅 2026-11-04
📊 4 个项目

🔥 #llm-inference 每日热门项目

FareedKhan-dev/kimi-k3-in-c

C

A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

avx2 c99 cpu-inference
FareedKhan-dev
FareedKhan-dev 开发者
10k
1.6k
3
+351
排名 #11
11月4日
查看详情

FareedKhan-dev/kimi-k3-in-c

C

A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

avx2 c99 cpu-inference
FareedKhan-dev
FareedKhan-dev 开发者
10k
1.6k
3
+351
排名 #1
11月4日
查看详情

ashhart/TensorFold

Zig

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

ai ai-tools llm
ashhart
ashhart 开发者
1.7k
351
871
+32
排名 #1
11月4日
查看详情

flashinfer-ai/flashinfer

Cuda

FlashInfer：大语言模型服务的核心计算库

attention cuda distributed-inference
flashinfer-ai
flashinfer-ai 开发者
6.9k
1.7k
1.9k
+13
排名 #3
11月4日
查看详情

📊 数据统计

4 个热门项目
2026-11-04 数据日期

🔥 TrendForge - 追踪开源项目热度，发现技术趋势

助手