由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名
tensor
话题找到数量
smg-project/smg
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
JSONbored/awesome-claude
Awesome Claude 目录:智能体、MCP 服务器、技能、钩子、命令、工具、指南及 AI 工作流资源。
psmarter/CUDA-Practice
CUDA编程练习项目——动手实践CUDA内核与性能优化,涵盖GEMM、FlashAttention、Tensor Cores、CUTLASS、量化、KV缓存、NCCL及性能分析。
NVIDIA/DeepStream
NVIDIA DeepStream Monorepo:DeepStream SDK及参考应用,用于构建基于GStreamer、TensorRT和视觉AI模型的GPU加速实时视频与多传感器分析管道,支持边缘、本地及云端部署。