#inference 每日趋势报告

专为Apple Silicon打造的LLM推理服务器，具备连续批处理和SSD缓存功能，可通过macOS菜单栏管理

专为Apple Silicon打造的LLM推理服务器，具备连续批处理和SSD缓存功能，可通过macOS菜单栏管理

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

面向昇腾平台的vLLM社区维护硬件插件

ncnn专为移动平台优化的高性能神经网络推理框架

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。