#inference 每日趋势报告

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

用单个文件分发和运行大语言模型。

SGLang-Omni 为 TTS、ASR、语音和全向模型提供高性能服务。

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。