#deepseek 每日趋势报告

面向大语言模型的高吞吐量与内存优化型推理服务引擎

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。