#gguf 每日趋势报告

从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。

数百种模型与提供商。一条命令即可找出可在您硬件上运行的内容。

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

用单个文件分发和运行大语言模型。