llama

Cotabby 是一款面向整个 Mac 的本地 AI 自动补全工具。开源。运行在设备端。覆盖你所有输入场景。

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

使用Strands Agents SDK构建的智能体示例。

用 C 编写的极简、终端本机编码代理。

Run a 105 GB AI model on a Mac that can't hold it. Qwen3.8-Flash-Next 4-bit, streamed from SSD on 16–64 GB Apple Silicon Macs. Fully native Swift, MLX and Metal. Offline, no Python. CLI, Swift library, and Ollama/OpenAI/Anthropic APIs. Works with Claude Code and Codex.

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

安卓本地人工智能助手

Context-Engine MCP - 智能上下文压缩套件

安卓端设备本地人工智能——支持大语言模型聊天、视觉语言模型、图像生成、工具调用、AI角色扮演、检索增强生成知识包、文本转语音与语音转文本。完全离线运行，无需订阅，开源免费。

Windows Llama 应用程序伴侣

Laya is an open-source, local-first AI notification command center that aggregates Slack, Gmail, GitHub, Jira, Notion, Outlook, Calendar (and more) notifications using local LLMs via Ollama and LM Studio. Supports cloud models via BYOK.

Scala中的智能体与大型语言模型编程

面向聊天、RAG、计划、MCP工具及智能体的AI客户端，支持多提供商模型。

Strands智能体SDK技术文档。采用模型驱动方法，仅需几行代码即可构建AI智能体。

一个开源项目，旨在提供具有教育性和协作性的AI驱动平台

用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。

只需几分钟即可在 AMD Ryzen™ AI NPU 上运行法学硕士。就像 Ollama - 但专为 AMD NPU 构建并深度优化。