#llm 每日趋势报告

学习它。构建它。为他人交付它。

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

Unified research workspace for humans & agents — PDF Q&A with citations, Vault, writing. 为人与 Agent 协作的科研工作台；补齐 Zotero 时代的人机上下文断点。

用户友好型AI交互界面（支持Ollama、OpenAI API等）

开源 Grok Bot 替代品。选择您自己的模型和沙箱。

使用单张4GB GPU实现AirLLM 70B推理

Kortix CompanyOS – the open-source operating system for your company. Multiplayer AI agents, your company as code, sovereign on your infrastructure or ours.

💡 用于语义搜索、LLM 编排和语言模型工作流程的一体化人工智能框架

Android平台最强大的人工智能助手与AI聊天软件

我们应该遵循哪些原则来构建基于大语言模型的软件，使其真正达到可交付生产环境用户使用的标准？

18个AI角色在多个大语言模型提供商之间为你权衡最艰难的决策。亚里士多德、费曼、卡尼曼、托瓦兹等——具备真正模型多样性的结构化多轮讨论。一条命令：/council

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

FlashInfer：大语言模型服务的核心计算库

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

顶尖自然语言处理技术

由自主代理策划的人工智能工具。每两周更新一次。

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。