llamacpp

Jan是ChatGPT的开源替代方案，可在您的计算机上完全离线运行。

您的AI第二大脑。支持自托管。从网络或文档中获取答案。构建自定义智能体、调度自动化任务、进行深度研究。将任何在线或本地大语言模型转化为您的个人自主AI（支持GPT、Claude、Gemini、Llama、Qwen、Mistral）。立即开始——免费使用。

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

通过llama.cpp与Alpaca对话的Web界面，完全容器化，并附带易于使用的API。

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

顶尖自然语言处理技术

Bonsai 演示

Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https://discord.com/invite/8wGSsvmg4V