jan

开源本地运行 LLM 的桌面应用

⭐ 43.6k TypeScript AGPL-3.0

✓ 解决什么问题

用户希望使用大语言模型，但担心数据隐私被第三方服务收集；或需要离线环境运行开源模型，但缺乏简单易用的图形界面。Jan 提供了本地运行 LLM 的一站式桌面工具，同时兼容云端 API，兼顾隐私与灵活性。

✓ 最适合

需要在个人电脑上本地运行 LLM 的隐私敏感型用户；希望结合云端与本地模型的开发者；对 Hugging Face 模型进行测试和实验的研究者。

✗ 不适合

没有足够 GPU 内存（最低 8GB RAM）运行 3B 以上模型的用户；需要企业级 SLA 或大规模分布式部署的团队；依赖最新闭源模型（如 GPT-4 Turbo）且不愿通过 API 调用的场景。

快速上手


git clone https://github.com/janhq/jan && cd jan
make dev
等待构建完成，应用自动启动

项目详情

Jan 是一个替代 ChatGPT 的开源桌面程序（GitHub 43,556 Star，TypeScript，AGPL-3.0），旨在让用户以完全控制和隐私的方式使用 AI。

核心功能

  • 本地 AI 模型：可从 Hugging Face 下载并运行 Llama、Gemma、Qwen、GPT-oss 等模型，所有数据在本地处理。
  • 云端集成：支持连接 OpenAI（GPT）、Anthropic（Claude）、Mistral、Groq、MiniMax 等云服务。
  • 自定义助手：创建针对特定任务的专属 AI 助手。
  • OpenAI 兼容 API：在 localhost:1337 启动本地服务器，供其他应用调用。
  • 模型上下文协议（MCP）：支持代理能力，扩展模型交互。

系统要求（最低体验）

  • macOS 13.6+：8GB RAM 运行 3B 模型，16GB 运行 7B，32GB 运行 13B。
  • Windows 10+：支持 NVIDIA/AMD/Intel Arc GPU 加速。
  • Linux：多数发行版可用，提供 GPU 加速支持。

安装方式

  • 从官方商店下载：Microsoft Store、Flathub。
  • 直接下载安装包：Windows（jan.exe）、macOS（jan.dmg）、Linux（deb/AppImage）。

构建与开发

  • 依赖：Node.js ≥20.0.0、Yarn ≥4.5.3、Make ≥3.81、Rust（Tauri）、macOS Apple Silicon 需 MetalToolchain。
  • 命令：git clone → make dev 启动开发环境；或 yarn install && yarn build && yarn dev。