Jan.ai
完全开源、100% 离线的 ChatGPT 桌面替代品，数据完全留存在本地硬盘，支持自由切换本地引擎与云端大模型。
排序
LM Studio
体验最奢华的跨平台本地大模型桌面客户端，一键发现、下载 Hugging Face GGUF 权重并在纯离线环境下流畅运行。
llama.cpp
纯 C/C++ 打造的极致轻量化 LLM 推理框架，零外部依赖，让大模型在 Mac M系列、普通 CPU 与树莓派上狂飙。
vLLM
伯克利团队研发的高吞吐、低显存消耗的大模型推理服务引擎，独创 PagedAttention 机制，被全球云厂商奉为推理基准。
ComfyUI
全球最强大、最灵活的节点式（Node-Based）Stable Diffusion 与 FLUX 视觉生成工作流引擎。
Open-WebUI
功能最完备的开源本地 WebUI，完美复刻 ChatGPT 级交互并深度集成 Ollama、RAG 与语音交互。
Ollama
全球最受欢迎的本地大模型命令行神器，一行命令下载并运行 Llama 3、Mistral 与 Qwen，极简无匹。