Text Generation WebUI
开源大模型界的“AUTOMATIC1111”，功能最为硬核全面的大模型本地 Web 调试面板，支持数十种加载器与深度微调。
排序
Jan.ai
完全开源、100% 离线的 ChatGPT 桌面替代品，数据完全留存在本地硬盘，支持自由切换本地引擎与云端大模型。
LM Studio
体验最奢华的跨平台本地大模型桌面客户端，一键发现、下载 Hugging Face GGUF 权重并在纯离线环境下流畅运行。
llama.cpp
纯 C/C++ 打造的极致轻量化 LLM 推理框架，零外部依赖，让大模型在 Mac M系列、普通 CPU 与树莓派上狂飙。
vLLM
伯克利团队研发的高吞吐、低显存消耗的大模型推理服务引擎，独创 PagedAttention 机制，被全球云厂商奉为推理基准。
ComfyUI
全球最强大、最灵活的节点式（Node-Based）Stable Diffusion 与 FLUX 视觉生成工作流引擎。
Open-WebUI
功能最完备的开源本地 WebUI，完美复刻 ChatGPT 级交互并深度集成 Ollama、RAG 与语音交互。