想用 AI 写东西、改代码、总结文档，又不想把内容发到别人的服务器？现在在 Windows 11 上，可以把模型下载到本地，断网也能用。您的对话和文件都留在自己的电脑里，没有账号限制，也没有每天的消息上限。
先说结论：新手建议从 LM Studio 或 Jan 开始；想要更多模型、以后还要接别的软件，选 Ollama；只想让 AI 读自己的文档，可以看看 AnythingLLM。电脑配置比较旧的，可以试试 GPT4All。下面逐个说，您再按自己的情况挑。
什么是离线 AI 工具
简单讲，离线 AI 工具就是在您自己的电脑上下载并运行开源模型的软件，靠显卡、CPU 或两者一起运算。模型下载好之后，断开网络也能继续用。
为什么现在越来越多人用离线 AI
云端 AI 方便，但每段对话都会传到远程服务器，免费版往往还有每天的消息上限。涉及自己的代码、客户资料或私人笔记时，不少人会担心隐私。本地运行就没有这些顾虑，在飞机上或网络不稳定的地方也能用。
原稿还提到，如今不少普通 Windows 11 台式机和笔记本，已经能比较流畅地运行 7B 到 13B 规模的模型。对日常的头脑风暴、改代码、总结文章、写邮件来说，本地工具和云端的差距在缩小。很多人的做法是两个都用：日常和隐私的事交给本地，需要深入研究时再用云端。
选离线 AI 工具看什么
- 界面是否好用，能不能方便地搜索、下载模型。
- 是否支持您的显卡（如果有）。
- 有没有本地 API，方便以后连接别的软件。
- 个人使用是否免费。
硬件方面，原稿给出的大致参考是：
| 配置 | 大致能跑什么 |
|---|---|
| 8–16 GB 内存 | 较小的 3B–9B 模型 |
| 16–32 GB 内存 + 6–12 GB 显存的显卡 | 更大的模型 |
| 显卡忙时 | 一颗比较新的 CPU 也够用 |
不一定要高端游戏本，不少人在普通办公电脑上就跑起来了。以上只是参考，实际速度请以您自己的电脑为准。
LM Studio：对多数人最省事
LM Studio 是最适合新手的选择。界面干净，自带模型浏览器：找到模型、点下载、加载、开始聊，不用敲命令。它还能和文件对话，也能开一个本地服务，让别的程序调用同一个模型。支持 Windows 11，没有高端显卡也能用。
缺点是软件本身不是开源的，不过对话仍然留在您自己的电脑上，多数人并不介意。如果刚开始接触离线 AI，从它开始，学习成本最低。
Ollama：模型多，扩展性强
Ollama 一开始是命令行工具，现在也有了带聊天界面的 Windows 桌面版，还有稳定的本地 API。很多其他工具都能接入它，所以以后想把本地 AI 接到脚本、笔记软件或代码编辑器里，会比较顺手。它免费、开源，大约 16 GB 内存可以用起来，显存越大，能跑的模型越大。比 LM Studio 稍微复杂一点，但对多数人来说也不难。
Jan：开源、本地优先
Jan 就是为离线使用设计的，开源，界面简洁，所有内容都记录在您自己的电脑上，不需要账号。支持 Windows 11 和 Windows 10，带本地 API，也可以建不同的自定义助手，比如一个管技术问题、一个管写作。它的更新不一定赶得上新模型发布的第一天，但写代码、查资料、日常问答已经够用。看重透明度和隐私的话，Jan 值得一试。
其他值得一提的选择
- GPT4All：在没有独立显卡的旧电脑上也能跑，有简洁的聊天界面，也能就自己的文件提问。据原稿说，它的更新速度已经放慢，新模型出得比较慢，但对老笔记本来说仍然够用。
- AnythingLLM：主打“和自己的文档聊天”，可以完全离线，适合做私人资料检索。设置稍复杂，跑起来之后可以加载 PDF、笔记或文件夹来提问。
- 基于 llama.cpp 的工具：效率和可控性更好，常被用于长文本生成和创意写作。
新手上手步骤
- 按难度选一个工具，新手建议 Jan 或 LM Studio。
- 从官方网站下载安装包并安装。
- 打开软件，看看有哪些可用模型。
- 找常见模型，比如 Qwen、Llama 3.2、Mistral，选 GGUF 格式。
- 按自己电脑的内存选量化版本（Q4 或 Q5）。
- 下载、加载，然后开始聊天。
想看更详细的对比，可以参考站内的Windows 11 免费离线 AI 工具推荐：LM Studio、Ollama、Jan 怎么选。
常见问题（FAQ）
离线 AI 一定要有独立显卡吗？
不一定。内存够、模型选得小，只用 CPU 也能跑，只是速度会慢一些。
离线 AI 真的免费吗？
文中几款工具个人使用都是免费的，但模型的许可条款各不相同，商用前请自行看清。
新手选哪一个？
LM Studio 或 Jan。想以后扩展、接别的软件，就换 Ollama。
本文改写自英文原稿，内容仅供参考，软件功能和硬件要求请以各官方网站最新说明为准。