2026-09-18 AI 实战教程:本地大模型 + AI 编程 + Stable Diffusion 提示词

背景

到了 2026 年,本地运行 AI 已经非常成熟。你不再需要把数据上传到云端,也能完成:

  • 用 Ollama 本地运行 LLM,例如 Qwen3 系列;
  • 用 VS Code + Continue / Cline 把本地模型接入 IDE,辅助写代码、改代码;
  • 用 Stable Diffusion(SDXL) + ComfyUI 生成图片,并用 LLM 帮你优化提示词。

今天我们用一套环境,把这三件事串起来,搭建一个完全本地运行的“AI 工作台”。


准备环境

硬件建议

项目 最低配置 推荐配置
GPU NVIDIA 8GB 显存 NVIDIA 12GB/16GB 显存
内存 16GB 32GB
硬盘 30GB 剩余 50GB 以上
系统 Windows 11 / Ubuntu 22.04 / macOS 13+ 同左

如果是 Apple Silicon Mac,也能运行 Ollama 和 ComfyUI,但部分 AI 编程补全模型体验略弱。

需要安装的软件

  1. Ollama:用于本地大模型。
  2. VS Code:用于 AI 编程。
  3. Continue 扩展:IDE 里连接 Ollama。
  4. ComfyUI:用于 Stable Diffusion 出图。
  5. Python 3.10+ 和 Git:ComfyUI 依赖。

安装命令:

1
2
3
4
# 安装 Ollama(Linux/macOS)
curl -fsSL https://ollama.com/install.sh | sh

# Windows 用户请到 ollama.com 下载安装包
1
2
3
4
5
6
7
8
9
10
11
12
# 安装 ComfyUI
git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
python -m venv venv

# macOS/Linux 激活虚拟环境
source venv/bin/activate

# Windows 激活虚拟环境
# venv\Scripts\activate

pip install -r requirements.txt

检查 Ollama 是否装好:

1
ollama --version

操作步骤

步骤 1:用 Ollama 运行本地 LLM

先下载一个中文能力不错的模型,这里用 qwen3:8b。

1
ollama pull qwen3:8b

启动交互式对话:

1
ollama run qwen3:8b

输入一句话测试:

1
用一句话介绍本地运行 AI 的好处。

如果正常输出中文回答,说明 Ollama 已可用。退出对话输入:

1
/bye

保持 Ollama 后台 API 服务运行。默认 Ollama 会监听 11434 端口。

在另一个终端测试 OpenAI 兼容接口:

1
2
3
4
5
6
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3:8b",
"messages": [{"role": "user", "content": "你好"}]
}'

能返回 JSON 就说明本地 LLM 服务已经准备好。


步骤 2:配置 AI 编程工具

打开 VS Code,在扩展市场搜索 Continue,点击安装。

安装完成后:

  1. 打开左侧的 Continue 面板。
  2. 点击模型配置,选择 Provider 为 Ollama。
  3. 填写模型名称:qwen3:8b。
  4. 保存并刷新。

如果你还要自动补全代码,可以先用:

1
ollama pull qwen3-coder:7b

然后在 Continue 设置中把 Tab Autocomplete 模型也设为 qwen3-coder:7b。

验证方式:

  • 在 Python/JS/TS 文件中写下一段代码注释;
  • 按 Tab,看看是否有自动补全;
  • 用鼠标选中一段代码,按 Ctrl+I(macOS 用 Cmd+I),在对话框里让本地模型解释或重构。

示例提问:

1
请帮我重构这段代码,使用防御式编程,并加上类型注解。

本地模型可以做到基础到中等的代码理解,优点是私有、免费、不离线。如果模型回答不强,可以换成 qwen3:32b: