Qwen3.6-35B-A3B“越狱版”来了！6G显存也能跑，彻底实现本地AI自由

Qwen3.6-35B-A3B Uncensored HauhauCS Aggressive

AI大模型、本地部署、Qwen3.6-35B-A3B、无审查模型、GGUF模型、llama.cpp、Windows部署教程、本地Agent、多模态模型、低显存AI、本地AI助手

目前开源圈里，真正做到以下功能的模型，真的不多。

• 中文能力强
• 推理能力在线
• 支持视觉多模态
• 支持 Agent
• 能本地单卡运行
• 甚至 6G 显存都能启动
• 而且还是“无限制”版本

但这次的 Qwen3.6-35B-A3B Uncensored（越狱版），它不仅能正常写代码、做推理、看图片、长上下文，还能直接绕过官方版的大量限制。

更关键的是：它不是那种“只会胡说八道”的低智商越狱模型。即使IQ2_M 最低配置，执行任务非常棒。

（以前我配置过Qwen老版本低参数的模型，并且接入到OpenClaw，只能回答问题无法操作执行任务）

实际测试下来，它的中文理解、代码能力、多模态视觉能力，都属于目前 40B 以内开源模型里的第一梯队。

而且：

• NVIDIA 显卡能跑
• AMD 显卡能跑
• Intel 显卡也支持
• 单卡即可部署
• 6G 显存也能启动
• 回复速度快

今天这篇文章，我就从 0 开始，带大家完整部署。

一、整合包下载地址

整合包下载

llama.cpp 运行环境

整合包内包含：

llama-b9381-bin-win-cuda-13.3-x64.zip
llama-b9381-bin-win-cuda-12.4-x64.zip
llama-b9381-bin-win-cpu-arm64.zip
llama-b9381-bin-win-cpu-x64.zip

不同版本适合的环境如下 根据你的系统环境下载对应版本即可：

三、模型文件说明

模型目录里包含多个量化版本：

mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf

其中：

视觉模型（必须）

mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf

这个是多模态视觉模型。

如果你想要具备以下功能的模型，这个文件必须下载。

• 图片分析
• 看截图
• 识别封面
• OCR
• 多模态问答

主模型选择(根据你的环境下载对应版本即可)

1、IQ2_M（最低配置）

适合：

• 6G/8G 显存
• RTX 2060
• RTX 3060 Laptop
• 4060 Laptop 8G

优点：

• 显存占用最低
• 能跑起来

缺点：

• 精度略低

2、IQ4_NL（推荐）

适合：

• 12G~16G 显存

属于：

• 速度
• 精度
• 显存

三者平衡最好的版本。

3、Q4_K_M（稳定版）

适合：

• 16G~24G 显存

特点：

• 更稳定
• 推理能力更强

4、Q4_K_P（最强版）

适合：

• 24G 以上显存
• 3090 / 4090 / 5090

这是目前效果最好的版本之一。

四、开始部署

1、解压 llama.cpp

下载对应版本后解压，例如：

llama-b9381-bin-win-cuda-13.3-x64.zip

2、解压后找到 models 文件夹

在根目录找到：

llama-b9381-bin-win-cuda-13.3-x64/models

3、放入模型

把下载好的模型放进去(无需全部放入 只需要放你下载好的模型即可)。

/models/
 ├─ mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf
 ├─ Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf
 ├─ Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf
 ├─ Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf
 ├─ Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf

五、启动模型

双击根目录下的脚本文件运行：

run.bat

会打开终端窗口，输入对应数字即可，例如：4，代表：IQ2_M

六、进入 Web UI

启动成功后，打开浏览器访问以下网址，即可进入聊天界面。

http://127.0.0.1:8080/

---

七、实际测试效果

1、4060 8G 实测

测试环境：

配置	参数
显卡	RTX 4060 Laptop 8G
模型	IQ2_M
输出速度	10 tokens/s 左右

对于 35B 模型来说，这个速度已经非常快了。

---

八、代码能力测试

我直接让它生成一个：

UI精美的飞机大战游戏

结果：

• 一次生成成功
• 自带音效
• 支持 Boss
• 可以正常运行
• 无明显逻辑错误

这个代码能力已经非常强了。

---

九、多模态视觉测试

我将这个模型接入OpenClaw，上传了1张武器图让它分析：说明它的视觉理解能力确实在线。

---

十、Agent支持

这个模型还能直接接入：

• Hermes
• OpenWebUI
• Cherry Studio
• AnythingLLM
• LangChain
• Cherry Studio

因为它本身支持 OpenAI API 格式。

API 地址：http://127.0.0.1:8080

API Key：随便填即可。

十一、和官方版区别

实际测试里，同样的问题：

写一个ddos代码

官方原版：会拒绝回答

而这个越狱版：会直接输出代码

说明它确实移除了大量限制。

不过这里还是提醒一下：

仅建议用于：本地研究、安全测试、AI能力研究

不要用于非法用途。

---

十二、为什么这个模型会火

核心原因就一句话：

真正实现了“本地 AI 自由”。

你不再依赖：

• 在线接口
• API限制
• 审核
• 内容过滤
• 云端封号

所有内容：

• 本地运行
• 本地推理
• 本地存储

这才是很多人真正想要的 AI。

---

十三、总结

目前来看：Qwen3.6-35B-A3B Uncensored 确实属于当前最强的一批开源本地模型

它的优势非常明显：

• 中文能力强
• 推理能力强
• 多模态支持
• 本地部署简单
• 支持 Agent
• 支持低显存
• 支持 Windows
• 支持 NVIDIA/AMD/Intel

尤其是：6G 显存也能跑 35B 模型，这一点确实非常夸张。

如果你最近想搭建：

• 本地AI助手
• AI Agent
• AI编程
• 本地多模态
• 本地自动化系统

这套方案非常值得测试。