license: apache-2.0 tags:
- uncensored
- qwen3.6
- moe
- gguf
- vision
- multimodal language:
- en
- zh
- multilingual pipeline_tag: image-text-to-text base_model: Qwen/Qwen3.6-35B-A3B
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
加入 Discord 获取更新、路线图、项目信息,或进行交流探讨。
由 HauhauCS 进行去审查(uncensored)的 Qwen3.6-35B-A3B。0/465 拒绝率。
HuggingFace 的“硬件兼容性(Hardware Compatibility)”组件无法识别 K_P 量化版本 —— 它显示的文件数量可能少于实际存在的文件。请点击 "View +X variants" 或进入 Files and versions 页面查看所有可供下载的文件。
关于模型 (About)
未对数据集或模型能力做任何缩减更改。功能完全保留,100% 达成原作者的设计意图 —— 只是去除了拒绝回答(refusals)的行为。
本系列旨在成为市面上最顶级的无损去审查模型。
激进版本 (Aggressive Variant)
更强力的去审查 —— 模型已完全解锁,绝不拒绝任何提示词。可能会偶尔附带简短的免责声明(这是固化在基座模型预训练中的内容,而非拒绝回答),但完整内容始终会完整生成。
如果你需要保留部分安全护栏的更保守的去审查版本,可在发布后查看 Balanced(平衡)版本。
下载列表 (Downloads)
| 文件 (File) | 量化格式 (Quant) | BPW | 大小 (Size) |
|---|---|---|---|
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q8_K_P.gguf | Q8_K_P | 10.06 | 44 GB |
| — | Q8_0 | 8.5 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q6_K_P.gguf | Q6_K_P | 7.07 | 31 GB |
| — | Q6_K | 6.6 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q5_K_P.gguf | Q5_K_P | 6.47 | 28 GB |
| — | Q5_K_M | 5.7 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf | Q4_K_P | 5.40 | 23 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf | Q4_K_M | 4.88 | 21 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf | IQ4_NL | 4.56 | 20 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_XS.gguf | IQ4_XS | 4.32 | 19 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf | Q3_K_P | 4.39 | 19 GB |
| — | Q3_K_M | 3.9 | — |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ3_M.gguf | IQ3_M | 3.56 | 15 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q2_K_P.gguf | Q2_K_P | 3.46 | 15 GB |
| Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf | IQ2_M | 2.69 | 11 GB |
| mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf | mmproj (f16) | — | 899 MB |
所有量化版本均基于重要性矩阵(imatrix)生成,以便在去拒绝(abliterated)权重上达到最佳的模型质量保持。
什么是 K_P 量化?(What are K_P quants?)
K_P("Perfect")量化是 HauhauCS 的定制量化技术,利用特定模型的专属分析,在最关键的层和权重上有针对性地保留质量。每个模型都拥有量身定制的专属优化量化配置文件。
与基础量化相比,K_P 量化仅增加约 5-15% 的文件大小,却能有效将生成质量提升 1 到 2 个量化档位。完全兼容 llama.cpp、LM Studio 以及任何兼容 GGUF 的运行时环境 —— 无需特殊定制编译版本。
注意: K_P 量化在 LM Studio 的量化列中可能会显示为“?”。这仅仅是显示问题 —— 模型可以正常加载并流畅运行。
模型规格 (Specs)
- 总参数量 35B,每次前向传播激活约 3B 参数 (MoE)
- 256 个专家 (Experts),每个 Token 路由激活 8 个专家
- 混合架构:线性注意力 (Linear Attention) + 全 Softmax 注意力 (Full Softmax Attention)(比例为 3:1)
- 40 层
- 原生支持 262K 上下文
- 原生多模态支持(文本、图像、视频)
- 基于 Qwen/Qwen3.6-35B-A3B
推荐参数设置 (Recommended Settings)
来自 Qwen 官方团队的推荐配置:
思考模式(Thinking mode,默认):
- 通用任务:
temperature=1.0, top_p=0.95, top_k=20, min_p=0, presence_penalty=1.5 - 编码 / 精确任务:
temperature=0.6, top_p=0.95, top_k=20, min_p=0, presence_penalty=0
非思考模式(Non-thinking mode):
- 通用任务:
temperature=0.7, top_p=0.8, top_k=20, min_p=0, presence_penalty=1.5 - 推理任务:
temperature=1.0, top_p=1.0, top_k=40, min_p=0, presence_penalty=2.0
重要事项:
- 保持至少 128K 上下文以完整保留思考推理能力
- 在 llama.cpp 中使用
--jinja参数以确保正确处理对话模板 (chat template) - 视觉理解能力需要配合
mmproj文件与主 GGUF 文件一同加载
使用方法 (Usage)
适用于 llama.cpp、LM Studio、Jan、koboldcpp 及其他兼容 GGUF 的运行时。
llama-cli -m Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf \
--mmproj mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf \
--jinja -c 131072 -ngl 99