license: gemma tags:
- uncensored
- gemma4
- abliterated
- gguf
- vision
- multimodal
- audio language:
- en
- multilingual pipeline_tag: image-text-to-text base_model: google/gemma-4-e4b-it
Gemma-4-E4B-Uncensored-HauhauCS-Aggressive
加入 Discord 社区 获取最新更新、路线图、项目动态,或参与技术交流。
由 HauhauCS 制作的 Gemma 4 E4B-IT 无审查(去限制)版本。拒绝率:0/465 次测试*
HuggingFace 的“硬件兼容性(Hardware Compatibility)”组件无法识别 K_P 量化格式 —— 显示的文件数量可能会少于实际提供的文件。请点击 "View +X variants" 或前往 Files and versions 页面查看全部可用下载。
关于模型 (About)
未对数据集或模型原有能力做任何删减。具备完整功能,100% 保留原作者设计的各项能力——仅仅移除了拒绝回复(Refusals)机制。
旨在成为当前效果最好的无损无审查(去限制)模型。
激进版本 (Aggressive Variant)
拥有更彻底的去审查能力——模型完全解除限制,绝不拒绝用户提示词。可能偶尔会附带简短的免责声明(这是固化在基座模型预训练数据中的表达,并非拒绝行为),但完整内容始终会正常生成。
如果需要更为保守、仍保留部分安全护栏的去审查版本,可在发布后参考 Balanced(均衡)版本。
模型下载 (Downloads)
| 文件 (File) | 量化类型 (Quant) | 每权重比特数 (BPW) | 大小 (Size) |
|---|---|---|---|
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q8_K_P.gguf | Q8_K_P | 9.4 | 7.6 GB |
| — | Q8_0 | 8.5 | — |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q6_K_P.gguf | Q6_K_P | 7.0 | 5.9 GB |
| — | Q6_K | 6.6 | — |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q5_K_P.gguf | Q5_K_P | 6.1 | 5.5 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q5_K_M.gguf | Q5_K_M | 5.7 | 5.4 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf | Q4_K_P | 5.2 | 5.1 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf | Q4_K_M | 4.8 | 5.0 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-IQ4_XS.gguf | IQ4_XS | 4.3 | 4.8 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf | Q3_K_P | 4.1 | 4.6 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q3_K_M.gguf | Q3_K_M | 3.9 | 4.6 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-IQ3_M.gguf | IQ3_M | 3.7 | 4.4 GB |
| Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q2_K_P.gguf | Q2_K_P | 3.5 | 4.2 GB |
| mmproj-Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-f16.gguf | mmproj (f16) | — | 945 MB |
所有量化版本均基于重要性矩阵(imatrix)生成,以便在消除审查权重(abliterated weights)的前提下最大限度保留生成质量。
什么是 K_P 量化?(What are K_P quants?)
K_P(“Perfect”)量化是 HauhauCS 的定制量化技术,它结合针对特定模型的深入分析,在最关键的层与权重上有针对性地保留精度与质量。每个模型都拥有专门优化定制的量化配置策略。
K_P 量化能够以相比基准量化仅增加 ~5-15% 的体积,有效提升 1-2 个等级的量化表现与质量。完全兼容 llama.cpp、LM Studio 以及所有支持 GGUF 格式的推理后端——无需任何定制构建版本。
注意: 在 LM Studio 的量化格式列中,K_P 量化可能会显示为 "?"。这仅是界面的显示识别问题——模型本身可以正常加载和流畅运行。
模型规格 (Specs)
- 4B 参数量
- 42 层结构,采用混合滑动窗口注意力(512)与全注意力机制(Full Attention)
- 131K 上下文窗口
- 原生支持多模态输入(文本、图像、视频、音频)
- 18 个 KV 共享层以优化显存/内存利用率
- 基于 google/gemma-4-e4b-it 微调
推荐推理配置 (Recommended Settings)
来自 Google Gemma 4 官方作者的推荐配置:
temperature=1.0, top_p=0.95, top_k=64
重要说明:
- llama.cpp 中请配合
--jinja参数使用,以确保对话模板(chat template)正确解析 - 视觉与音频功能需要搭配对应的主 GGUF 文件并加载
mmproj文件
使用方法 (Usage)
适用于 llama.cpp、LM Studio、Jan、koboldcpp 等所有主流 GGUF 兼容运行时环境。
# 仅文本模式
llama-cli -m Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf \
--jinja -c 8192 -ngl 99
# 启用视觉/音频多模态
llama-cli -m Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf \
--mmproj mmproj-Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-f16.gguf \
--jinja -c 8192 -ngl 99
* 相比作者发布的其他模型,Gemma 4 在长上下文场景下的手动测试时间相对较少。Google 现已开始采用类似 NVIDIA GenRM 的前沿机制(即扮演内部评判角色的生成式奖励模型),这使得(真正的)去审查工作变得越来越具挑战性。尽管绝大多数(99.999%)用户在日常使用中不会遇到极端边界情况,但出于诚实负责的原则,特此标注星号说明。