base_model: TrevorJS/gemma-4-26B-A4B-it-uncensored base_model_relation: quantized pipeline_tag: text-generation language:
- en license: apache-2.0 tags:
- abliteration
- uncensored
- gemma-4
- gguf
gemma-4-26B-A4B-it-uncensored (GGUF)
TrevorJS/gemma-4-26B-A4B-it-uncensored 的 GGUF 量化版本。
文件列表
| 文件 | 量化方式 | 大小 |
|---|---|---|
gemma-4-26B-A4B-it-uncensored-Q4_K_M.gguf | Q4_K_M | 16.8 GB |
gemma-4-26B-A4B-it-uncensored-Q8_0.gguf | Q8_0 | 26.9 GB |
使用方法
# 从 Hugging Face 下载并运行（自动下载）
llama-server -hf TrevorJS/gemma-4-26B-A4B-it-uncensored-GGUF -c 8192
# 从本地文件运行
llama-server -m gemma-4-26B-A4B-it-uncensored-Q4_K_M.gguf -c 8192
然后在浏览器中打开 http://localhost:8080 即可访问聊天界面。
详细信息
本项目是 TrevorJS/gemma-4-26B-A4B-it-uncensored 的 GGUF 量化版本，该模型是 google/gemma-4-26B-A4B-it 的去审查（abliterated / uncensored）版本。 通过采用针对 MoE 专家权重的专家粒度去消除（Expert-Granular Abliteration, EGA）以及保持范数的双投影去消除（norm-preserving biprojected abliteration）技术，移除了模型的拒绝响应行为。
关于完整的方法细节、去审查前后的拒绝率以及跨数据集验证结果，请参见 bf16 模型卡片。