返回模型目录
kamekichi1231 /

Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC

HF 源站

kamekichi1231/Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC is an uncensored open-source model hosted on Hugging Face.

ChineseEnglishMultilingualLicense: apache-2.04Bmlc-llmweb-llmabliterateduncensoredja
README.md说明 / 使用方法

license: apache-2.0 base_model: huihui-ai/Huihui-Qwen3.5-4B-abliterated tags:

  • mlc-llm
  • web-llm
  • abliterated
  • uncensored language:
  • ja
  • en
  • zh

Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC

huihui-ai/Huihui-Qwen3.5-4B-abliterated を MLC LLM / WebLLM 用に q4f16_1 量子化で変換したものです。

  • ベース: Qwen/Qwen3.5-4B (abliterated版)
  • 量子化: q4f16_1
  • 設定: context_window_size=4096, prefill_chunk_size=1024 (ブラウザ向け省VRAM設定)
  • モデルライブラリ (wasm): 公式 binary-mlc-llm-libs の web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasm を流用可能(同形状のため)

WebLLM での使用例

<HF名>/Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC@https://raw.githubusercontent.com/mlc-ai/binary-mlc-llm-libs/main/web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasm

License

Apache 2.0 (元モデル・ベースモデルに準拠)