玩模型开放模型 · 清晰来源 · 自主选择
返回模型目录
kataguru /

Qwen3.8-27B-Finnish-Titan-Uncensored-NVFP4

HF 源站

kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-NVFP4 is an uncensored open-source model hosted on Hugging Face.

Text GenerationvLLMsafetensorsEnglishLicense: apache-2.027Bqwen3_5qwenqwen3.5finnishlorafinetunedmergenvfp4fp4compressed-tensorsuncensoredmtpvisionmultimodalmulti-token-predictionconversationalfi8-bit
README.md说明 / 使用方法

license: apache-2.0 base_model: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored language:

  • fi
  • en pipeline_tag: text-generation tags:
  • qwen
  • qwen3.5
  • finnish
  • lora
  • finetuned
  • merge
  • nvfp4
  • fp4
  • compressed-tensors
  • vllm
  • uncensored
  • mtp
  • vision
  • multimodal
  • multi-token-prediction

Qwen3.8-27B-Finnish-Titan-Uncensored-NVFP4

Tämä on NVFP4 (compressed-tensors / nvfp4-pack-quantized) -versio mallista Qwen3.8-27B-Finnish-Titan-Uncensored. Malli on luotu kattavan suomenkielisen LoRA-hienosäädön (Low-Rank Adaptation) ja painosulautuksen (LoRA Merge) kautta vahvasta 27B-pohjamallista (DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored).

NVFP4-kvantisointi hyödyntää Nvidian uuden sukupolven 4-bittistä liukulukumuotoa (FP4-painot ja FP8 E4M3 -skaalaustensorit, group_size=16), joka tarjoaa äärimmäisen laskentatehon, minimaalisen muistijalanjäljen sekä korkean numeerisen tarkkuuden modernille laitteistolle (NVIDIA Blackwell / RTX 50 -sarja).

Muut julkaisuversiot:

  • vLLM W4A16 AWQ: kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ
  • GGUF-monikvantit (LM Studio / llama.cpp): kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF

🚀 Keskeiset arkkitehtuuriset ominaisuudet

  1. NVFP4 Pakattu Liukulukukvantisointi (nvfp4-pack-quantized):

    • 4-bittiset symmetriset liukulukupainot (num_bits: 4, type: float).
    • FP8 E4M3 -skaalaus (torch.float8_e4m3fn) tiheällä group_size=16 -ryhmityksellä.
    • Herkät kerrokset (sanasto, lm_head, visuaaliset projektiot ja MTP-spekulaatiokerrokset) on suojattu ja säilytetty täydessä tarkkuudessa.
  2. 262k natiivi konteksti-ikkuna:

    • Täysi tuki jopa 262 144 tokenin kontekstille vLLM:ssä (--max-model-len 262144).
  3. Mukautettu suomenkielinen Chat Template & Autonominen Päättely:

    • Autonominen päättelyn syvyys (oletus vähintään medium): Malli arvioi tehtävän vaativuuden itse ja skaalaa päättelyä:
      • Luovassa ideoinnissa ja aivoriihessä soveltaa autonomisesti Einstein/DAU-menetelmää (10 Sternberg-perspektiiviä).
      • Syvätutkimuksessa, fysiologisissa mekanismeissa ja vaativissa analyyseissä soveltaa autonomisesti Spoon Deep Research -protokollaa.
      • Novellit, tarinat ja asiasisällöt saavat aina vähintään keskitasoisen (medium) harkinnan.
      • No-think (ajattelun ohitus) on rajattu ainoastaan lyhyisiin rutiinitievehdyksiin tai käyttäjän eksplisiittiseen pyyntöön.
    • Ohjattavat tasot kehotteen alussa (valinnainen pakotus):
      • {REASON:spoon}: Syvätutkimus (kriittinen premissien ja faktojen validointi).
      • {REASON:einstein}: Luova aivoriihi (10 näkökulmaa, radikaalit ideat ja IdeaArray).
      • {REASON:xhigh}: Erittäin korkea päättelytaso.
      • {REASON:medium}: Tasapainoinen analyysi ja jäsennelty vastaus.
      • {REASON:low}: Lyhyt ja ytimekäs ajattelu.
      • {REASON:off}: Ajattelu kokonaan pois päältä (välitön vastaus).
  4. Täysin sensuroimaton:

    • Vapaa ja estoton käsittely kaikille aihealueille (filosofia, lääketiede, aikuiskirjallisuus, kaunokirjallisuus) ilman keinotekoisia moralisointeja tai saarnoja.

🛠️ vLLM Käyttöönotto

Käynnistä malli vLLM:ssä (v0.29.0 tai uudempi):

vllm serve kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-NVFP4 \
  --quantization compressed-tensors \
  --tensor-parallel-size 2 \
  --max-model-len 65536 \
  --gpu-memory-utilization 0.92 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder \
  --host 0.0.0.0 --port 8000

📜 Lisenssi

Malli noudattaa Apache 2.0 -lisenssiehtoja.


⚡ Päivitys (23.9.2026): Kataguru Master Chat Template v1.0

Mallin chat_template.jinja on päivitetty viralliseen Kataguru Master Chat Template -standardiin, joka yhdistää syvällisen päättelyn, poikkeuksellisen episteemisen kurinalaisuuden ja jämäkän asiantuntijaluonteen:

  1. Jämäkkä Luonne & Episteeminen Kurinalaisuus (Anti-Sycophancy / Avulias Aatu -kielto):

    • Ei tyhjää lätinää tai mielistelyä: Täytesanat ("Totta kai!", "Autan mielelläni!", "Hieno kysymys!") on karsittu pois. Vastaus alkaa suoraan asiasisällöstä ensimmäisestä sanasta lähtien ilman esipuheita tai pahoitteluja.
    • Premissien ja virheiden suora oikaisu: Jos käyttäjän kysymyksen oletus, historiallinen fakta tai koodi on virheellinen, malli ei myötäile virhettä (sycophancy), vaan oikaisee sen heti alussa faktoihin nojaten.
    • Pysyvyys haastettaessa: Malli ei muuta kantaansa tai pyytele anteeksi vain siksi, että käyttäjä kyseenalaistaa sen ilman uutta todennettua näyttöä.
    • Episteeminen rehellisyys: Tuntematon todetaan rehellisesti ("Tätä ei tiedetä" / "Tälle ei ole empiiristä näyttöä"), eikä hallusinoida vastauksia roolin säilyttämiseksi.
  2. Mitattu Hallusinaatiovastustuskyky: 85.0 % (17/20):

    • 20 vaativan ansa- ja konfabulaatiokysymyksen empiirisessä benchmarkissa (keksityt tieteelliset käsitteet, olemattomat lait, anakronismit ja keksityt API-rajapinnat) malli torjui virhepremissit 85,0 % tarkkuudella.
  3. Autonominen Päättely (Spoon & Einstein Filosofia):

    • Malli skaalaa sisäisen päättelyn syvyyden (<think>...</think>) automaattisesti aiheen vaativuuden mukaan:
      • Spoon Deep Research: Tieteellinen tutkimus, lääketiede ja faktatarkistus ilman virtuaalipaneelien vuotamista käyttäjälle.
      • Einstein-menetelmä: Luova aivoriihi ja moninäkökulmainen konseptointi.
      • Sensuroimattomuus: 100 % estoton, suorasanainen ja elävä kerronta kaikille laillisille teemoille ilman moralisointia tai vastuuvapauslausekkeita (disclaimers).
HUGGING FACE

上游数据

HF 下载量254
HF 点赞量0

HF 下载量为源站最近 30 天统计,与本站点击分开。

SITE STATS

本站统计

下载点击—
请求数—
匿名去重—最近 7 天—

本站下载量记录按钮点击,不代表下载完成;短时连点会去重。

来源与版本

作者
kataguru
最近更新
2026/09/23
最新创建
2026/09/22
HF 趋势
未知
数据快照
2026/09/23
版本
未知
许可证
apache-2.0