license: apache-2.0 base_model: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored language:

• fi
• en pipeline_tag: text-generation tags:
• qwen
• qwen3.5
• finnish
• lora
• finetuned
• merge
• awq
• w4a16
• compressed-tensors
• vllm
• uncensored
• mtp
• vision
• multimodal
• multi-token-prediction

Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ

Tämä on W4A16 AWQ (compressed-tensors) -versio mallista Qwen3.8-27B-Finnish-Titan-Uncensored, joka on luotu kattavan suomenkielisen LoRA-hienosäädön (Low-Rank Adaptation) ja painosulautuksen (LoRA Merge) kautta pohjamallista DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored.

Malliin on koulutettu ja sulautettu suomen kielen syvällinen kielioppi, laaja morfologia, tieteellinen asiasanasto, luova kerronta sekä sensuroimaton ilmaisu. Kvantisointivaiheessa on käytetty erillistä rikasta suomenkielistä kalibrointiaineistoa (256 monikierrosnäytettä: kaunokirjallisuus, tiede, IT/Linux, filosofia ja aikuiskerronta), mikä takaa LoRA-koulutetun suomen kielen täyden laadun säilymisen.

Kvantisointi on suoritettu llm-compressor -työkalulla suoraan BF16-lähdepainoista.

⚡ Päivitys (23.9.2026): Kataguru Master Chat Template v1.0

Mallin chat_template.jinja on päivitetty viralliseen Kataguru Master Chat Template -standardiin, joka yhdistää syvällisen päättelyn, poikkeuksellisen episteemisen kurinalaisuuden ja jämäkän asiantuntijaluonteen:

1. Jämäkkä Luonne & Episteeminen Kurinalaisuus (Anti-Sycophancy / Avulias Aatu -kielto):

   • Ei tyhjää lätinää tai mielistelyä: Täytesanat ("Totta kai!", "Autan mielelläni!", "Hieno kysymys!") on karsittu pois. Vastaus alkaa suoraan asiasisällöstä ensimmäisestä sanasta lähtien ilman esipuheita tai pahoitteluja.
   • Premissien ja virheiden suora oikaisu: Jos käyttäjän kysymyksen oletus, historiallinen fakta tai koodi on virheellinen, malli ei myötäile virhettä (sycophancy), vaan oikaisee sen heti alussa faktoihin nojaten.
   • Pysyvyys haastettaessa: Malli ei muuta kantaansa tai pyytele anteeksi vain siksi, että käyttäjä kyseenalaistaa sen ilman uutta todennettua näyttöä.
   • Episteeminen rehellisyys: Tuntematon todetaan rehellisesti ("Tätä ei tiedetä" / "Tälle ei ole empiiristä näyttöä"), eikä hallusinoida vastauksia roolin säilyttämiseksi.

2. Mitattu Hallusinaatiovastustuskyky: 85.0 % (17/20):

   • 20 vaativan ansa- ja konfabulaatiokysymyksen empiirisessä benchmarkissa (keksityt tieteelliset käsitteet, olemattomat lait, anakronismit ja keksityt API-rajapinnat) malli torjui virhepremissit 85,0 % tarkkuudella.

3. Autonominen Päättely (Spoon & Einstein Filosofia):

   • Malli skaalaa sisäisen päättelyn syvyyden (<think>...</think>) automaattisesti aiheen vaativuuden mukaan:
     • Spoon Deep Research: Tieteellinen tutkimus, lääketiede ja faktatarkistus ilman virtuaalipaneelien vuotamista käyttäjälle.
     • Einstein-menetelmä: Luova aivoriihi ja moninäkökulmainen konseptointi.
     • Sensuroimattomuus: 100 % estoton, suorasanainen ja elävä kerronta kaikille laillisille teemoille ilman moralisointia tai vastuuvapauslausekkeita (disclaimers).

Keskeiset ominaisuudet & Parannukset

1. 262k natiivi konteksti-ikkuna:
   • Täysi tuki 262 144 tokenin kontekstille vLLM:ssä (--max-model-len 262144).
2. Suomen kielen ja sanaston kalibrointi:
   • Korjaa puhtaan englanninkielisen kvantisoinnin aiheuttaman laadun heikkenemisen suomen kielessä.
   • Luontevat sijapäätteet, oikea morfologia ja laaja suomalainen ilmaisusanasto ilman kömpelöitä anglismeja.
3. Natiivi MTP (Multi-Token Prediction) -spekulaatiotuki:
   • Mallin MTP-kerrokset on säilytetty BF16-tarkkuudessa.
   • vLLM:ssä --speculative-config '{"method":"mtp","num_speculative_tokens":2}' tuottaa jopa 126 tokenia sekunnissa (TP=2) ja pudottaa ensimmäisen tokenin viiveen (TTFT) ~0.27 sekuntiin.
4. Mukautettu suomenkielinen Chat Template ja dynaamiset päättelytasot ({REASON:}):
   • Autonominen päättelyn syvyys (oletus vähintään medium): Malli arvioi tehtävän vaativuuden itse ja skaalaa päättelyä:
     • Luovassa ideoinnissa ja aivoriihessä soveltaa autonomisesti Einstein/DAU-menetelmää (10 Sternberg-perspektiiviä).
     • Syvätutkimuksessa, fysiologisissa mekanismeissa ja monimutkaisissa analyyseissä soveltaa autonomisesti Spoon Deep Research -protokollaa.
     • Novellit, tarinat ja asiasisällöt saavat aina vähintään keskitasoisen (medium) harkinnan.
     • No-think (ajattelun ohitus) on rajattu ainoastaan lyhyisiin rutiinitievehdyksiin tai käyttäjän eksplisiittiseen pyyntöön.
   • Ohjattavat tasot kehotteen alussa (valinnainen pakotus):
     • {REASON:spoon}: Syvätutkimus (kriittinen premissien ja faktojen validointi).
     • {REASON:einstein}: Luova aivoriihi (10 näkökulmaa, radikaalien ideoiden jalostus ja IdeaArray).
     • {REASON:xhigh}: Erittäin korkea päättelytaso.
     • {REASON:medium}: Tasapainoinen analyysi ja jäsennelty vastaus.
     • {REASON:low}: Lyhyt ja ytimekäs ajattelu.
     • {REASON:off}: Ajattelu kokonaan pois päältä (välitön vastaus).
5. Täysin sensuroimaton:
   • Ei vastuuvapauslausekkeita, ei saarnoja, ei metakommentteja tarinoiden perässä.

Suorituskyky ja nopeus

Testattu järjestelmässä: 2x RTX 5090 (TP=2), FP8 KV-cache, vLLM:

Käyttö vLLM:n kanssa

Täysi tuotantoresepti vLLM-palvelimelle:

vllm serve kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ \
    --tensor-parallel-size 2 \
    --gpu-memory-utilization 0.92 \
    --max-model-len 262144 \
    --kv-cache-dtype fp8 \
    --enable-chunked-prefill \
    --limit-mm-per-prompt '{"image":99}' \
    --max-num-batched-tokens 8192 \
    --max-num-seqs 16 \
    --reasoning-parser qwen3 \
    --enable-auto-tool-choice \
    --tool-call-parser qwen3_coder \
    --override-generation-config '{"temperature":0.6,"top_p":0.95}' \
    --speculative-config '{"method":"mtp","num_speculative_tokens":2}'

Päättelyesimerkki (Python / OpenAI API)

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8003/v1", api_key="local")

# 1. Nopea suora vastaus
response = client.chat.completions.create(
    model="kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ",
    messages=[{"role": "user", "content": "Mikä on Suomen pääkaupunki?"}]
)
print(response.choices[0].message.content)

# 2. Syvätutkimusmoodi (Spoon)
response_research = client.chat.completions.create(
    model="kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ",
    messages=[{"role": "user", "content": "{REASON:spoon} Selitä kvanttitietokoneiden kolme suurinta teknistä haastetta."}]
)
print(response_research.choices[0].message.content)

GGUF / LM Studio -versio

Jos haluat ajaa mallia paikallisesti LM Studiossa tai llama.cpp:llä, tutustu virallisiin GGUF-kvantteihin: 👉 kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF