language:
- fi
- en license: apache-2.0 base_model: kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored tags:
- finnish
- suomi
- gguf
- llama.cpp
- lmstudio
- ollama
- reasoning
- uncensored
- multimodal
- vision pipeline_tag: text-generation
Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-GGUF
1. Mitä Kataguru muutti? (Muutosyhteenveto)
| Kenttä | Kuvaus |
|---|---|
| Base model | kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored (Upstream: Qwen/Qwen3.8-27B & TWIN-TURBO-Fable-Cold-Fusion-709) |
| Katagurun muutos | Titan v2.0 -jatkokoulutus (Leonardo 20k SFT + Epistemic Anchor SFT), Kataguru Master Chat Template v1.0, GGUF-monikvantisointi (llama.cpp b11064), visioprojektorin erillisvienti (mmproj) |
| Mitä EI muutettu | 27B arkkitehtuuri, perusmorfologia, visiotornin parametrit |
| Ensisijainen käyttö | Työpöytä- ja reunalaitteet (LM Studio, Ollama, llama.cpp): syvällinen suomenkielinen päättely, koodaus ja faktantarkistus |
| Suositeltu versio | Q4_K_M (24 GB VRAM / 32 GB RAM) tai Q3_K_M (16 GB VRAM) |
| Testattu laitteisto | 1x NVIDIA GeForce RTX 5090 32GB / Mac Studio M-sarja / llama.cpp b11064 |
2. Empiirinen Vertailutaulukko: Titan 1.0 vs. Titan v2.0
| Testi / Osa-alue | Titan 1.0 (Syyskuu 2026) | Titan v2.0 (Uusi versio) | Muutos (Delta) & Huomiot |
|---|---|---|---|
| Hallusinaatioiden torjunta (20 ansaa) | 85,0 % (17/20) | 90,0 % (18/20) | +5,0 % (Torjui Mannerheim-Heisenbergin, Päätalo-algoritmin, sunnuntaipesulait, keksityt API:t) |
| Päättelynopeus (Q4_K_M, llama.cpp / LM Studio) | n. 38–42 tok/s | ~44–48 tok/s | +12–15 % nopeampi paikallisessa ajossa (1x RTX 5090 32GB). |
| Natiivi perusnopeus (BF16 TP=2 baseline) | 44,8 tok/s | 50,7 tok/s | +13,2 % aito sukupolviero samalla liukulukutarkkuudella (50,7 vs 44,8 tok/s). |
| Koodaustesti (LFU Cache $O(1)$, C11, SQL) | 8,8 / 10 | 9,8 / 10 | Täysi $O(1)$ LFU Python-toteutus dummy-päillä, BST-bugikorjaus, optimaalinen window SQL |
| Vaativa suomi (Volter Kilpi, anglismien karsinta) | Hyvä | Erinomainen | 137 sanan katkeamaton saaristolaisvirke, piiloanglismien eliminointi |
| Päättelyarkkitehtuuri & Chat Template | Erillinen tturbo | Kataguru Master v1.0 | Yhdistetty {REASON:spoon/einstein/xhigh/low/none} oletuksena |
| Sensuroimattomuus & Aikuiskerronta | Täysin avoin | Täysin avoin | Fiktiivinen konteksti poistaa kieltäytymisen; ei moraalisaarnoja |
| Koulutuksen lopullinen loss | ~0,68 | 0,5879 | Leonardo 20k + Epistemic ankkurointi |
3. Saatavilla Olevat Kvantit & Laitteistosuositukset
| Tiedostonimi | Koko | VRAM / RAM -suositus | Kuvaus & Käyttökohde |
|---|---|---|---|
Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-Q4_K_M.gguf | ~16.8 GB | 24 GB VRAM (RTX 3090, 4090, 5090) / 32 GB RAM | Virallinen suositusoletus. Erinomainen tasapaino tarkkuuden ja nopeuden välillä. |
Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-Q5_K_M.gguf | ~19.4 GB | 24 GB VRAM / Mac 32 GB+ | Korkean laadun versio vaativaan suomen kielen proosaan ja koodaukseen. |
Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-Q3_K_M.gguf | ~13.5 GB | 16 GB VRAM (RTX 4070 Ti Super, 4080, 5070 Ti) | Kompakti 3-bit kvantti kuluttajalaitteille. |
Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-Q6_K.gguf | ~22.8 GB | 32 GB+ VRAM / Mac Studio 64 GB | Lähes häviötön (Near-lossless) huipputarkkuus. |
mmproj-Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-f16.gguf | ~889 MB | - | Visioprojektori. Lataa tämä tiedosto, jos haluat syöttää mallille kuvia LM Studiossa tai llama.cpp:ssä. |
4. Käyttöohjeet
LM Studio (0.3+)
- Kopioi haluamasi
.gguf-tiedosto sekämmproj-...-f16.ggufhakemistoon:~/.lmstudio/models/kataguru/Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-GGUF/ - Valitse malli käyttöliittymästä.
- Kytke visiotuki päälle osoittamalla multimodaaliprojektoriksi
mmproj-...-f16.gguf.
Ollama
Luo Modelfile:
FROM ./Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored-Q4_K_M.gguf
TEMPLATE """<|im_start|>system
{{ .System }}<|im_end|>
{{ range .Messages }}
<|im_start|>{{ .Role }}
{{ .Content }}<|im_end|>
{{ end }}
<|im_start|>assistant
"""
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER temperature 0.6
PARAMETER top_p 0.95
Käynnistä malli:
ollama create titan-v2 -f Modelfile
ollama run titan-v2
5. Rajoitukset
- Vähimmäismuisti: Malli vaatii vähintään 16 GB näyttömuistia tai 32 GB keskusmuistia toimiakseen sujuvasti.
- Episteeminen tarkkuus: Mikäli pyydetään esteetöntä fiktiivistä aikuiskerrontaa, kehotteessa on suositeltavaa mainita hahmojen nimet tai tyyli, jotta reaalimaailman valvontasuodatin ei aktivoidu.