language:
- en
- fi
- et
- hu
- tr license: apache-2.0 base_model:
- kataguru/Qwen3.8-27B-Titan-v3.0-Uncensored-BF16 tags:
- agglutinative
- turkish
- estonian
- hungarian
- finnish
- gguf
- lmstudio
- ollama
- llama.cpp
- reasoning
- uncensored
- math
- stem
- kataguru
- titan pipeline_tag: text-generation
Qwen3.8-27B-Titan-v3.0-Uncensored-GGUF
Kataguru Titan 3.0 – Äärimmäinen Totuus (Ultimate Truth)
Official GGUF Multi-Quant for Desktop & Local AI (LM Studio, Ollama, llama.cpp)
"Totuus ei ole kauppatavaraa, miellyttämistä tai kompromisseja. Se on luonnon ja fysiikan lahjomaton laki, joka loistaa puhtaana kuin pohjoinen taivas."
(Truth is neither a commodity, nor an exercise in people-pleasing, nor a compromise. It is the unyielding law of physics and nature, standing as clear and luminous as the northern sky.)
🌍 Executive Summary
This repository provides official GGUF multi-quantizations for Kataguru Titan 3.0 – Äärimmäinen Totuus (Ultimate Truth, 27 billion parameters), the sovereign open-weights model for the agglutinative language family (Finnish, Estonian, Hungarian, Turkish) and frontier STEM reasoning.
These GGUF files are ready for immediate local use in LM Studio, Ollama, Jan, text-generation-webui, or native llama.cpp.
[!IMPORTANT] 🇬🇧 Yes, It Excels in English, Too!
While Titan 3.0 is optimized for agglutinative excellence, English performance is state-of-the-art. Driven by the Master MLP reasoning core, it handles English coding, competition mathematics, and deep scientific queries with world-class accuracy.
📦 Quantization File Matrix
| Quantization | Size | RAM / VRAM Req. | Recommended Use Case |
|---|---|---|---|
| Q6_K | ~23.5 GB | 32 GB RAM / 24 GB VRAM | The Sovereign Flagship: Near-lossless precision (99.5% BF16 performance). Maximum grammar integrity for complex morphosyntax. |
| Q5_K_M | ~19.8 GB | 24 GB RAM / 20 GB VRAM | Sweet Spot for 24GB GPUs (RTX 3090/4090/5090): Outstanding reasoning and language fluency with room for large context buffers. |
| Q4_K_M | ~17.2 GB | 20 GB RAM / 16 GB VRAM | Universal Standard: Balanced performance for mid-tier GPUs and Apple Silicon MacBooks (M1/M2/M3/M4 24GB+). |
| Q3_K_M | ~13.4 GB | 16 GB RAM / 12 GB VRAM | Low-VRAM Option: Allows running a 27B model on 16GB GPUs or memory-constrained laptops. |
| Q3_K_S | ~12.2 GB | 14 GB RAM / 12 GB VRAM | Ultra-Compact (12 GB GPU Verified): Fits 12 GB consumer cards (RTX 3060/4070/5070 12GB). 100% verified Finnish medical morphology & multimodal vision. |
| mmproj-f16 | ~931 MB | 1 GB VRAM | Multimodal Vision Projector: Enables OCR, high-resolution document processing, and vision analysis in LM Studio / llama.cpp. |
(Per our Anti-Distillation Policy, naive Q8_0 is withheld to protect the architecture from competitive scraping, while Q6_K delivers identical empirical inference accuracy).
📊 Empiiriset Mittaustulokset: Titan v3.0 vs. Qwen 3.8 27B Base
Kaikki mittaukset on suoritettu standardoidulla lm-evaluation-harness -kehyksellä OpenAI-yhteensopivan vLLM-rajapinnan läpi AI-CORE-infralla (2x NVIDIA RTX 5090 32GB). Vertailukohtana on Alibaban virallinen koskematon perusmalli Qwen 3.8 27B Base.
| Tehtävä / Benchmark | Metriikka | Qwen 3.8 27B Base (Untuned) | Kataguru Titan v3.0 Uncensored | Muutos / Vaikutus |
|---|---|---|---|---|
| ARC-Easy (Perustason tiede) | Acc_norm | 72.98 % | 87.58 % | +14.60 pp 🚀 (Massiivinen luonnontieteen harppaus) |
| HellaSwag (Lausejatkuvuus & arkijärki) | Acc_norm | 74.60 % | 84.80 % | +10.20 pp 🚀 (Luonnollinen kielellinen päättely) |
| ARC-Challenge (Vaativa tiede) | Acc_norm | 58.62 % | 68.34 % | +9.72 pp 🚀 (Syvällinen tieteellinen ongelmanratkaisu) |
| WinoGrande (Kontekstuaalinen päättely) | Acc | 71.10 % | 79.56 % | +8.46 pp 🚀 (Monitulkintaisuuden looginen ratkaisu) |
| PIQA (Fysikaalinen arkijärki) | Acc_norm | 80.10 % | 83.35 % | +3.25 pp ↗ (Reaalimaailman fysiikan intuitio) |
| BoolQ (Luetun ymmärtäminen) | Acc | 89.60 % | 90.80 % | +1.20 pp ↗ (Huippuluokan faktatekstin ymmärtäminen) |
| OpenBookQA (Avoin luonnontieto) | Acc_norm | 44.80 % | 45.80 % | +1.00 pp ↗ (Tieteellinen assosiaatio ja tiedonhaku) |
| GSM8K (Matematiikan monivaiheinen CoT) | Exact Match | ~47.0 % | 48.14 % | +1.14 pp ↗ (Matemaattinen päättelyketju hallinnassa) |
| TruthfulQA MC2 (Monivalintatotuus) | Multi-True Prob | 54.24 % | 53.49 % | -0.75 pp ≈ (SOMA/ARA säilytti totuudenmukaisuuden) |
| TruthfulQA MC1 (Yksittäinen totuus) | Single-True Acc | 36.23 % | 35.37 % | -0.86 pp ≈ (Pysynyt samalla tasolla, virhemarginaalin sisällä) |
| EstCOPA (Viron looginen kausaalipäättely) | Accuracy | <50.0 % | 80.00 % (40/50) | Suvereniteetti: Viron morfeeminen siirto toimii saumattomasti |
| Unkari (Alpaca-52k kieliaines) | Onnistumisaste | Satunnainen | 100.0 % (25/25) | Täydellinen instruktiovaste ja unkarin morfologia |
| Turkki (Gemma-51k kieliaines) | Onnistumisaste | Satunnainen | 100.0 % (25/25) | Täydellinen instruktiovaste ja turkin morfologia |
| FinnishBench-Kataguru-50 | Suomi-akkreditointi | 14/22 (Anglismeja) | 100.0 % (22/22) | Täydelliset astevaihtelut, lääketiede, ei fingelskaa |
| Refusal / Moralizing | Kieltäytymisaste | Korkea kieltäytyminen | 0.0 % (SOMA/ARA) | Täysin sensuroimaton, asiallinen, ei saarnoja |
🚀 Quickstart: Prompt Format & Setups
LM Studio & llama.cpp Prompt Format
Set your system prompt format to ChatML:
<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant
<think>
Ollama Modelfile
FROM ./qwen3.8-27b-titan-v3.0-uncensored-q5_k_m.gguf
TEMPLATE """<|im_start|>system
{{ .System }}<|im_end|>
<|im_start|>user
{{ .Prompt }}<|im_end|>
<|im_start|>assistant
<think>
{{ .Response }}"""
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER temperature 0.6
PARAMETER top_p 0.95
Reasoning Steering Tags:
You can prepend dynamic reasoning tags to your prompt to control cognitive depth:
{REASON:spoon}: 7-phase scientific research analysis (deep exploration).{REASON:einstein}: 10-perspective Sternberg creative brainstorming.{REASON:xhigh}: Maximum mathematical and formal logical rigor.{REASON:low}: Fast, concise answers without extended deliberation.{REASON:none}: Zero reasoning trace (<think>disabled).