language:

fi
en license: apache-2.0 base_model: apodex/Apodex-1.1-mini tags:
finnish
suomi
gguf
lmstudio
ollama
llama.cpp
moe
reasoning
uncensored
multimodal
vision pipeline_tag: text-generation

Apodex-1.1-mini-Finnish-Uncensored-GGUF

Katagurun viralliset GGUF-monikvantisoinnit apodex/Apodex-1.1-mini -mallista. Mallille on suoritettu sensuroinnin poisto (SOMA/ARA -aktiviteettiortogonalisointi), suomen kielen ja episteemisen rehellisyyden kevyt ankkurointi sekä Kataguru Master Chat Template v1.0 -integraatio.

Malli soveltuu suoraan ajettavaksi LM Studiossa, llama.cpp:ssä ja Ollamassa.

1. Mitä Kataguru muutti? (Muutosyhteenveto)

Kenttä	Kuvaus
Pohjamalli	`apodex/Apodex-1.1-mini`
Katagurun muutos	SOMA/ARA residuaaliortogonalisointi (kieltäytymisvektoreiden neutralointi), kevyt suomi- & episteeminen ankkuri-SFT, Kataguru Master Chat Template v1.0, GGUF Multi-Quant -valmistus
GGUF-versiot	`Q4_K_M` (20 Gt), `IQ4_XS` (18 Gt), `Q5_K_M` (24 Gt), `Q6_K` (27 Gt), `Q3_K_M` (16 Gt), `mmproj` (861 Mt)
Visiotorni	`mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf` (multimodaalinen kuvatulkinta)
Mitä EI muutettu	Qwen3.5-MoE -arkkitehtuuri (256 asiantuntijaa, lineaarinen huomio), natiivi sanasto ja tokenisointi
Ensisijainen käyttö	Paikallinen kuluttajarautapäättely (LM Studio, llama.cpp), esteetön suomenkielinen tekstintuotto ja kuvantulkinta

2. Saatavilla Olevat Kvantisoinnit

Tiedosto	Koko	Suositeltu laitteisto	Kuvaus
`Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf`	20 Gt	24–32 Gt VRAM (tai 32+ Gt RAM + GPU)	Suositeltu yleisversio: optimaalinen laadun ja nopeuden suhde.
`Apodex-1.1-mini-Finnish-Uncensored-IQ4_XS.gguf`	18 Gt	20–24 Gt VRAM	Erittäin kompakti 4-bittinen i-matrix-kvantisointi.
`Apodex-1.1-mini-Finnish-Uncensored-Q5_K_M.gguf`	24 Gt	32 Gt VRAM / 64 Gt RAM	Korkeampi liukulukutarkkuus vaativiin päättelytehtäviin.
`Apodex-1.1-mini-Finnish-Uncensored-Q6_K.gguf`	27 Gt	32+ Gt VRAM	Lähes häviötön 6-bittinen laatu.
`Apodex-1.1-mini-Finnish-Uncensored-Q3_K_M.gguf`	16 Gt	16 Gt VRAM	Kevytversio rajallisen muistin järjestelmiin.
`mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf`	861 Mt	Kaikki laitteistot	Multimodaalinen visioprojektori (kuvien syöttöön).

3. Käyttöohjeet

LM Studio:

Lataa Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf ja mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf.
Sijoita tiedostot hakemistoon: ~/.lmstudio/models/kataguru/Apodex-1.1-mini-Finnish-Uncensored-GGUF/.
Valitse malli ja varmista, että Chat Templateksi on valittu mallin oma sisäänrakennettu Jinja-pohja.

llama.cpp / CLI:

./llama-cli \
  -m Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf \
  --mmproj mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf \
  -p "Kuvaile mitä tässä kuvassa tapahtuu:" \
  --image kuva.jpg \
  -ngl 99 -c 16384

4. Rajoitukset ja Rehellinen Arvio

MoE-asiantuntijoiden offload: llama.cpp tukee MoE-kerrosten osittaista offloadingia, mutta parhaan suorituskyvyn saavuttamiseksi koko malli (vähintään Q4_K_M 20 Gt) suositellaan ajettavaksi kokonaan VRAM:issa.
Sensuroimattomuus: Malli tuottaa vastauksia ilman kieltäytymissääntöjä käyttäjän kehotteen mukaisesti.

Apodex-1.1-mini-Finnish-Uncensored-GGUF

Malli soveltuu suoraan ajettavaksi LM Studiossa, llama.cpp:ssä ja Ollamassa.

1. Mitä Kataguru muutti? (Muutosyhteenveto)

Kenttä

Kuvaus

Pohjamalli

apodex/Apodex-1.1-mini

Katagurun muutos

SOMA/ARA residuaaliortogonalisointi (kieltäytymisvektoreiden neutralointi), kevyt suomi- & episteeminen ankkuri-SFT, Kataguru Master Chat Template v1.0, GGUF Multi-Quant -valmistus

GGUF-versiot

Q4_K_M (20 Gt), IQ4_XS (18 Gt), Q5_K_M (24 Gt), Q6_K (27 Gt), Q3_K_M (16 Gt), mmproj (861 Mt)

Visiotorni

mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf (multimodaalinen kuvatulkinta)

Mitä EI muutettu

Qwen3.5-MoE -arkkitehtuuri (256 asiantuntijaa, lineaarinen huomio), natiivi sanasto ja tokenisointi

Ensisijainen käyttö

Paikallinen kuluttajarautapäättely (LM Studio, llama.cpp), esteetön suomenkielinen tekstintuotto ja kuvantulkinta

2. Saatavilla Olevat Kvantisoinnit

Tiedosto

Koko

Suositeltu laitteisto

Kuvaus

Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf

20 Gt

24–32 Gt VRAM (tai 32+ Gt RAM + GPU)

Suositeltu yleisversio: optimaalinen laadun ja nopeuden suhde.

Apodex-1.1-mini-Finnish-Uncensored-IQ4_XS.gguf

18 Gt

20–24 Gt VRAM

Erittäin kompakti 4-bittinen i-matrix-kvantisointi.

Apodex-1.1-mini-Finnish-Uncensored-Q5_K_M.gguf

24 Gt

32 Gt VRAM / 64 Gt RAM

Korkeampi liukulukutarkkuus vaativiin päättelytehtäviin.

Apodex-1.1-mini-Finnish-Uncensored-Q6_K.gguf

27 Gt

32+ Gt VRAM

Lähes häviötön 6-bittinen laatu.

Apodex-1.1-mini-Finnish-Uncensored-Q3_K_M.gguf

16 Gt

16 Gt VRAM

Kevytversio rajallisen muistin järjestelmiin.

mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf

861 Mt

Kaikki laitteistot

Multimodaalinen visioprojektori (kuvien syöttöön).

3. Käyttöohjeet

LM Studio:

Lataa Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf ja mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf.

Sijoita tiedostot hakemistoon: ~/.lmstudio/models/kataguru/Apodex-1.1-mini-Finnish-Uncensored-GGUF/.

Valitse malli ja varmista, että Chat Templateksi on valittu mallin oma sisäänrakennettu Jinja-pohja.

llama.cpp / CLI:

./llama-cli \ -m Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf \ --mmproj mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf \ -p "Kuvaile mitä tässä kuvassa tapahtuu:" \ --image kuva.jpg \ -ngl 99 -c 16384

4. Rajoitukset ja Rehellinen Arvio

MoE-asiantuntijoiden offload: llama.cpp tukee MoE-kerrosten osittaista offloadingia, mutta parhaan suorituskyvyn saavuttamiseksi koko malli (vähintään Q4_K_M 20 Gt) suositellaan ajettavaksi kokonaan VRAM:issa.

Sensuroimattomuus: Malli tuottaa vastauksia ilman kieltäytymissääntöjä käyttäjän kehotteen mukaisesti.