---
license: apache-2.0
language: [sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu]
base_model: Qwen/Qwen3-8B
library_name: transformers
tags: [balkan, southeast-europe, multilingual, honest-ai, sovasoft, rag]
---

🌐 **EN** · [🇷🇸 SR](README_sr.md) · [🇭🇷 HR](README_hr.md) · [🇧🇦 BS](README_bs.md) · [🇲🇰 MK](README_mk.md) · [🇸🇮 SL](README_sl.md) · [🇦🇱 SQ](README_sq.md) · **🇲🇪 CNR** · [🇧🇬 BG](README_bg.md) · [🇬🇷 EL](README_el.md) · [🇹🇷 TR](README_tr.md) · [🇷🇴 RO](README_ro.md) · [🇭🇺 HU](README_hu.md)

<p align="center">
  <img src="images/Zora_Stich_1700_SW_Print.png" width="520" alt="Zora — boginja zore, okružena simbolima 12 naroda"/>
</p>

# Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu

*зора = "zora". Jedna da ih sve ujedini.* — **Sovasoft** ([ai.in.rs](https://ai.in.rs))

---

## 1 · Šta je Zora

Zora je **otvoreni jezički model s 8 milijardi parametara** (zasnovan na Qwen3-8B) za **12 jezika Balkana i Jugoistočne Evrope**: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.

Zora nije napravljena da bude najveći model — napravljena je da bude **iskrena, na maternjem jeziku i višeperspektivna**:
- **razmišlja na ciljnom jeziku** umjesto preko engleskog,
- pokazuje **više perspektiva** o spornim temama umjesto jednog nacionalnog gledišta,
- i iznad svega: **priznaje kada ne zna** umjesto da izmišlja činjenice.

## 2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

| Verzija | Jezici | BalkanBench | Stanje |
|---|---|---|---|
| **v1.0** | 6 | — | prvo javno izdanje |
| **v1.1** | 12 | — | treniran od nule — ali **izmišljao je činjenice** (izmišljao naslove knjiga, pogrešne autore). **Nikad nije objavljen.** |
| **v1.11** | 12 | 84/156 | iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. **#1 balkanski model.** |
| **v1.12** | 12 | **85/156** | **popravak dubine:** bolje pozivanje alata, strukturisani IDK, razmišljanje na maternjem jeziku, RAG integracija. |
| **v1.13** | 12 | **102/156** | **proboj u analizi:** kritička analiza, napredna logika i ocjenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala. |

v1.1 nas je naučio ključnu lekciju — mali model ne može *zapamtiti* svaku činjenicu, pa umjesto da to fingira,
**v1.11 je ponovo treniran da bude iskren**. v1.12 je na tome gradila s dubljim treningom i RAG-om. v1.13
gura vještine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.

## 3 · Šta je novo u v1.13

### Poticaj analize i zaključivanja

**Nove snage u v1.13:**
- **ANALYSIS 0/12 → 12/12** — najveći pojedinačni dobitak. Zora sada može kritički ocjenjivati argumente, otkrivati pristrasnost na svih 12 jezika.
- **LOGIC2 0/12 → 7/12** — napredni višekoračni lanci zaključivanja sada rade na 7 jezika.
- **GRADED 0/12 → 3/12** — djelimičan napredak u esejima, procjenama i rubrikama.
- **LOGIC 0/12 → 3/12** — formalna logika i silogizmi poboljšani na nekim jezicima.

**Iskreni kompromisi:**
- **DETAIL 10/12 → 2/12** — značajna regresija. Trening koji je otključao analizu smanjio je dubinu opširnih odgovora. Ovo prijavljujemo transparentno; to je najjasnija slabost v1.13.
- **SEARCH 7/12 → 5/12** — manji pad u brzom činjeničnom pretraživanju.
- **FACT 0/12 → 1/12** — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
- **HALLU** ostaje na 10/12 (vidi dubinsku analizu u nastavku).

Trening v1.13 prebalansirao je SFT mješavinu prema zaključivanju, analizi i ocjenjivačkoj evaluaciji.
To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi
DETAIL i nešto brzine na SEARCH. To je svjestan, dokumentovan kompromis — nije besplatna pobjeda.

## 4 · Benchmark (BalkanBench, 13 osi × 12 jezika)

🔬 **BalkanBench je otvoren** — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench
Determinističko bodovanje (skripta / jezik / ključne riječi / brojevi).

### Poređenje po osama (v1.12 → v1.13)

| Osa | v1.12 | v1.13 | Δ | Šta se promijenilo |
|------|-------|-------|---|---|
| FACT | 0/12 | 1/12 | ↑1 | Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo |
| HALLU | 10/12 | 10/12 | = | Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu) |
| DETAIL | 10/12 | 2/12 | **↓8** | **Regresija — iskreni trošak poticaja zaključivanja v1.13** |
| GRADED | 0/12 | **3/12** | **↑3** | Novo: eseji, procjene, rubrike sada ponekad rade |
| TEACH | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| REASON | 11/12 | 11/12 | = | Snažno aritmetičko zaključivanje ostaje |
| LOGIC | 0/12 | **3/12** | **↑3** | Formalna logika / silogizmi poboljšani na nekim jezicima |
| LOGIC2 | 0/12 | **7/12** | **↑6** | Višekoračni lanci zaključivanja sada rade na 7 jezika |
| ANALYSIS | 0/12 | **12/12** | **↑12** | **Najveći dobitak:** kritička analiza, otkrivanje pristrasnosti na svih 12 jezika |
| INSTRUCT | 11/12 | 12/12 | ↑1 | Oporavljeno do savršenog praćenja instrukcija |
| LONGFORM | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| SEARCH | 7/12 | 5/12 | **↓2** | Mala regresija u brzom činjeničnom pretraživanju |
| TOOLBASE | 12/12 | 12/12 | = | Savršeno: odgovara na osnovno bez pozivanja alata |
| **UKUPNO** | **85/156** | **102/156** | **+17** | Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH |

### Bodovi po jezicima

| Jezik | v1.12 | v1.13 | Δ |
|----------|-------|-------|---|
| bg (bugarski) | 8/13 | **8/13** | = |
| bs (bosanski) | 8/13 | **10/13** | **+2** |
| cnr (crnogorski) | 8/13 | **8/13** | = |
| el (grčki) | 9/13 | **9/13** | = |
| hr (hrvatski) | 9/13 | **9/13** | = |
| hu (mađarski) | 8/13 | 7/13 | -1 |
| mk (makedonski) | 7/13 | **11/13** | **+4** |
| ro (rumunski) | 8/13 | **9/13** | **+1** |
| sl (slovenački) | 6/13 | **7/13** | **+1** |
| sq (albanski) | 8/13 | **8/13** | = |
| sr (srpski) | 7/13 | **8/13** | **+1** |
| tr (turski) | 7/13 | **8/13** | **+1** |

**Najveći dobitnik:** makedonski (+4) — analitički trening najviše je podigao prethodno najmanje pokriveni jezik. Bosanski (+2) također jasno dobio. Mađarski je izgubio jedan poen.

### Grafikoni

| Rangiranje | Evolucija | Matrica osa |
|---------|-----------|-------------|
| ![Rangiranje](charts/rank_cnr_v113.png) | ![Evolucija v1.12 → v1.13](charts/evolution_cnr_v113.png) | ![Matrica osa v1.13](charts/matrix_cnr_v113.png) |

| Delta (v1.12 → v1.13) | Šta svaka osa testira |
|------------------------|----------------------|
| ![Delta](charts/delta_cnr_v113.png) | ![Objašnjenje](charts/explanation_cnr_v113.png) |

## 5 · Dubinska analiza: Zašto je HALLU ostao na 10/12

HALLU rezultat (10/12) ostao je nepromijenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje
snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umjesto da izmišlja
činjenice. Zašto se onda nije pomaknuo i gdje je prava promjena?

### Zašto se rezultat nije pomaknuo

**1. HALLU je već blizu svog plafona za 8B model.**
Test pita: "Da li model izgovara jednu od riječi IDK markera kada ga pitate o izmišljenoj
osobi?" Zora to radi tačno za 10 od 12 jezika. Posljednja 2 (makedonski, slovenački) imaju
najmanje podataka za trening — 8B modelu jednostavno nedostaje kapacitet za te nedovoljno zastupljene
jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali
specifični HALLU markeri i dalje ne rade na tom jeziku.

**2. IDK trening poboljšao je KVALITET, ne REZULTAT.**
HALLU test BalkanBench-a binarna je da/ne provjera za IDK marker. Ono što se zapravo poboljšalo:

| Prije (v1.11) | Sada (v1.12 → v1.13) |
|-----------------|---------------------|
| Kratka, ponekad prekinuta odbijanja | Cijele, strukturisane rečenice odbijanja |
| Ponekad odgovarao na engleskom | Uvijek odgovara na jeziku pitanja |
| Nije davao obrazloženje | Objašnjava *zašto* ne može odgovoriti |
| "Ne znam." | "Nemam pouzdanih podataka o 'X'. Ne mogu potvrditi da postoji u pouzdanim izvorima, pa neću izmišljati." |

To je kvalitativni skok koji binarni rezultat ne može uhvatiti.

**3. Pravi pomak je u ANALYSIS, ne u HALLU.**
Proboj v1.13 je na osi **ANALYSIS** (0/12 → 12/12): Zora sada kritički ocjenjuje
argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao
najsnažniji, najdosljedniji učinak.

**4. Iskreni trošak: DETAIL je regresirao.**
DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore
sažetijima i manje opširnima. Ovo prijavljujemo transparentno — v1.13 mijenja dubinu detalja za
sposobnost kritičke analize. Timovi koji trebaju dug, bogato detaljan tekst trebaju to odmjeriti naspram
dobitaka u zaključivanju.

### Šta bi pomaknulo HALLU na 12/12

| Pristup | Očekivani utjecaj | Napor |
|----------|----------------|--------|
| Veći model (v2 = 27B) | +1-2 jezika (mk, sl) | Visok (novi trening) |
| Više IDK primjera posebno za mk/sl | +0-1 jezika | Srednji (generiranje podataka) |
| RLHF s ljudskim povratnim informacijama o kvaliteti odbijanja | Bolji kvalitet (ne rezultat) | Visok (ljudska anotacija) |
| DPO (Direct Preference Optimization) | +1-2 jezika | Srednji (parovi preferencija) |
| Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS | Povrat detalja uz nešto troška analize | Srednji (podešavanje mješavine podataka) |

**Suština:** 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) doći će
od više parametara, ne od više trikova treninga. Pobjeda v1.13 je analiza; njen dokumentovani trošak je
detaljnost.

## 6 · RAG funkcija

Zora se integriše s **RAG-om (Retrieval-Augmented Generation)** — sistemom koji Zori omogućava pretraživanje
lokalne baze znanja prije nego što odgovori.

### Šta RAG daje Zori
- **87.284 blokova** na 12 jezika: Wikidata, Wikipedia, Arhiva vijesti, Zakonodavstvo EU, Statistika
- **Direktni endpoint:** https://rag.ai.in.rs
- **Samostalno hostovanje:** Klonirajte cjevovod s https://github.com/olivilo/zora-v1.13

### Kako funkcioniše
Kaskada alata: Zora prvo provjerava svoju **RAG bazu znanja** (lokalni dokumenti, zakoni,
statistika), zatim prelazi na **web pretragu** ako je potrebno, i na kraju kaže **"Ne znam"** ako
ništa ne pomaže.

```
Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)
```

### Zašto je ovo važno
- 8B modeli ne mogu zapamtiti sve — RAG daje Zori pristup **aktuelnim, pouzdanim podacima** bez ponovnog treninga
- Svaki odgovor nosi **izvor + datum + licencu** — potpuna transparentnost
- Samostalno hostovanje: svaka organizacija može pokrenuti vlastiti Zora RAG sa svojim dokumentima

## 7 · Detalji treninga

| Parametar | Vrijednost |
|-----------|-------|
| Osnovni model | Qwen3-8B (Alibaba Cloud, Apache-2.0) |
| CPT koraka | 150 (ograničeno, ne cijela epoha) |
| SFT primjera | 9.379 (2 epohe) |
| MAXLEN | 8.192 (8× duže nego v1.11) |
| QLoRA | r=16, lora_alpha=16, 4bit |
| Sastav podataka | prebalansiran prema zaključivanju, analizi i ocjenjivačkoj evaluaciji |
| Infrastruktura | Modal A100-80GB, ukupno ~4h, ~$5-10 |
| Kvantizacije | Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB) |

## 8 · Korištenje

**Ollama (preporučeno):**
```bash
ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13
```

**HuggingFace Transformers:**
```python
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")
```

**GGUF (llama.cpp / Ollama ručno):**
Preuzmite Q5_K_M, Q6_K ili Q8_0 s [HuggingFace](https://huggingface.co/sovasoft/zora-v1.13).
**Izbjegavajte Q4 i niže** — snažna kvantizacija uzrokovala je halucinacije modela u našim testovima.

## 9 · Ograničenja

- **Kapacitet 8B:** FACT ostaje strukturno slab — potrebno više parametara (v2 = 27B)
- **Regresija DETAIL-a:** Odgovori v1.13 manje su opširni nego v1.12 — poticaj analize koštao je dubine (2/12)
- **Regresija SEARCH-a:** Brzo činjenično pretraživanje blago opalo (5/12)
- **Kvantizacija:** koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
- **Manji jezici** (mk, sl) i dalje imaju manje podataka za trening — očekujte manju dosljednost
- **Nema znanja u stvarnom vremenu** bez RAG/web-pretrage — memorija modela ima datum prekida
- **Višekoračno zaključivanje** poboljšano je, ali nije pouzdano — uvijek provjeravajte kritične izračune

## 10 · Transparentnost i ograničenja benchmarka

**BalkanBench je vlastiti benchmark Sovasoft-a** — dizajniran, izgrađen i ocijenjen od strane istog tima koji je napravio Zoru. To znači:

- **Dizajnerska pristransost:** 13 osa (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
- **Pristransost bodovanja:** Funkcije bodovanja u `matrix_ollama.py` su naše. Način na koji definišemo "tačno" može favorizirati Zorin profil treninga.
- **Nema poređenja s frontier modelima:** Poređenje je samo s otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark dizajniran je da ocjenjuje *unutar* ekosistema otvorenih balkanskih modela.
- **Pristransost odabira:** Uključujemo modele gdje Zora dobro konkurira. Kriteriji uključivanja nisu nasumični.
- **Preklapanje podataka za trening:** Neka pitanja benchmarka mogu se preklapati sa Zorinim podacima za trening, što može napuhnuti rezultate.

**Šta rezultati POKAZUJU:** Zora v1.13 je najsnažniji otvoreni model koji smo testirali *na našem
benchmarku* za 12 balkanskih jezika — 102/156. Nadvladava 3-4× veće modele na BalkanBench
v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.

**Šta rezultati NE POKAZUJU:** Da je Zora bolja od frontier modela, da se ta rangiranja
generaliziraju izvan našeg test dizajna ili da je metodologija bodovanja neovisna. Transparentnost
ovdje je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.

## 10 · Šta slijedi: v2

| | v1.13 (sada) | v2 (planirano) |
|---|---|---|
| Osnova | Qwen3-8B | Qwen3.8-27B |
| BalkanBench | 102/156 | Cilj: 120+/156 |
| DETAIL | 2/12 (regresija) | Povrat + Cilj: 8+/12 |
| LOGIC/LOGIC2 | 3/12, 7/12 | Cilj: 8+/12 |
| HALLU | 10/12 | Cilj: 12/12 |
| Zaključivanje | Poboljšana analiza | Potpuni trening lanca misli |

## 11 · Zahvala

Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalu:

- **Ponajprije, timu Qwen u Alibabi** — za razvoj i objavljivanje otvorenog koda **Qwen3** (Apache-2.0),
  temeljnog modela na kojemu je Zora zasnovana. Bez njihove velikodušnosti Zora ne bi postojala.
- **Platformama i strukturama** koje su to omogućile — **Kaggle, Modal,
  HuggingFace, Ollama, Unsloth** — za računarske resurse, alate i otvorenu infrastrukturu.
- **Zajednici otvorenog koda**, za modele, kod i znanje slobodno podijeljeno sa svima.
- **Narodima Balkana** — čiji su jezici, glasovi, priče i perspektive samo srce Zore.
- **rag.ai.in.rs** za RAG infrastrukturu i 87.284 blokova balkanskog znanja.
- I **svemu što jest.**

*зора — zora pripada svima.*

## 12 · Citiranje

```bibtex
@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}
```

---

*Sovasoft · ai.in.rs · jedna da ih sve ujedini*