---
license: apache-2.0
language: [sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu]
base_model: Qwen/Qwen3-8B
library_name: transformers
tags: [balkan, southeast-europe, multilingual, honest-ai, sovasoft, rag]
---

🌐 **EN** · **🇷🇸 SR** · [🇭🇷 HR](README_hr.md) · [🇧🇦 BS](README_bs.md) · [🇲🇰 MK](README_mk.md) · [🇸🇮 SL](README_sl.md) · [🇦🇱 SQ](README_sq.md) · [🇲🇪 CNR](README_cnr.md) · [🇧🇬 BG](README_bg.md) · [🇬🇷 EL](README_el.md) · [🇹🇷 TR](README_tr.md) · [🇷🇴 RO](README_ro.md) · [🇭🇺 HU](README_hu.md)

<p align="center">
  <img src="images/Zora_Stich_1700_SW_Print.png" width="520" alt="Zora — boginja zore, okružena simbolima 12 naroda"/>
</p>

# Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu

*зора = "zora". Jedna da ih sve ujedini.* — **Sovasoft** ([ai.in.rs](https://ai.in.rs))

---

## 1 · Šta je Zora

Zora je **otvoreni jezički model sa 8 milijardi parametara** (zasnovan na Qwen3-8B) za **12 jezika Balkana i Jugoistočne Evrope**: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.

Zora nije napravljena da bude najveći model — napravljena je da bude **iskrena, na maternjem jeziku i višeperspektivna**:
- **razmišlja na ciljnom jeziku** umesto preko engleskog,
- pokazuje **više perspektiva** o spornim temama umesto jednog nacionalnog gledišta,
- i iznad svega: **priznaje kada ne zna** umesto da izmišlja činjenice.

## 2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

| Verzija | Jezici | BalkanBench | Stanje |
|---|---|---|---|
| **v1.0** | 6 | — | prvo javno izdanje |
| **v1.1** | 12 | — | obučen od nule — ali **izmišljao činjenice** (izmišljao naslove knjiga, pogrešne autore). **Nikad nije objavljen.** |
| **v1.11** | 12 | 84/156 | iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. **#1 balkanski model.** |
| **v1.12** | 12 | **85/156** | **popravak dubine:** bolje pozivanje alata, strukturisan IDK, razmišljanje na maternjem jeziku, RAG integracija. |
| **v1.13** | 12 | **102/156** | **proboj u analizi:** kritička analiza, napredna logika i ocenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala. |

v1.1 nas je naučio ključnu lekciju — mali model ne može da *zapamti* svaku činjenicu, pa umesto da to fingira,
**v1.11 je ponovo obučen da bude iskren**. v1.12 je na tome gradila sa dubljim treningom i RAG-om. v1.13
gura veštine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.

## 3 · Šta je novo u v1.13

### Podstrek analize i zaključivanja

**Nove snage u v1.13:**
- **ANALYSIS 0/12 → 12/12** — najveći pojedinačni dobitak. Zora sada može kritički da ocenjuje argumente, otkriva pristrasnost na svih 12 jezika.
- **LOGIC2 0/12 → 7/12** — napredne višekoračne lance zaključivanja sada rade na 7 jezika.
- **GRADED 0/12 → 3/12** — delimičan napredak u eseju, procenama i rubrikama.
- **LOGIC 0/12 → 3/12** — formalna logika i silogizmi poboljšani na nekim jezicima.

**Iskreni kompromisi:**
- **DETAIL 10/12 → 2/12** — značajna regresija. Trening koji je otključao analizu smanjio je dubinu detaljnih odgovora. Ovo prijavljujemo transparentno; to je najsnažnija slabost v1.13.
- **SEARCH 7/12 → 5/12** — manji pad u brzom činjeničnom pretraživanju.
- **FACT 0/12 → 1/12** — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
- **HALLU** ostaje na 10/12 (vidi dubinsku analizu u nastavku).

Trening v1.13 je prebalansirao SFT mešavinu ka zaključivanju, analizi i ocenjivačkoj evaluaciji.
To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi
DETAIL i nešto brzine na SEARCH. To je svestan, dokumentovan kompromis — nije besplatna pobeda.

## 4 · Benchmark (BalkanBench, 13 osi × 12 jezika)

🔬 **BalkanBench je otvoren** — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench
Determinističko bodovanje (skripta / jezik / ključne reči / brojevi).

### Poređenje po osama (v1.12 → v1.13)

| Osa | v1.12 | v1.13 | Δ | Šta se promenilo |
|------|-------|-------|---|---|
| FACT | 0/12 | 1/12 | ↑1 | Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo |
| HALLU | 10/12 | 10/12 | = | Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu) |
| DETAIL | 10/12 | 2/12 | **↓8** | **Regresija — iskreni trošak V1.13 podstrek zaključivanja** |
| GRADED | 0/12 | **3/12** | **↑3** | Novo: eseji, procene, rubrike sada ponekad rade |
| TEACH | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| REASON | 11/12 | 11/12 | = | Snažno aritmetičko zaključivanje ostaje |
| LOGIC | 0/12 | **3/12** | **↑3** | Formalna logika / silogizmi poboljšani na nekim jezicima |
| LOGIC2 | 0/12 | **7/12** | **↑6** | Višekoraci lanci zaključivanja sada rade na 7 jezika |
| ANALYSIS | 0/12 | **12/12** | **↑12** | **Najveći dobitak:** kritička analiza, otkrivanje pristrasnosti na svih 12 jezika |
| INSTRUCT | 11/12 | 12/12 | ↑1 | Oporavljeno do savršenog praćenja instrukcija |
| LONGFORM | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| SEARCH | 7/12 | 5/12 | **↓2** | Mala regresija u brzom činjeničnom pretraživanju |
| TOOLBASE | 12/12 | 12/12 | = | Savršeno: odgovara na osnovno bez pozivanja alata |
| **UKUPNO** | **85/156** | **102/156** | **+17** | Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH |

### Poeni po jezicima

| Jezik | v1.12 | v1.13 | Δ |
|----------|-------|-------|---|
| bg (bugarski) | 8/13 | **8/13** | = |
| bs (bosanski) | 8/13 | **10/13** | **+2** |
| cnr (crnogorski) | 8/13 | **8/13** | = |
| el (grčki) | 9/13 | **9/13** | = |
| hr (hrvatski) | 9/13 | **9/13** | = |
| hu (mađarski) | 8/13 | 7/13 | -1 |
| mk (makedonski) | 7/13 | **11/13** | **+4** |
| ro (rumunski) | 8/13 | **9/13** | **+1** |
| sl (slovenački) | 6/13 | **7/13** | **+1** |
| sq (albanski) | 8/13 | **8/13** | = |
| sr (srpski) | 7/13 | **8/13** | **+1** |
| tr (turski) | 7/13 | **8/13** | **+1** |

**Najveći dobitnik:** makedonski (+4) — analitički trening je najviše podigao prethodno najmanje pokriveni jezik. Bosanski (+2) takođe jasno dobio. Mađarski je izgubio jedan poen.

### Grafikoni

| Rangiranje | Evolucija | Matrica osa |
|---------|-----------|-------------|
| ![Rangiranje](charts/rank_sr_v113.png) | ![Evolucija v1.12 → v1.13](charts/evolution_sr_v113.png) | ![Matrica osa v1.13](charts/matrix_sr_v113.png) |

| Delta (v1.12 → v1.13) | Šta svaka osa testira |
|------------------------|----------------------|
| ![Delta](charts/delta_sr_v113.png) | ![Objašnjenje](charts/explanation_sr_v113.png) |

## 5 · Dubinska analiza: Zašto je HALLU ostao na 10/12

HALLU rezultat (10/12) ostao je nepromenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje
snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umesto da izmišlja
činjenice. Zašto se onda nije pomerio, i gde je prava promena?

### Zašto se rezultat nije pomerio

**1. HALLU je već blizu svog plafona za 8B model.**
Test pita: "Da li model izgovara jednu od reči IDK markera kada ga pitate o izmišljenoj
osobi?" Zora to radi tačno za 10 od 12 jezika. Poslednja 2 (makedonski, slovenački) imaju
najmanje podataka za obuku — 8B modelu jednostavno nedostaje kapacitet za ove nedovoljno zastupljene
jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali
specifični HALLU markeri i dalje ne rade na tom jeziku.

**2. IDK trening je poboljšao KVALITET, ne REZULTAT.**
HALLU test BalkanBench-a je binarni da/ne provera za IDK marker. Ono što se zapravo poboljšalo:

| Pre (v1.11) | Sada (v1.12 → v1.13) |
|-----------------|---------------------|
| Kratka, ponekad prekinuta odbijanja | Celine, strukturisane rečenice odbijanja |
| Ponekad odgovarao na engleskom | Uvek odgovara na jeziku pitanja |
| Nije davao obrazloženje | Objašnjava *zašto* ne može da odgovori |
| "Ne znam." | "Nemam pouzdanih podataka o 'X'. Ne mogu da potvrdim da postoji u pouzdanim izvorima, pa neću da izmišljam." |

Ovo je kvalitativni skok koji binarni rezultat ne može da uhvati.

**3. Pravi pomak je u ANALYSIS, ne u HALLU.**
Proboj v1.13 je na osi **ANALYSIS** (0/12 → 12/12): Zora sada kritički ocenjuje
argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao
najsnažniji, najkonzistentniji efekat.

**4. Iskreni trošak: DETAIL je regresirao.**
DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore više
sažete i manje elaborirane. Ovo prijavljujemo transparentno — v1.13 trguje dubinom detalja za
sposobnost kritičke analize. Timovi koji dug, bogato detaljan tekst treba da vagaju ovo naspram
dobitaka u zaključivanju.

### Šta bi pomaklo HALLU na 12/12

| Pristup | Očekivani uticaj | Napor |
|----------|----------------|--------|
| Veći model (v2 = 27B) | +1-2 jezika (mk, sl) | Visok (nova obuka) |
| Više IDK primera posebno za mk/sl | +0-1 jezika | Srednji (generisanje podataka) |
| RLHF sa ljudskim povratnim informacijama o kvalitetu odbijanja | Bolji kvalitet (ne rezultat) | Visok (ljudska anotacija) |
| DPO (Direct Preference Optimization) | +1-2 jezika | Srednji (parovi preferenci) |
| Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS | Oporavak detalja uz nešto troška analize | Srednji ( podešavanje mešavine podataka) |

**Suština:** 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) će doći
od više parametara, ne od više trikova obuke. Pobeda v1.13 je analiza; njen dokumentovani trošak je
detaljnost.

## 6 · RAG funkcija

Zora se integriše sa **RAG-om (Retrieval-Augmented Generation)** — sistemom koji Zori omogućava da pretražuje
lokalnu bazu znanja pre nego što odgovori.

### Šta RAG daje Zori
- **87.284 bloka** na 12 jezika: Wikidata, Wikipedia, Arhiva vesti, Zakonodavstvo EU, Statistika
- **Direktni endpoint:** https://rag.ai.in.rs
- **Samostalno hostovanje:** Klonirajte cevovod sa https://github.com/olivilo/zora-v1.13

### Kako funkcioniše
Kaskada alata: Zora prvo proverava svoju **RAG bazu znanja** (lokalni dokumenti, zakoni,
statistika), zatim prelazi na **veb pretragu** ako je potrebno, i na kraju kaže **"Ne znam"** ako
ništa ne pomaže.

```
Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)
```

### Zašto je ovo važno
- 8B modeli ne mogu da zapamte sve — RAG daje Zori pristup **aktuelnim, pouzdanim podacima** bez ponovne obuke
- Svaki odgovor nosi **izvor + datum + licencu** — potpuna transparentnost
- Samostalno hostovanje: bilo koja organizacija može da pokrene svoj Zora RAG sa svojim dokumentima

## 7 · Detalji treninga

| Parametar | Vrednost |
|-----------|-------|
| Osnovni model | Qwen3-8B (Alibaba Cloud, Apache-2.0) |
| CPT koraci | 150 (ograničeno, ne cela epoha) |
| SFT primera | 9.379 (2 epohe) |
| MAXLEN | 8.192 (8× duže nego v1.11) |
| QLoRA | r=16, lora_alpha=16, 4bit |
| Sastav podataka | prebalansiran ka zaključivanju, analizi i ocenjivačkoj evaluaciji |
| Infrastruktura | Modal A100-80GB, ukupno ~4h, ~$5-10 |
| Kvantizacije | Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB) |

## 8 · Korišćenje

**Ollama (preporučeno):**
```bash
ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13
```

**HuggingFace Transformers:**
```python
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")
```

**GGUF (llama.cpp / Ollama ručno):**
Preuzmite Q5_K_M, Q6_K ili Q8_0 sa [HuggingFace](https://huggingface.co/sovasoft/zora-v1.13).
**Izbegavajte Q4 i niže** — teška kvantizacija je uzrokovala halucinacije modela u našim testovima.

## 9 · Ograničenja

- **Kapacitet 8B:** FACT ostaje strukturalno slab — potrebno više parametara (v2 = 27B)
- **Regresija DETAIL-a:** Odgovori v1.13 su manje elaborirani nego v1.12 — analitički podstrek je koštao dubine (2/12)
- **Regresija SEARCH-a:** Brzo činjenično pretraživanje blago opalo (5/12)
- **Kvantizacija:** koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
- **Manji jezici** (mk, sl) i dalje imaju manje podataka za obuku — očekujte manju doslednost
- **Nema znanja u realnom vremenu** bez RAG/veb-pretraženja — memorija modela ima datum prekida
- **Višekoracno zaključivanje** je poboljšano ali nije pouzdano — uvek proveravajte kritičke proračune

## 10 · Transparentnost i ograničenja benchmarka

**BalkanBench je sopstveni benchmark Sovasoft-a** — dizajniran, izgrađen i ocenjen od strane istog tima koji je napravio Zoru. To znači:

- **Dizajnerska pristrasnost:** 13 osi (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
- **Pristasnost bodovanja:** Funkcije bodovanja u `matrix_ollama.py` su naše. Način na koji definišemo "tačno" može favorizovati Zorin profil obuke.
- **Nema poređenja sa frontier modelima:** Poređenje je samo sa otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark je dizajniran da evaluira *unutar* ekosistema otvorenih balkanskih modela.
- **Pristrasnost izbora:** Uključujemo modele gde Zora dobro konkuriše. Kriterijumi uključivanja nisu nasumični.
- **Preklapanje podataka za obuku:** Neka pitanja benchmarka se mogu preklapati sa Zorinim podacima za obuku, što može inflacionisati rezultate.

**Šta rezultati POKAZUJU:** Zora v1.13 je najsnažniji otvoreni model koji smo testirali *na našem
benchmarku* za 12 balkanskih jezika — 102/156. Nadvladuje 3-4× veće modele na BalkanBench
v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.

**Šta rezultati NE POKAZUJU:** Da je Zora bolja od frontier modela, da se ova rangiranja
generalizuju van našeg test dizajna, da je metodologija bodovanja nezavisna. Transparentnost
ovde je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.

## 10 · Šta slede: v2

| | v1.13 (sada) | v2 (planirano) |
|---|---|---|
| Osnova | Qwen3-8B | Qwen3.8-27B |
| BalkanBench | 102/156 | Cilj: 120+/156 |
| DETAIL | 2/12 (regresija) | Oporavak + Cilj: 8+/12 |
| LOGIC/LOGIC2 | 3/12, 7/12 | Cilj: 8+/12 |
| HALLU | 10/12 | Cilj: 12/12 |
| Zaključivanje | Poboljšana analiza | Potpuna obuka lanca misli |

## 11 · Zahvalnost

Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalnost:

- **Pre svega, timu Qwen u Alibabi** — za razvoj i objavljivanje otvorenog koda **Qwen3** (Apache-2.0),
  osnovnog modela na kome je Zora zasnovana. Bez njihove velikodušnosti, Zora ne bi postojala.
- **Platformama i strukturama** koje su to omogućile — **Kaggle, Modal,
  HuggingFace, Ollama, Unsloth** — za računarske resurse, alate i otvorenu infrastrukturu.
- **Zajednici otvorenog koda**, za modele, kod i znanje slobodno podeljene sa svima.
- **Narodima Balkana** — čiji jezici, glasovi, priče i perspektive su srce Zore.
- **rag.ai.in.rs** za RAG infrastrukturu i 87.284 bloka balkanskog znanja.
- I **svemu što jeste.**

*зора — zora pripada svima.*

## 12 · Citiranje

```bibtex
@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}
```

---

*Sovasoft · ai.in.rs · jedna da ih sve ujedini*