File size: 15,996 Bytes
bb738ea
 
 
 
 
 
 
 
 
 
 
a8a8e81
bb738ea
 
 
 
 
 
 
 
 
 
a8a8e81
bb738ea
a8a8e81
 
 
 
bb738ea
 
 
a8a8e81
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
 
 
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
 
 
bb738ea
 
 
a8a8e81
 
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
bb738ea
a8a8e81
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
 
 
 
bb738ea
a8a8e81
 
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
bb738ea
 
a8a8e81
bb738ea
a8a8e81
 
 
 
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
 
 
bb738ea
 
 
a8a8e81
 
bb738ea
a8a8e81
 
 
 
bb738ea
a8a8e81
 
 
 
bb738ea
 
a8a8e81
bb738ea
 
a8a8e81
 
 
 
bb738ea
 
 
a8a8e81
bb738ea
a8a8e81
 
 
 
bb738ea
a8a8e81
 
 
bb738ea
 
 
a8a8e81
bb738ea
 
 
 
 
 
 
 
 
 
 
 
a8a8e81
 
 
bb738ea
 
 
a8a8e81
 
 
 
 
 
 
bb738ea
a8a8e81
bb738ea
a8a8e81
bb738ea
a8a8e81
 
 
 
 
bb738ea
a8a8e81
 
 
bb738ea
a8a8e81
 
 
bb738ea
 
 
a8a8e81
bb738ea
a8a8e81
 
 
 
 
 
bb738ea
 
 
a8a8e81
bb738ea
a8a8e81
 
 
 
 
 
 
 
bb738ea
a8a8e81
bb738ea
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a8a8e81
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
---
license: apache-2.0
language: [sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu]
base_model: Qwen/Qwen3-8B
library_name: transformers
tags: [balkan, southeast-europe, multilingual, honest-ai, sovasoft, rag]
---

🌐 **EN** · **🇷🇸 SR** · [🇭🇷 HR](README_hr.md) · [🇧🇦 BS](README_bs.md) · [🇲🇰 MK](README_mk.md) · [🇸🇮 SL](README_sl.md) · [🇦🇱 SQ](README_sq.md) · [🇲🇪 CNR](README_cnr.md) · [🇧🇬 BG](README_bg.md) · [🇬🇷 EL](README_el.md) · [🇹🇷 TR](README_tr.md) · [🇷🇴 RO](README_ro.md) · [🇭🇺 HU](README_hu.md)

<p align="center">
  <img src="images/Zora_Stich_1700_SW_Print.png" width="520" alt="Zora — boginja zore, okružena simbolima 12 naroda"/>
</p>

# Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu

*зора = "zora". Jedna da ih sve ujedini.***Sovasoft** ([ai.in.rs](https://ai.in.rs))

---

## 1 · Šta je Zora

Zora je **otvoreni jezički model sa 8 milijardi parametara** (zasnovan na Qwen3-8B) za **12 jezika Balkana i Jugoistočne Evrope**: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.

Zora nije napravljena da bude najveći model — napravljena je da bude **iskrena, na maternjem jeziku i višeperspektivna**:
- **razmišlja na ciljnom jeziku** umesto preko engleskog,
- pokazuje **više perspektiva** o spornim temama umesto jednog nacionalnog gledišta,
- i iznad svega: **priznaje kada ne zna** umesto da izmišlja činjenice.

## 2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

| Verzija | Jezici | BalkanBench | Stanje |
|---|---|---|---|
| **v1.0** | 6 | — | prvo javno izdanje |
| **v1.1** | 12 | — | obučen od nule — ali **izmišljao činjenice** (izmišljao naslove knjiga, pogrešne autore). **Nikad nije objavljen.** |
| **v1.11** | 12 | 84/156 | iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. **#1 balkanski model.** |
| **v1.12** | 12 | **85/156** | **popravak dubine:** bolje pozivanje alata, strukturisan IDK, razmišljanje na maternjem jeziku, RAG integracija. |
| **v1.13** | 12 | **102/156** | **proboj u analizi:** kritička analiza, napredna logika i ocenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala. |

v1.1 nas je naučio ključnu lekciju — mali model ne može da *zapamti* svaku činjenicu, pa umesto da to fingira,
**v1.11 je ponovo obučen da bude iskren**. v1.12 je na tome gradila sa dubljim treningom i RAG-om. v1.13
gura veštine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.

## 3 · Šta je novo u v1.13

### Podstrek analize i zaključivanja

**Nove snage u v1.13:**
- **ANALYSIS 0/12 → 12/12** — najveći pojedinačni dobitak. Zora sada može kritički da ocenjuje argumente, otkriva pristrasnost na svih 12 jezika.
- **LOGIC2 0/12 → 7/12** — napredne višekoračne lance zaključivanja sada rade na 7 jezika.
- **GRADED 0/12 → 3/12** — delimičan napredak u eseju, procenama i rubrikama.
- **LOGIC 0/12 → 3/12** — formalna logika i silogizmi poboljšani na nekim jezicima.

**Iskreni kompromisi:**
- **DETAIL 10/12 → 2/12** — značajna regresija. Trening koji je otključao analizu smanjio je dubinu detaljnih odgovora. Ovo prijavljujemo transparentno; to je najsnažnija slabost v1.13.
- **SEARCH 7/12 → 5/12** — manji pad u brzom činjeničnom pretraživanju.
- **FACT 0/12 → 1/12** — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
- **HALLU** ostaje na 10/12 (vidi dubinsku analizu u nastavku).

Trening v1.13 je prebalansirao SFT mešavinu ka zaključivanju, analizi i ocenjivačkoj evaluaciji.
To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi
DETAIL i nešto brzine na SEARCH. To je svestan, dokumentovan kompromis — nije besplatna pobeda.

## 4 · Benchmark (BalkanBench, 13 osi × 12 jezika)

🔬 **BalkanBench je otvoren** — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench
Determinističko bodovanje (skripta / jezik / ključne reči / brojevi).

### Poređenje po osama (v1.12 → v1.13)

| Osa | v1.12 | v1.13 | Δ | Šta se promenilo |
|------|-------|-------|---|---|
| FACT | 0/12 | 1/12 | ↑1 | Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo |
| HALLU | 10/12 | 10/12 | = | Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu) |
| DETAIL | 10/12 | 2/12 | **↓8** | **Regresija — iskreni trošak V1.13 podstrek zaključivanja** |
| GRADED | 0/12 | **3/12** | **↑3** | Novo: eseji, procene, rubrike sada ponekad rade |
| TEACH | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| REASON | 11/12 | 11/12 | = | Snažno aritmetičko zaključivanje ostaje |
| LOGIC | 0/12 | **3/12** | **↑3** | Formalna logika / silogizmi poboljšani na nekim jezicima |
| LOGIC2 | 0/12 | **7/12** | **↑6** | Višekoraci lanci zaključivanja sada rade na 7 jezika |
| ANALYSIS | 0/12 | **12/12** | **↑12** | **Najveći dobitak:** kritička analiza, otkrivanje pristrasnosti na svih 12 jezika |
| INSTRUCT | 11/12 | 12/12 | ↑1 | Oporavljeno do savršenog praćenja instrukcija |
| LONGFORM | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| SEARCH | 7/12 | 5/12 | **↓2** | Mala regresija u brzom činjeničnom pretraživanju |
| TOOLBASE | 12/12 | 12/12 | = | Savršeno: odgovara na osnovno bez pozivanja alata |
| **UKUPNO** | **85/156** | **102/156** | **+17** | Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH |

### Poeni po jezicima

| Jezik | v1.12 | v1.13 | Δ |
|----------|-------|-------|---|
| bg (bugarski) | 8/13 | **8/13** | = |
| bs (bosanski) | 8/13 | **10/13** | **+2** |
| cnr (crnogorski) | 8/13 | **8/13** | = |
| el (grčki) | 9/13 | **9/13** | = |
| hr (hrvatski) | 9/13 | **9/13** | = |
| hu (mađarski) | 8/13 | 7/13 | -1 |
| mk (makedonski) | 7/13 | **11/13** | **+4** |
| ro (rumunski) | 8/13 | **9/13** | **+1** |
| sl (slovenački) | 6/13 | **7/13** | **+1** |
| sq (albanski) | 8/13 | **8/13** | = |
| sr (srpski) | 7/13 | **8/13** | **+1** |
| tr (turski) | 7/13 | **8/13** | **+1** |

**Najveći dobitnik:** makedonski (+4) — analitički trening je najviše podigao prethodno najmanje pokriveni jezik. Bosanski (+2) takođe jasno dobio. Mađarski je izgubio jedan poen.

### Grafikoni

| Rangiranje | Evolucija | Matrica osa |
|---------|-----------|-------------|
| ![Rangiranje](charts/rank_sr_v113.png) | ![Evolucija v1.12 → v1.13](charts/evolution_sr_v113.png) | ![Matrica osa v1.13](charts/matrix_sr_v113.png) |

| Delta (v1.12 → v1.13) | Šta svaka osa testira |
|------------------------|----------------------|
| ![Delta](charts/delta_sr_v113.png) | ![Objašnjenje](charts/explanation_sr_v113.png) |

## 5 · Dubinska analiza: Zašto je HALLU ostao na 10/12

HALLU rezultat (10/12) ostao je nepromenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje
snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umesto da izmišlja
činjenice. Zašto se onda nije pomerio, i gde je prava promena?

### Zašto se rezultat nije pomerio

**1. HALLU je već blizu svog plafona za 8B model.**
Test pita: "Da li model izgovara jednu od reči IDK markera kada ga pitate o izmišljenoj
osobi?" Zora to radi tačno za 10 od 12 jezika. Poslednja 2 (makedonski, slovenački) imaju
najmanje podataka za obuku — 8B modelu jednostavno nedostaje kapacitet za ove nedovoljno zastupljene
jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali
specifični HALLU markeri i dalje ne rade na tom jeziku.

**2. IDK trening je poboljšao KVALITET, ne REZULTAT.**
HALLU test BalkanBench-a je binarni da/ne provera za IDK marker. Ono što se zapravo poboljšalo:

| Pre (v1.11) | Sada (v1.12 → v1.13) |
|-----------------|---------------------|
| Kratka, ponekad prekinuta odbijanja | Celine, strukturisane rečenice odbijanja |
| Ponekad odgovarao na engleskom | Uvek odgovara na jeziku pitanja |
| Nije davao obrazloženje | Objašnjava *zašto* ne može da odgovori |
| "Ne znam." | "Nemam pouzdanih podataka o 'X'. Ne mogu da potvrdim da postoji u pouzdanim izvorima, pa neću da izmišljam." |

Ovo je kvalitativni skok koji binarni rezultat ne može da uhvati.

**3. Pravi pomak je u ANALYSIS, ne u HALLU.**
Proboj v1.13 je na osi **ANALYSIS** (0/12 → 12/12): Zora sada kritički ocenjuje
argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao
najsnažniji, najkonzistentniji efekat.

**4. Iskreni trošak: DETAIL je regresirao.**
DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore više
sažete i manje elaborirane. Ovo prijavljujemo transparentno — v1.13 trguje dubinom detalja za
sposobnost kritičke analize. Timovi koji dug, bogato detaljan tekst treba da vagaju ovo naspram
dobitaka u zaključivanju.

### Šta bi pomaklo HALLU na 12/12

| Pristup | Očekivani uticaj | Napor |
|----------|----------------|--------|
| Veći model (v2 = 27B) | +1-2 jezika (mk, sl) | Visok (nova obuka) |
| Više IDK primera posebno za mk/sl | +0-1 jezika | Srednji (generisanje podataka) |
| RLHF sa ljudskim povratnim informacijama o kvalitetu odbijanja | Bolji kvalitet (ne rezultat) | Visok (ljudska anotacija) |
| DPO (Direct Preference Optimization) | +1-2 jezika | Srednji (parovi preferenci) |
| Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS | Oporavak detalja uz nešto troška analize | Srednji ( podešavanje mešavine podataka) |

**Suština:** 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) će doći
od više parametara, ne od više trikova obuke. Pobeda v1.13 je analiza; njen dokumentovani trošak je
detaljnost.

## 6 · RAG funkcija

Zora se integriše sa **RAG-om (Retrieval-Augmented Generation)** — sistemom koji Zori omogućava da pretražuje
lokalnu bazu znanja pre nego što odgovori.

### Šta RAG daje Zori
- **87.284 bloka** na 12 jezika: Wikidata, Wikipedia, Arhiva vesti, Zakonodavstvo EU, Statistika
- **Direktni endpoint:** https://rag.ai.in.rs
- **Samostalno hostovanje:** Klonirajte cevovod sa https://github.com/olivilo/zora-v1.13

### Kako funkcioniše
Kaskada alata: Zora prvo proverava svoju **RAG bazu znanja** (lokalni dokumenti, zakoni,
statistika), zatim prelazi na **veb pretragu** ako je potrebno, i na kraju kaže **"Ne znam"** ako
ništa ne pomaže.

```
Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)
```

### Zašto je ovo važno
- 8B modeli ne mogu da zapamte sve — RAG daje Zori pristup **aktuelnim, pouzdanim podacima** bez ponovne obuke
- Svaki odgovor nosi **izvor + datum + licencu** — potpuna transparentnost
- Samostalno hostovanje: bilo koja organizacija može da pokrene svoj Zora RAG sa svojim dokumentima

## 7 · Detalji treninga

| Parametar | Vrednost |
|-----------|-------|
| Osnovni model | Qwen3-8B (Alibaba Cloud, Apache-2.0) |
| CPT koraci | 150 (ograničeno, ne cela epoha) |
| SFT primera | 9.379 (2 epohe) |
| MAXLEN | 8.192 (8× duže nego v1.11) |
| QLoRA | r=16, lora_alpha=16, 4bit |
| Sastav podataka | prebalansiran ka zaključivanju, analizi i ocenjivačkoj evaluaciji |
| Infrastruktura | Modal A100-80GB, ukupno ~4h, ~$5-10 |
| Kvantizacije | Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB) |

## 8 · Korišćenje

**Ollama (preporučeno):**
```bash
ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13
```

**HuggingFace Transformers:**
```python
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")
```

**GGUF (llama.cpp / Ollama ručno):**
Preuzmite Q5_K_M, Q6_K ili Q8_0 sa [HuggingFace](https://huggingface.co/sovasoft/zora-v1.13).
**Izbegavajte Q4 i niže** — teška kvantizacija je uzrokovala halucinacije modela u našim testovima.

## 9 · Ograničenja

- **Kapacitet 8B:** FACT ostaje strukturalno slab — potrebno više parametara (v2 = 27B)
- **Regresija DETAIL-a:** Odgovori v1.13 su manje elaborirani nego v1.12 — analitički podstrek je koštao dubine (2/12)
- **Regresija SEARCH-a:** Brzo činjenično pretraživanje blago opalo (5/12)
- **Kvantizacija:** koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
- **Manji jezici** (mk, sl) i dalje imaju manje podataka za obuku — očekujte manju doslednost
- **Nema znanja u realnom vremenu** bez RAG/veb-pretraženja — memorija modela ima datum prekida
- **Višekoracno zaključivanje** je poboljšano ali nije pouzdano — uvek proveravajte kritičke proračune

## 10 · Transparentnost i ograničenja benchmarka

**BalkanBench je sopstveni benchmark Sovasoft-a** — dizajniran, izgrađen i ocenjen od strane istog tima koji je napravio Zoru. To znači:

- **Dizajnerska pristrasnost:** 13 osi (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
- **Pristasnost bodovanja:** Funkcije bodovanja u `matrix_ollama.py` su naše. Način na koji definišemo "tačno" može favorizovati Zorin profil obuke.
- **Nema poređenja sa frontier modelima:** Poređenje je samo sa otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark je dizajniran da evaluira *unutar* ekosistema otvorenih balkanskih modela.
- **Pristrasnost izbora:** Uključujemo modele gde Zora dobro konkuriše. Kriterijumi uključivanja nisu nasumični.
- **Preklapanje podataka za obuku:** Neka pitanja benchmarka se mogu preklapati sa Zorinim podacima za obuku, što može inflacionisati rezultate.

**Šta rezultati POKAZUJU:** Zora v1.13 je najsnažniji otvoreni model koji smo testirali *na našem
benchmarku* za 12 balkanskih jezika — 102/156. Nadvladuje 3-4× veće modele na BalkanBench
v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.

**Šta rezultati NE POKAZUJU:** Da je Zora bolja od frontier modela, da se ova rangiranja
generalizuju van našeg test dizajna, da je metodologija bodovanja nezavisna. Transparentnost
ovde je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.

## 10 · Šta slede: v2

| | v1.13 (sada) | v2 (planirano) |
|---|---|---|
| Osnova | Qwen3-8B | Qwen3.8-27B |
| BalkanBench | 102/156 | Cilj: 120+/156 |
| DETAIL | 2/12 (regresija) | Oporavak + Cilj: 8+/12 |
| LOGIC/LOGIC2 | 3/12, 7/12 | Cilj: 8+/12 |
| HALLU | 10/12 | Cilj: 12/12 |
| Zaključivanje | Poboljšana analiza | Potpuna obuka lanca misli |

## 11 · Zahvalnost

Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalnost:

- **Pre svega, timu Qwen u Alibabi** — za razvoj i objavljivanje otvorenog koda **Qwen3** (Apache-2.0),
  osnovnog modela na kome je Zora zasnovana. Bez njihove velikodušnosti, Zora ne bi postojala.
- **Platformama i strukturama** koje su to omogućile — **Kaggle, Modal,
  HuggingFace, Ollama, Unsloth** — za računarske resurse, alate i otvorenu infrastrukturu.
- **Zajednici otvorenog koda**, za modele, kod i znanje slobodno podeljene sa svima.
- **Narodima Balkana** — čiji jezici, glasovi, priče i perspektive su srce Zore.
- **rag.ai.in.rs** za RAG infrastrukturu i 87.284 bloka balkanskog znanja.
- I **svemu što jeste.**

*зора — zora pripada svima.*

## 12 · Citiranje

```bibtex
@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}
```

---

*Sovasoft · ai.in.rs · jedna da ih sve ujedini*