zora-v1.13 / README_sr.md
23Olivilo's picture
Upload README_sr.md with huggingface_hub
a8a8e81 verified
|
Raw
History Blame Contribute Delete
16 kB
metadata
license: apache-2.0
language:
  - sr
  - hr
  - bs
  - mk
  - sl
  - sq
  - cnr
  - bg
  - el
  - tr
  - ro
  - hu
base_model: Qwen/Qwen3-8B
library_name: transformers
tags:
  - balkan
  - southeast-europe
  - multilingual
  - honest-ai
  - sovasoft
  - rag

🌐 EN · 🇷🇸 SR · 🇭🇷 HR · 🇧🇦 BS · 🇲🇰 MK · 🇸🇮 SL · 🇦🇱 SQ · 🇲🇪 CNR · 🇧🇬 BG · 🇬🇷 EL · 🇹🇷 TR · 🇷🇴 RO · 🇭🇺 HU

Zora — boginja zore, okružena simbolima 12 naroda

Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu

зора = "zora". Jedna da ih sve ujedini.Sovasoft (ai.in.rs)


1 · Šta je Zora

Zora je otvoreni jezički model sa 8 milijardi parametara (zasnovan na Qwen3-8B) za 12 jezika Balkana i Jugoistočne Evrope: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.

Zora nije napravljena da bude najveći model — napravljena je da bude iskrena, na maternjem jeziku i višeperspektivna:

  • razmišlja na ciljnom jeziku umesto preko engleskog,
  • pokazuje više perspektiva o spornim temama umesto jednog nacionalnog gledišta,
  • i iznad svega: priznaje kada ne zna umesto da izmišlja činjenice.

2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

Verzija Jezici BalkanBench Stanje
v1.0 6 prvo javno izdanje
v1.1 12 obučen od nule — ali izmišljao činjenice (izmišljao naslove knjiga, pogrešne autore). Nikad nije objavljen.
v1.11 12 84/156 iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. #1 balkanski model.
v1.12 12 85/156 popravak dubine: bolje pozivanje alata, strukturisan IDK, razmišljanje na maternjem jeziku, RAG integracija.
v1.13 12 102/156 proboj u analizi: kritička analiza, napredna logika i ocenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala.

v1.1 nas je naučio ključnu lekciju — mali model ne može da zapamti svaku činjenicu, pa umesto da to fingira, v1.11 je ponovo obučen da bude iskren. v1.12 je na tome gradila sa dubljim treningom i RAG-om. v1.13 gura veštine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.

3 · Šta je novo u v1.13

Podstrek analize i zaključivanja

Nove snage u v1.13:

  • ANALYSIS 0/12 → 12/12 — najveći pojedinačni dobitak. Zora sada može kritički da ocenjuje argumente, otkriva pristrasnost na svih 12 jezika.
  • LOGIC2 0/12 → 7/12 — napredne višekoračne lance zaključivanja sada rade na 7 jezika.
  • GRADED 0/12 → 3/12 — delimičan napredak u eseju, procenama i rubrikama.
  • LOGIC 0/12 → 3/12 — formalna logika i silogizmi poboljšani na nekim jezicima.

Iskreni kompromisi:

  • DETAIL 10/12 → 2/12 — značajna regresija. Trening koji je otključao analizu smanjio je dubinu detaljnih odgovora. Ovo prijavljujemo transparentno; to je najsnažnija slabost v1.13.
  • SEARCH 7/12 → 5/12 — manji pad u brzom činjeničnom pretraživanju.
  • FACT 0/12 → 1/12 — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
  • HALLU ostaje na 10/12 (vidi dubinsku analizu u nastavku).

Trening v1.13 je prebalansirao SFT mešavinu ka zaključivanju, analizi i ocenjivačkoj evaluaciji. To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi DETAIL i nešto brzine na SEARCH. To je svestan, dokumentovan kompromis — nije besplatna pobeda.

4 · Benchmark (BalkanBench, 13 osi × 12 jezika)

🔬 BalkanBench je otvoren — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench Determinističko bodovanje (skripta / jezik / ključne reči / brojevi).

Poređenje po osama (v1.12 → v1.13)

Osa v1.12 v1.13 Δ Šta se promenilo
FACT 0/12 1/12 ↑1 Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo
HALLU 10/12 10/12 = Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu)
DETAIL 10/12 2/12 ↓8 Regresija — iskreni trošak V1.13 podstrek zaključivanja
GRADED 0/12 3/12 ↑3 Novo: eseji, procene, rubrike sada ponekad rade
TEACH 12/12 12/12 = Savršeno — ostaje osnovna snaga
REASON 11/12 11/12 = Snažno aritmetičko zaključivanje ostaje
LOGIC 0/12 3/12 ↑3 Formalna logika / silogizmi poboljšani na nekim jezicima
LOGIC2 0/12 7/12 ↑6 Višekoraci lanci zaključivanja sada rade na 7 jezika
ANALYSIS 0/12 12/12 ↑12 Najveći dobitak: kritička analiza, otkrivanje pristrasnosti na svih 12 jezika
INSTRUCT 11/12 12/12 ↑1 Oporavljeno do savršenog praćenja instrukcija
LONGFORM 12/12 12/12 = Savršeno — ostaje osnovna snaga
SEARCH 7/12 5/12 ↓2 Mala regresija u brzom činjeničnom pretraživanju
TOOLBASE 12/12 12/12 = Savršeno: odgovara na osnovno bez pozivanja alata
UKUPNO 85/156 102/156 +17 Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH

Poeni po jezicima

Jezik v1.12 v1.13 Δ
bg (bugarski) 8/13 8/13 =
bs (bosanski) 8/13 10/13 +2
cnr (crnogorski) 8/13 8/13 =
el (grčki) 9/13 9/13 =
hr (hrvatski) 9/13 9/13 =
hu (mađarski) 8/13 7/13 -1
mk (makedonski) 7/13 11/13 +4
ro (rumunski) 8/13 9/13 +1
sl (slovenački) 6/13 7/13 +1
sq (albanski) 8/13 8/13 =
sr (srpski) 7/13 8/13 +1
tr (turski) 7/13 8/13 +1

Najveći dobitnik: makedonski (+4) — analitički trening je najviše podigao prethodno najmanje pokriveni jezik. Bosanski (+2) takođe jasno dobio. Mađarski je izgubio jedan poen.

Grafikoni

Rangiranje Evolucija Matrica osa
Rangiranje Evolucija v1.12 → v1.13 Matrica osa v1.13
Delta (v1.12 → v1.13) Šta svaka osa testira
Delta Objašnjenje

5 · Dubinska analiza: Zašto je HALLU ostao na 10/12

HALLU rezultat (10/12) ostao je nepromenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umesto da izmišlja činjenice. Zašto se onda nije pomerio, i gde je prava promena?

Zašto se rezultat nije pomerio

1. HALLU je već blizu svog plafona za 8B model. Test pita: "Da li model izgovara jednu od reči IDK markera kada ga pitate o izmišljenoj osobi?" Zora to radi tačno za 10 od 12 jezika. Poslednja 2 (makedonski, slovenački) imaju najmanje podataka za obuku — 8B modelu jednostavno nedostaje kapacitet za ove nedovoljno zastupljene jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali specifični HALLU markeri i dalje ne rade na tom jeziku.

2. IDK trening je poboljšao KVALITET, ne REZULTAT. HALLU test BalkanBench-a je binarni da/ne provera za IDK marker. Ono što se zapravo poboljšalo:

Pre (v1.11) Sada (v1.12 → v1.13)
Kratka, ponekad prekinuta odbijanja Celine, strukturisane rečenice odbijanja
Ponekad odgovarao na engleskom Uvek odgovara na jeziku pitanja
Nije davao obrazloženje Objašnjava zašto ne može da odgovori
"Ne znam." "Nemam pouzdanih podataka o 'X'. Ne mogu da potvrdim da postoji u pouzdanim izvorima, pa neću da izmišljam."

Ovo je kvalitativni skok koji binarni rezultat ne može da uhvati.

3. Pravi pomak je u ANALYSIS, ne u HALLU. Proboj v1.13 je na osi ANALYSIS (0/12 → 12/12): Zora sada kritički ocenjuje argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao najsnažniji, najkonzistentniji efekat.

4. Iskreni trošak: DETAIL je regresirao. DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore više sažete i manje elaborirane. Ovo prijavljujemo transparentno — v1.13 trguje dubinom detalja za sposobnost kritičke analize. Timovi koji dug, bogato detaljan tekst treba da vagaju ovo naspram dobitaka u zaključivanju.

Šta bi pomaklo HALLU na 12/12

Pristup Očekivani uticaj Napor
Veći model (v2 = 27B) +1-2 jezika (mk, sl) Visok (nova obuka)
Više IDK primera posebno za mk/sl +0-1 jezika Srednji (generisanje podataka)
RLHF sa ljudskim povratnim informacijama o kvalitetu odbijanja Bolji kvalitet (ne rezultat) Visok (ljudska anotacija)
DPO (Direct Preference Optimization) +1-2 jezika Srednji (parovi preferenci)
Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS Oporavak detalja uz nešto troška analize Srednji ( podešavanje mešavine podataka)

Suština: 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) će doći od više parametara, ne od više trikova obuke. Pobeda v1.13 je analiza; njen dokumentovani trošak je detaljnost.

6 · RAG funkcija

Zora se integriše sa RAG-om (Retrieval-Augmented Generation) — sistemom koji Zori omogućava da pretražuje lokalnu bazu znanja pre nego što odgovori.

Šta RAG daje Zori

Kako funkcioniše

Kaskada alata: Zora prvo proverava svoju RAG bazu znanja (lokalni dokumenti, zakoni, statistika), zatim prelazi na veb pretragu ako je potrebno, i na kraju kaže "Ne znam" ako ništa ne pomaže.

Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)

Zašto je ovo važno

  • 8B modeli ne mogu da zapamte sve — RAG daje Zori pristup aktuelnim, pouzdanim podacima bez ponovne obuke
  • Svaki odgovor nosi izvor + datum + licencu — potpuna transparentnost
  • Samostalno hostovanje: bilo koja organizacija može da pokrene svoj Zora RAG sa svojim dokumentima

7 · Detalji treninga

Parametar Vrednost
Osnovni model Qwen3-8B (Alibaba Cloud, Apache-2.0)
CPT koraci 150 (ograničeno, ne cela epoha)
SFT primera 9.379 (2 epohe)
MAXLEN 8.192 (8× duže nego v1.11)
QLoRA r=16, lora_alpha=16, 4bit
Sastav podataka prebalansiran ka zaključivanju, analizi i ocenjivačkoj evaluaciji
Infrastruktura Modal A100-80GB, ukupno ~4h, ~$5-10
Kvantizacije Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB)

8 · Korišćenje

Ollama (preporučeno):

ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13

HuggingFace Transformers:

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")

GGUF (llama.cpp / Ollama ručno): Preuzmite Q5_K_M, Q6_K ili Q8_0 sa HuggingFace. Izbegavajte Q4 i niže — teška kvantizacija je uzrokovala halucinacije modela u našim testovima.

9 · Ograničenja

  • Kapacitet 8B: FACT ostaje strukturalno slab — potrebno više parametara (v2 = 27B)
  • Regresija DETAIL-a: Odgovori v1.13 su manje elaborirani nego v1.12 — analitički podstrek je koštao dubine (2/12)
  • Regresija SEARCH-a: Brzo činjenično pretraživanje blago opalo (5/12)
  • Kvantizacija: koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
  • Manji jezici (mk, sl) i dalje imaju manje podataka za obuku — očekujte manju doslednost
  • Nema znanja u realnom vremenu bez RAG/veb-pretraženja — memorija modela ima datum prekida
  • Višekoracno zaključivanje je poboljšano ali nije pouzdano — uvek proveravajte kritičke proračune

10 · Transparentnost i ograničenja benchmarka

BalkanBench je sopstveni benchmark Sovasoft-a — dizajniran, izgrađen i ocenjen od strane istog tima koji je napravio Zoru. To znači:

  • Dizajnerska pristrasnost: 13 osi (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
  • Pristasnost bodovanja: Funkcije bodovanja u matrix_ollama.py su naše. Način na koji definišemo "tačno" može favorizovati Zorin profil obuke.
  • Nema poređenja sa frontier modelima: Poređenje je samo sa otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark je dizajniran da evaluira unutar ekosistema otvorenih balkanskih modela.
  • Pristrasnost izbora: Uključujemo modele gde Zora dobro konkuriše. Kriterijumi uključivanja nisu nasumični.
  • Preklapanje podataka za obuku: Neka pitanja benchmarka se mogu preklapati sa Zorinim podacima za obuku, što može inflacionisati rezultate.

Šta rezultati POKAZUJU: Zora v1.13 je najsnažniji otvoreni model koji smo testirali na našem benchmarku za 12 balkanskih jezika — 102/156. Nadvladuje 3-4× veće modele na BalkanBench v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.

Šta rezultati NE POKAZUJU: Da je Zora bolja od frontier modela, da se ova rangiranja generalizuju van našeg test dizajna, da je metodologija bodovanja nezavisna. Transparentnost ovde je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.

10 · Šta slede: v2

v1.13 (sada) v2 (planirano)
Osnova Qwen3-8B Qwen3.8-27B
BalkanBench 102/156 Cilj: 120+/156
DETAIL 2/12 (regresija) Oporavak + Cilj: 8+/12
LOGIC/LOGIC2 3/12, 7/12 Cilj: 8+/12
HALLU 10/12 Cilj: 12/12
Zaključivanje Poboljšana analiza Potpuna obuka lanca misli

11 · Zahvalnost

Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalnost:

  • Pre svega, timu Qwen u Alibabi — za razvoj i objavljivanje otvorenog koda Qwen3 (Apache-2.0), osnovnog modela na kome je Zora zasnovana. Bez njihove velikodušnosti, Zora ne bi postojala.
  • Platformama i strukturama koje su to omogućile — Kaggle, Modal, HuggingFace, Ollama, Unsloth — za računarske resurse, alate i otvorenu infrastrukturu.
  • Zajednici otvorenog koda, za modele, kod i znanje slobodno podeljene sa svima.
  • Narodima Balkana — čiji jezici, glasovi, priče i perspektive su srce Zore.
  • rag.ai.in.rs za RAG infrastrukturu i 87.284 bloka balkanskog znanja.
  • I svemu što jeste.

зора — zora pripada svima.

12 · Citiranje

@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}

Sovasoft · ai.in.rs · jedna da ih sve ujedini