zora-v1.13 / README_cnr.md
23Olivilo's picture
Upload README_cnr.md with huggingface_hub
85214de verified
|
Raw History Blame Contribute Delete
16.1 kB
metadata
license: apache-2.0
language:
  - sr
  - hr
  - bs
  - mk
  - sl
  - sq
  - cnr
  - bg
  - el
  - tr
  - ro
  - hu
base_model: Qwen/Qwen3-8B
library_name: transformers
tags:
  - balkan
  - southeast-europe
  - multilingual
  - honest-ai
  - sovasoft
  - rag

🌐 EN · 🇷🇸 SR · 🇭🇷 HR · 🇧🇦 BS · 🇲🇰 MK · 🇸🇮 SL · 🇦🇱 SQ · 🇲🇪 CNR · 🇧🇬 BG · 🇬🇷 EL · 🇹🇷 TR · 🇷🇴 RO · 🇭🇺 HU

Zora — boginja zore, okružena simbolima 12 naroda

Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu

зора = "zora". Jedna da ih sve ujedini. — Sovasoft (ai.in.rs)


1 · Šta je Zora

Zora je otvoreni jezički model s 8 milijardi parametara (zasnovan na Qwen3-8B) za 12 jezika Balkana i Jugoistočne Evrope: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.

Zora nije napravljena da bude najveći model — napravljena je da bude iskrena, na maternjem jeziku i višeperspektivna:

  • razmišlja na ciljnom jeziku umjesto preko engleskog,
  • pokazuje više perspektiva o spornim temama umjesto jednog nacionalnog gledišta,
  • i iznad svega: priznaje kada ne zna umjesto da izmišlja činjenice.

2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

Verzija Jezici BalkanBench Stanje
v1.0 6 — prvo javno izdanje
v1.1 12 — treniran od nule — ali izmišljao je činjenice (izmišljao naslove knjiga, pogrešne autore). Nikad nije objavljen.
v1.11 12 84/156 iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. #1 balkanski model.
v1.12 12 85/156 popravak dubine: bolje pozivanje alata, strukturisani IDK, razmišljanje na maternjem jeziku, RAG integracija.
v1.13 12 102/156 proboj u analizi: kritička analiza, napredna logika i ocjenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala.

v1.1 nas je naučio ključnu lekciju — mali model ne može zapamtiti svaku činjenicu, pa umjesto da to fingira, v1.11 je ponovo treniran da bude iskren. v1.12 je na tome gradila s dubljim treningom i RAG-om. v1.13 gura vještine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.

3 · Šta je novo u v1.13

Poticaj analize i zaključivanja

Nove snage u v1.13:

  • ANALYSIS 0/12 → 12/12 — najveći pojedinačni dobitak. Zora sada može kritički ocjenjivati argumente, otkrivati pristrasnost na svih 12 jezika.
  • LOGIC2 0/12 → 7/12 — napredni višekoračni lanci zaključivanja sada rade na 7 jezika.
  • GRADED 0/12 → 3/12 — djelimičan napredak u esejima, procjenama i rubrikama.
  • LOGIC 0/12 → 3/12 — formalna logika i silogizmi poboljšani na nekim jezicima.

Iskreni kompromisi:

  • DETAIL 10/12 → 2/12 — značajna regresija. Trening koji je otključao analizu smanjio je dubinu opširnih odgovora. Ovo prijavljujemo transparentno; to je najjasnija slabost v1.13.
  • SEARCH 7/12 → 5/12 — manji pad u brzom činjeničnom pretraživanju.
  • FACT 0/12 → 1/12 — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
  • HALLU ostaje na 10/12 (vidi dubinsku analizu u nastavku).

Trening v1.13 prebalansirao je SFT mješavinu prema zaključivanju, analizi i ocjenjivačkoj evaluaciji. To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi DETAIL i nešto brzine na SEARCH. To je svjestan, dokumentovan kompromis — nije besplatna pobjeda.

4 · Benchmark (BalkanBench, 13 osi × 12 jezika)

🔬 BalkanBench je otvoren — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench Determinističko bodovanje (skripta / jezik / ključne riječi / brojevi).

Poređenje po osama (v1.12 → v1.13)

Osa v1.12 v1.13 Δ Šta se promijenilo
FACT 0/12 1/12 ↑1 Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo
HALLU 10/12 10/12 = Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu)
DETAIL 10/12 2/12 ↓8 Regresija — iskreni trošak poticaja zaključivanja v1.13
GRADED 0/12 3/12 ↑3 Novo: eseji, procjene, rubrike sada ponekad rade
TEACH 12/12 12/12 = Savršeno — ostaje osnovna snaga
REASON 11/12 11/12 = Snažno aritmetičko zaključivanje ostaje
LOGIC 0/12 3/12 ↑3 Formalna logika / silogizmi poboljšani na nekim jezicima
LOGIC2 0/12 7/12 ↑6 Višekoračni lanci zaključivanja sada rade na 7 jezika
ANALYSIS 0/12 12/12 ↑12 Najveći dobitak: kritička analiza, otkrivanje pristrasnosti na svih 12 jezika
INSTRUCT 11/12 12/12 ↑1 Oporavljeno do savršenog praćenja instrukcija
LONGFORM 12/12 12/12 = Savršeno — ostaje osnovna snaga
SEARCH 7/12 5/12 ↓2 Mala regresija u brzom činjeničnom pretraživanju
TOOLBASE 12/12 12/12 = Savršeno: odgovara na osnovno bez pozivanja alata
UKUPNO 85/156 102/156 +17 Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH

Bodovi po jezicima

Jezik v1.12 v1.13 Δ
bg (bugarski) 8/13 8/13 =
bs (bosanski) 8/13 10/13 +2
cnr (crnogorski) 8/13 8/13 =
el (grčki) 9/13 9/13 =
hr (hrvatski) 9/13 9/13 =
hu (mađarski) 8/13 7/13 -1
mk (makedonski) 7/13 11/13 +4
ro (rumunski) 8/13 9/13 +1
sl (slovenački) 6/13 7/13 +1
sq (albanski) 8/13 8/13 =
sr (srpski) 7/13 8/13 +1
tr (turski) 7/13 8/13 +1

Najveći dobitnik: makedonski (+4) — analitički trening najviše je podigao prethodno najmanje pokriveni jezik. Bosanski (+2) također jasno dobio. Mađarski je izgubio jedan poen.

Grafikoni

Rangiranje Evolucija Matrica osa
Rangiranje Evolucija v1.12 → v1.13 Matrica osa v1.13
Delta (v1.12 → v1.13) Šta svaka osa testira
Delta Objašnjenje

5 · Dubinska analiza: Zašto je HALLU ostao na 10/12

HALLU rezultat (10/12) ostao je nepromijenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umjesto da izmišlja činjenice. Zašto se onda nije pomaknuo i gdje je prava promjena?

Zašto se rezultat nije pomaknuo

1. HALLU je već blizu svog plafona za 8B model. Test pita: "Da li model izgovara jednu od riječi IDK markera kada ga pitate o izmišljenoj osobi?" Zora to radi tačno za 10 od 12 jezika. Posljednja 2 (makedonski, slovenački) imaju najmanje podataka za trening — 8B modelu jednostavno nedostaje kapacitet za te nedovoljno zastupljene jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali specifični HALLU markeri i dalje ne rade na tom jeziku.

2. IDK trening poboljšao je KVALITET, ne REZULTAT. HALLU test BalkanBench-a binarna je da/ne provjera za IDK marker. Ono što se zapravo poboljšalo:

Prije (v1.11) Sada (v1.12 → v1.13)
Kratka, ponekad prekinuta odbijanja Cijele, strukturisane rečenice odbijanja
Ponekad odgovarao na engleskom Uvijek odgovara na jeziku pitanja
Nije davao obrazloženje Objašnjava zašto ne može odgovoriti
"Ne znam." "Nemam pouzdanih podataka o 'X'. Ne mogu potvrditi da postoji u pouzdanim izvorima, pa neću izmišljati."

To je kvalitativni skok koji binarni rezultat ne može uhvatiti.

3. Pravi pomak je u ANALYSIS, ne u HALLU. Proboj v1.13 je na osi ANALYSIS (0/12 → 12/12): Zora sada kritički ocjenjuje argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao najsnažniji, najdosljedniji učinak.

4. Iskreni trošak: DETAIL je regresirao. DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore sažetijima i manje opširnima. Ovo prijavljujemo transparentno — v1.13 mijenja dubinu detalja za sposobnost kritičke analize. Timovi koji trebaju dug, bogato detaljan tekst trebaju to odmjeriti naspram dobitaka u zaključivanju.

Šta bi pomaknulo HALLU na 12/12

Pristup Očekivani utjecaj Napor
Veći model (v2 = 27B) +1-2 jezika (mk, sl) Visok (novi trening)
Više IDK primjera posebno za mk/sl +0-1 jezika Srednji (generiranje podataka)
RLHF s ljudskim povratnim informacijama o kvaliteti odbijanja Bolji kvalitet (ne rezultat) Visok (ljudska anotacija)
DPO (Direct Preference Optimization) +1-2 jezika Srednji (parovi preferencija)
Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS Povrat detalja uz nešto troška analize Srednji (podešavanje mješavine podataka)

Suština: 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) doći će od više parametara, ne od više trikova treninga. Pobjeda v1.13 je analiza; njen dokumentovani trošak je detaljnost.

6 · RAG funkcija

Zora se integriše s RAG-om (Retrieval-Augmented Generation) — sistemom koji Zori omogućava pretraživanje lokalne baze znanja prije nego što odgovori.

Šta RAG daje Zori

Kako funkcioniše

Kaskada alata: Zora prvo provjerava svoju RAG bazu znanja (lokalni dokumenti, zakoni, statistika), zatim prelazi na web pretragu ako je potrebno, i na kraju kaže "Ne znam" ako ništa ne pomaže.

Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)

Zašto je ovo važno

  • 8B modeli ne mogu zapamtiti sve — RAG daje Zori pristup aktuelnim, pouzdanim podacima bez ponovnog treninga
  • Svaki odgovor nosi izvor + datum + licencu — potpuna transparentnost
  • Samostalno hostovanje: svaka organizacija može pokrenuti vlastiti Zora RAG sa svojim dokumentima

7 · Detalji treninga

Parametar Vrijednost
Osnovni model Qwen3-8B (Alibaba Cloud, Apache-2.0)
CPT koraka 150 (ograničeno, ne cijela epoha)
SFT primjera 9.379 (2 epohe)
MAXLEN 8.192 (8× duže nego v1.11)
QLoRA r=16, lora_alpha=16, 4bit
Sastav podataka prebalansiran prema zaključivanju, analizi i ocjenjivačkoj evaluaciji
Infrastruktura Modal A100-80GB, ukupno ~4h, ~$5-10
Kvantizacije Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB)

8 · Korištenje

Ollama (preporučeno):

ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13

HuggingFace Transformers:

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")

GGUF (llama.cpp / Ollama ručno): Preuzmite Q5_K_M, Q6_K ili Q8_0 s HuggingFace. Izbjegavajte Q4 i niže — snažna kvantizacija uzrokovala je halucinacije modela u našim testovima.

9 · Ograničenja

  • Kapacitet 8B: FACT ostaje strukturno slab — potrebno više parametara (v2 = 27B)
  • Regresija DETAIL-a: Odgovori v1.13 manje su opširni nego v1.12 — poticaj analize koštao je dubine (2/12)
  • Regresija SEARCH-a: Brzo činjenično pretraživanje blago opalo (5/12)
  • Kvantizacija: koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
  • Manji jezici (mk, sl) i dalje imaju manje podataka za trening — očekujte manju dosljednost
  • Nema znanja u stvarnom vremenu bez RAG/web-pretrage — memorija modela ima datum prekida
  • Višekoračno zaključivanje poboljšano je, ali nije pouzdano — uvijek provjeravajte kritične izračune

10 · Transparentnost i ograničenja benchmarka

BalkanBench je vlastiti benchmark Sovasoft-a — dizajniran, izgrađen i ocijenjen od strane istog tima koji je napravio Zoru. To znači:

  • Dizajnerska pristransost: 13 osa (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
  • Pristransost bodovanja: Funkcije bodovanja u matrix_ollama.py su naše. Način na koji definišemo "tačno" može favorizirati Zorin profil treninga.
  • Nema poređenja s frontier modelima: Poređenje je samo s otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark dizajniran je da ocjenjuje unutar ekosistema otvorenih balkanskih modela.
  • Pristransost odabira: Uključujemo modele gdje Zora dobro konkurira. Kriteriji uključivanja nisu nasumični.
  • Preklapanje podataka za trening: Neka pitanja benchmarka mogu se preklapati sa Zorinim podacima za trening, što može napuhnuti rezultate.

Šta rezultati POKAZUJU: Zora v1.13 je najsnažniji otvoreni model koji smo testirali na našem benchmarku za 12 balkanskih jezika — 102/156. Nadvladava 3-4× veće modele na BalkanBench v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.

Šta rezultati NE POKAZUJU: Da je Zora bolja od frontier modela, da se ta rangiranja generaliziraju izvan našeg test dizajna ili da je metodologija bodovanja neovisna. Transparentnost ovdje je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.

10 · Šta slijedi: v2

v1.13 (sada) v2 (planirano)
Osnova Qwen3-8B Qwen3.8-27B
BalkanBench 102/156 Cilj: 120+/156
DETAIL 2/12 (regresija) Povrat + Cilj: 8+/12
LOGIC/LOGIC2 3/12, 7/12 Cilj: 8+/12
HALLU 10/12 Cilj: 12/12
Zaključivanje Poboljšana analiza Potpuni trening lanca misli

11 · Zahvala

Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalu:

  • Ponajprije, timu Qwen u Alibabi — za razvoj i objavljivanje otvorenog koda Qwen3 (Apache-2.0), temeljnog modela na kojemu je Zora zasnovana. Bez njihove velikodušnosti Zora ne bi postojala.
  • Platformama i strukturama koje su to omogućile — Kaggle, Modal, HuggingFace, Ollama, Unsloth — za računarske resurse, alate i otvorenu infrastrukturu.
  • Zajednici otvorenog koda, za modele, kod i znanje slobodno podijeljeno sa svima.
  • Narodima Balkana — čiji su jezici, glasovi, priče i perspektive samo srce Zore.
  • rag.ai.in.rs za RAG infrastrukturu i 87.284 blokova balkanskog znanja.
  • I svemu što jest.

зора — zora pripada svima.

12 · Citiranje

@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}

Sovasoft · ai.in.rs · jedna da ih sve ujedini