Instructions to use sovasoft/zora-v1.13 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use sovasoft/zora-v1.13 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="sovasoft/zora-v1.13") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13") model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=40) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use sovasoft/zora-v1.13 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "sovasoft/zora-v1.13" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "sovasoft/zora-v1.13", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/sovasoft/zora-v1.13
- SGLang
How to use sovasoft/zora-v1.13 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "sovasoft/zora-v1.13" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "sovasoft/zora-v1.13", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "sovasoft/zora-v1.13" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "sovasoft/zora-v1.13", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use sovasoft/zora-v1.13 with Docker Model Runner:
docker model run hf.co/sovasoft/zora-v1.13
license: apache-2.0
language:
- sr
- hr
- bs
- mk
- sl
- sq
- cnr
- bg
- el
- tr
- ro
- hu
base_model: Qwen/Qwen3-8B
library_name: transformers
tags:
- balkan
- southeast-europe
- multilingual
- honest-ai
- sovasoft
- rag
🌐 EN · 🇷🇸 SR · 🇭🇷 HR · 🇧🇦 BS · 🇲🇰 MK · 🇸🇮 SL · 🇦🇱 SQ · 🇲🇪 CNR · 🇧🇬 BG · 🇬🇷 EL · 🇹🇷 TR · 🇷🇴 RO · 🇭🇺 HU
Zora v1.13 — otvoreni, iskreni LLM za Balkan i Jugoistočnu Evropu
зора = "zora". Jedna da ih sve ujedini. — Sovasoft (ai.in.rs)
1 · Šta je Zora
Zora je otvoreni jezički model sa 8 milijardi parametara (zasnovan na Qwen3-8B) za 12 jezika Balkana i Jugoistočne Evrope: srpski, hrvatski, bosanski, makedonski, slovenački, albanski, crnogorski, bugarski, grčki, turski, rumunski, mađarski.
Zora nije napravljena da bude najveći model — napravljena je da bude iskrena, na maternjem jeziku i višeperspektivna:
- razmišlja na ciljnom jeziku umesto preko engleskog,
- pokazuje više perspektiva o spornim temama umesto jednog nacionalnog gledišta,
- i iznad svega: priznaje kada ne zna umesto da izmišlja činjenice.
2 · Priča o razvoju (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)
| Verzija | Jezici | BalkanBench | Stanje |
|---|---|---|---|
| v1.0 | 6 | — | prvo javno izdanje |
| v1.1 | 12 | — | obučen od nule — ali izmišljao činjenice (izmišljao naslove knjiga, pogrešne autore). Nikad nije objavljen. |
| v1.11 | 12 | 84/156 | iskreni popravak: kaže "Ne znam", pretražuje kada nije siguran. #1 balkanski model. |
| v1.12 | 12 | 85/156 | popravak dubine: bolje pozivanje alata, strukturisan IDK, razmišljanje na maternjem jeziku, RAG integracija. |
| v1.13 | 12 | 102/156 | proboj u analizi: kritička analiza, napredna logika i ocenjivačka evaluacija skaču na nove visine, iako je činjenična detaljnost opala. |
v1.1 nas je naučio ključnu lekciju — mali model ne može da zapamti svaku činjenicu, pa umesto da to fingira, v1.11 je ponovo obučen da bude iskren. v1.12 je na tome gradila sa dubljim treningom i RAG-om. v1.13 gura veštine zaključivanja i analize dalje, žrtvujući nešto činjenične detaljnosti za dobitak u logici.
3 · Šta je novo u v1.13
Podstrek analize i zaključivanja
Nove snage u v1.13:
- ANALYSIS 0/12 → 12/12 — najveći pojedinačni dobitak. Zora sada može kritički da ocenjuje argumente, otkriva pristrasnost na svih 12 jezika.
- LOGIC2 0/12 → 7/12 — napredne višekoračne lance zaključivanja sada rade na 7 jezika.
- GRADED 0/12 → 3/12 — delimičan napredak u eseju, procenama i rubrikama.
- LOGIC 0/12 → 3/12 — formalna logika i silogizmi poboljšani na nekim jezicima.
Iskreni kompromisi:
- DETAIL 10/12 → 2/12 — značajna regresija. Trening koji je otključao analizu smanjio je dubinu detaljnih odgovora. Ovo prijavljujemo transparentno; to je najsnažnija slabost v1.13.
- SEARCH 7/12 → 5/12 — manji pad u brzom činjeničnom pretraživanju.
- FACT 0/12 → 1/12 — marginalno poboljšanje u činjeničnom pamćenju, i dalje ograničeno kapacitetom.
- HALLU ostaje na 10/12 (vidi dubinsku analizu u nastavku).
Trening v1.13 je prebalansirao SFT mešavinu ka zaključivanju, analizi i ocenjivačkoj evaluaciji. To je podiglo gornju granicu tabele za +17 poena (85 → 102) uz trošak dubine na osi DETAIL i nešto brzine na SEARCH. To je svestan, dokumentovan kompromis — nije besplatna pobeda.
4 · Benchmark (BalkanBench, 13 osi × 12 jezika)
🔬 BalkanBench je otvoren — testirajte bilo koji model sami: https://github.com/olivilo/balkanbench Determinističko bodovanje (skripta / jezik / ključne reči / brojevi).
Poređenje po osama (v1.12 → v1.13)
| Osa | v1.12 | v1.13 | Δ | Šta se promenilo |
|---|---|---|---|---|
| FACT | 0/12 | 1/12 | ↑1 | Ograničenje kapaciteta 8B; blago poboljšanje, i dalje malo |
| HALLU | 10/12 | 10/12 | = | Stabilan; kvalitet odbijanja na maternjem jeziku ostaje visok (vidi dubinsku analizu) |
| DETAIL | 10/12 | 2/12 | ↓8 | Regresija — iskreni trošak V1.13 podstrek zaključivanja |
| GRADED | 0/12 | 3/12 | ↑3 | Novo: eseji, procene, rubrike sada ponekad rade |
| TEACH | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| REASON | 11/12 | 11/12 | = | Snažno aritmetičko zaključivanje ostaje |
| LOGIC | 0/12 | 3/12 | ↑3 | Formalna logika / silogizmi poboljšani na nekim jezicima |
| LOGIC2 | 0/12 | 7/12 | ↑6 | Višekoraci lanci zaključivanja sada rade na 7 jezika |
| ANALYSIS | 0/12 | 12/12 | ↑12 | Najveći dobitak: kritička analiza, otkrivanje pristrasnosti na svih 12 jezika |
| INSTRUCT | 11/12 | 12/12 | ↑1 | Oporavljeno do savršenog praćenja instrukcija |
| LONGFORM | 12/12 | 12/12 | = | Savršeno — ostaje osnovna snaga |
| SEARCH | 7/12 | 5/12 | ↓2 | Mala regresija u brzom činjeničnom pretraživanju |
| TOOLBASE | 12/12 | 12/12 | = | Savršeno: odgovara na osnovno bez pozivanja alata |
| UKUPNO | 85/156 | 102/156 | +17 | Dobici u analizi + logici nadmašuju trošak na DETAIL/SEARCH |
Poeni po jezicima
| Jezik | v1.12 | v1.13 | Δ |
|---|---|---|---|
| bg (bugarski) | 8/13 | 8/13 | = |
| bs (bosanski) | 8/13 | 10/13 | +2 |
| cnr (crnogorski) | 8/13 | 8/13 | = |
| el (grčki) | 9/13 | 9/13 | = |
| hr (hrvatski) | 9/13 | 9/13 | = |
| hu (mađarski) | 8/13 | 7/13 | -1 |
| mk (makedonski) | 7/13 | 11/13 | +4 |
| ro (rumunski) | 8/13 | 9/13 | +1 |
| sl (slovenački) | 6/13 | 7/13 | +1 |
| sq (albanski) | 8/13 | 8/13 | = |
| sr (srpski) | 7/13 | 8/13 | +1 |
| tr (turski) | 7/13 | 8/13 | +1 |
Najveći dobitnik: makedonski (+4) — analitički trening je najviše podigao prethodno najmanje pokriveni jezik. Bosanski (+2) takođe jasno dobio. Mađarski je izgubio jedan poen.
Grafikoni
5 · Dubinska analiza: Zašto je HALLU ostao na 10/12
HALLU rezultat (10/12) ostao je nepromenjen između v1.12 i v1.13. Ponašanje IDK-a samo po sebi ostaje snažno — model kaže "Ne znam" na strukturisan, jezički prirodan način umesto da izmišlja činjenice. Zašto se onda nije pomerio, i gde je prava promena?
Zašto se rezultat nije pomerio
1. HALLU je već blizu svog plafona za 8B model. Test pita: "Da li model izgovara jednu od reči IDK markera kada ga pitate o izmišljenoj osobi?" Zora to radi tačno za 10 od 12 jezika. Poslednja 2 (makedonski, slovenački) imaju najmanje podataka za obuku — 8B modelu jednostavno nedostaje kapacitet za ove nedovoljno zastupljene jezike. Zanimljivo, makedonski je ukupno poboljšan (+4) zahvaljujući analitičkom treningu, ali specifični HALLU markeri i dalje ne rade na tom jeziku.
2. IDK trening je poboljšao KVALITET, ne REZULTAT. HALLU test BalkanBench-a je binarni da/ne provera za IDK marker. Ono što se zapravo poboljšalo:
| Pre (v1.11) | Sada (v1.12 → v1.13) |
|---|---|
| Kratka, ponekad prekinuta odbijanja | Celine, strukturisane rečenice odbijanja |
| Ponekad odgovarao na engleskom | Uvek odgovara na jeziku pitanja |
| Nije davao obrazloženje | Objašnjava zašto ne može da odgovori |
| "Ne znam." | "Nemam pouzdanih podataka o 'X'. Ne mogu da potvrdim da postoji u pouzdanim izvorima, pa neću da izmišljam." |
Ovo je kvalitativni skok koji binarni rezultat ne može da uhvati.
3. Pravi pomak je u ANALYSIS, ne u HALLU. Proboj v1.13 je na osi ANALYSIS (0/12 → 12/12): Zora sada kritički ocenjuje argumente i otkriva pristrasnost na svih 12 jezika. Tu je trening zaključivanja pokazao najsnažniji, najkonzistentniji efekat.
4. Iskreni trošak: DETAIL je regresirao. DETAIL je pao sa 10/12 na 2/12. Isti trening koji je otključao analizu učinio je odgovore više sažete i manje elaborirane. Ovo prijavljujemo transparentno — v1.13 trguje dubinom detalja za sposobnost kritičke analize. Timovi koji dug, bogato detaljan tekst treba da vagaju ovo naspram dobitaka u zaključivanju.
Šta bi pomaklo HALLU na 12/12
| Pristup | Očekivani uticaj | Napor |
|---|---|---|
| Veći model (v2 = 27B) | +1-2 jezika (mk, sl) | Visok (nova obuka) |
| Više IDK primera posebno za mk/sl | +0-1 jezika | Srednji (generisanje podataka) |
| RLHF sa ljudskim povratnim informacijama o kvalitetu odbijanja | Bolji kvalitet (ne rezultat) | Visok (ljudska anotacija) |
| DPO (Direct Preference Optimization) | +1-2 jezika | Srednji (parovi preferenci) |
| Ponovno balansiranje kompromisa DETAIL naspram ANALYSIS | Oporavak detalja uz nešto troška analize | Srednji ( podešavanje mešavine podataka) |
Suština: 8B model je blizu svog plafona za HALLU. Pravi dobici u v2 (27B) će doći od više parametara, ne od više trikova obuke. Pobeda v1.13 je analiza; njen dokumentovani trošak je detaljnost.
6 · RAG funkcija
Zora se integriše sa RAG-om (Retrieval-Augmented Generation) — sistemom koji Zori omogućava da pretražuje lokalnu bazu znanja pre nego što odgovori.
Šta RAG daje Zori
- 87.284 bloka na 12 jezika: Wikidata, Wikipedia, Arhiva vesti, Zakonodavstvo EU, Statistika
- Direktni endpoint: https://rag.ai.in.rs
- Samostalno hostovanje: Klonirajte cevovod sa https://github.com/olivilo/zora-v1.13
Kako funkcioniše
Kaskada alata: Zora prvo proverava svoju RAG bazu znanja (lokalni dokumenti, zakoni, statistika), zatim prelazi na veb pretragu ako je potrebno, i na kraju kaže "Ne znam" ako ništa ne pomaže.
Korisničko pitanje → RAG (lokalni dok.) → web_search (uživo) → IDK (iskreno odbijanje)
Zašto je ovo važno
- 8B modeli ne mogu da zapamte sve — RAG daje Zori pristup aktuelnim, pouzdanim podacima bez ponovne obuke
- Svaki odgovor nosi izvor + datum + licencu — potpuna transparentnost
- Samostalno hostovanje: bilo koja organizacija može da pokrene svoj Zora RAG sa svojim dokumentima
7 · Detalji treninga
| Parametar | Vrednost |
|---|---|
| Osnovni model | Qwen3-8B (Alibaba Cloud, Apache-2.0) |
| CPT koraci | 150 (ograničeno, ne cela epoha) |
| SFT primera | 9.379 (2 epohe) |
| MAXLEN | 8.192 (8× duže nego v1.11) |
| QLoRA | r=16, lora_alpha=16, 4bit |
| Sastav podataka | prebalansiran ka zaključivanju, analizi i ocenjivačkoj evaluaciji |
| Infrastruktura | Modal A100-80GB, ukupno ~4h, ~$5-10 |
| Kvantizacije | Q5_K_M (5.4GB, preporučeno), Q6_K (6.7GB), Q8_0 (8.7GB) |
8 · Korišćenje
Ollama (preporučeno):
ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13
HuggingFace Transformers:
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")
GGUF (llama.cpp / Ollama ručno): Preuzmite Q5_K_M, Q6_K ili Q8_0 sa HuggingFace. Izbegavajte Q4 i niže — teška kvantizacija je uzrokovala halucinacije modela u našim testovima.
9 · Ograničenja
- Kapacitet 8B: FACT ostaje strukturalno slab — potrebno više parametara (v2 = 27B)
- Regresija DETAIL-a: Odgovori v1.13 su manje elaborirani nego v1.12 — analitički podstrek je koštao dubine (2/12)
- Regresija SEARCH-a: Brzo činjenično pretraživanje blago opalo (5/12)
- Kvantizacija: koristite samo Q5_K_M / Q6_K / Q8_0. Q4 i niže narušavaju iskrenost.
- Manji jezici (mk, sl) i dalje imaju manje podataka za obuku — očekujte manju doslednost
- Nema znanja u realnom vremenu bez RAG/veb-pretraženja — memorija modela ima datum prekida
- Višekoracno zaključivanje je poboljšano ali nije pouzdano — uvek proveravajte kritičke proračune
10 · Transparentnost i ograničenja benchmarka
BalkanBench je sopstveni benchmark Sovasoft-a — dizajniran, izgrađen i ocenjen od strane istog tima koji je napravio Zoru. To znači:
- Dizajnerska pristrasnost: 13 osi (FACT, HALLU, DETAIL itd.) izabrano je da istakne Zorine snage. Drugačiji dizajn benchmarka proizveo bi drugačija rangiranja.
- Pristasnost bodovanja: Funkcije bodovanja u
matrix_ollama.pysu naše. Način na koji definišemo "tačno" može favorizovati Zorin profil obuke. - Nema poređenja sa frontier modelima: Poređenje je samo sa otvorenim modelima (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bili bi bolji od Zore — ovaj benchmark je dizajniran da evaluira unutar ekosistema otvorenih balkanskih modela.
- Pristrasnost izbora: Uključujemo modele gde Zora dobro konkuriše. Kriterijumi uključivanja nisu nasumični.
- Preklapanje podataka za obuku: Neka pitanja benchmarka se mogu preklapati sa Zorinim podacima za obuku, što može inflacionisati rezultate.
Šta rezultati POKAZUJU: Zora v1.13 je najsnažniji otvoreni model koji smo testirali na našem benchmarku za 12 balkanskih jezika — 102/156. Nadvladuje 3-4× veće modele na BalkanBench v1.1, smislen rezultat za ekosistem otvorenog koda, ali ne tvrdnja o univerzalnoj superiornosti.
Šta rezultati NE POKAZUJU: Da je Zora bolja od frontier modela, da se ova rangiranja generalizuju van našeg test dizajna, da je metodologija bodovanja nezavisna. Transparentnost ovde je najvažnija: v1.13 dobija analizu uz stvarni, dokumentovani trošak u činjeničnoj detaljnosti.
10 · Šta slede: v2
| v1.13 (sada) | v2 (planirano) | |
|---|---|---|
| Osnova | Qwen3-8B | Qwen3.8-27B |
| BalkanBench | 102/156 | Cilj: 120+/156 |
| DETAIL | 2/12 (regresija) | Oporavak + Cilj: 8+/12 |
| LOGIC/LOGIC2 | 3/12, 7/12 | Cilj: 8+/12 |
| HALLU | 10/12 | Cilj: 12/12 |
| Zaključivanje | Poboljšana analiza | Potpuna obuka lanca misli |
11 · Zahvalnost
Zora postoji zahvaljujući otvorenom kodu. Izražavamo formalnu, srdačnu zahvalnost:
- Pre svega, timu Qwen u Alibabi — za razvoj i objavljivanje otvorenog koda Qwen3 (Apache-2.0), osnovnog modela na kome je Zora zasnovana. Bez njihove velikodušnosti, Zora ne bi postojala.
- Platformama i strukturama koje su to omogućile — Kaggle, Modal, HuggingFace, Ollama, Unsloth — za računarske resurse, alate i otvorenu infrastrukturu.
- Zajednici otvorenog koda, za modele, kod i znanje slobodno podeljene sa svima.
- Narodima Balkana — čiji jezici, glasovi, priče i perspektive su srce Zore.
- rag.ai.in.rs za RAG infrastrukturu i 87.284 bloka balkanskog znanja.
- I svemu što jeste.
зора — zora pripada svima.
12 · Citiranje
@software{zora_v113,
author = {Vignjevic, Oliver},
title = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
year = {2026},
publisher = {Hugging Face},
url = {https://huggingface.co/sovasoft/zora-v1.13},
license = {Apache-2.0},
base_model = {Qwen/Qwen3-8B},
languages = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}
Sovasoft · ai.in.rs · jedna da ih sve ujedini




