nursimakgul/meb-ogrenci-chatbot-benchmark

MEB Öğrenci Chatbotu Benchmark (v1)

Ortaokul (5-8. sınıf) öğrencisine ders anlatan bir chatbot modelini değerlendirmek için hazırladığım özel benchmark veri seti. Toplam 101 soru ve her soru için bir referans cevap içerir.

Amaç

Bu benchmark, genel amaçlı bir sınav (MMLU gibi) değildir. Kendi senaryoma özeldir: model, bir ortaokul öğrencisinin sorduğu ders sorusuna, seviyesine uygun, doğru ve açıklayıcı bir cevap verebiliyor mu?

İçerik

• Toplam soru: 101
• Dersler: Fen Bilimleri, Türkçe, Din Kültürü ve Ahlak Bilgisi, Sosyal Bilgiler
• Seviye: Ortaokul (5-8. sınıf), MEB müfredatı konuları
• Format: Her satır bir diyalog — öğrenci sorusu (user) + referans cevap (assistant)

Soruların kaynağı

Kaynak	Adet	Açıklama
Eğitim verisinden ayrılan test dilimi	41	Fine-tune eğitiminde hiç kullanılmadı, en baştan %10 olarak ayrıldı
Benchmark için özel hazırlanan sorular	60	Bu değerlendirme için yeni yazıldı
— bunlardan elle yazılan	11+	Özenle, tek tek düşünülerek hazırlandı

Referans cevaplar MEB ders kitaplarındaki konu anlatımlarına dayanır; ortaokul seviyesini aşmayacak, sıcak ve açıklayıcı bir dille yazılmıştır.

Veri formatı

JSON Lines. Her satır iki elemanlı bir liste:

[
  {"content": "Ay'ın hep aynı yüzünü görmemizin sebebi nedir?", "images": null, "role": "user", "thinking": null, "tool_calls": null},
  {"content": "Dünya'dan Ay'ın hep aynı yüzünü görürüz... Ay'ın kendi ekseni etrafında dönme süresi ile Dünya etrafında dolanma süresi neredeyse birbirine eşittir...", "images": null, "role": "assistant", "thinking": null, "tool_calls": null}
]

Kullanım

import json

kayitlar = []
with open("chatbot_benchmark_100.jsonl", encoding="utf-8") as f:
    for satir in f:
        satir = satir.strip()
        if satir:
            m = json.loads(satir)
            kayitlar.append({"soru": m[0]["content"], "referans": m[1]["content"]})

print(len(kayitlar))  # 101

Önerilen değerlendirme yöntemi

Model çıktısı ile referans cevap arasındaki anlamsal benzerlik ölçülür. Sorular açık uçlu olduğu için birebir kelime eşleşmesi yerine anlam düzeyinde karşılaştırma daha uygundur:

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("paraphrase-multilingual-mpnet-base-v2")

def benzerlik(cevap, referans):
    e1 = model.encode([cevap])
    e2 = model.encode([referans])
    return float(model.similarity(e1, e2)[0][0])

Her soru için 0-1 arası bir skor elde edilir; modelin genel başarımı bu skorların ortalamasıyla raporlanır.

Sınırlamalar

• Soru sayısı sınırlıdır (101); sonuçlar bir eğilim gösterir, kesin bir sıralama değil.
• Referans cevaplar tek bir doğru formülasyondur; farklı ama doğru bir cevap düşük benzerlik alabilir. Bu nedenle skorlar mutlak doğruluk değil, referansa yakınlık ölçer.
• Anlamsal benzerlik metriği, cevabın bilgi doğruluğunu değil ifade yakınlığını ölçer; ideal olarak insan değerlendirmesiyle desteklenmelidir.

Durum

Bu v1 sürümdür. Benchmark ve ilgili eğitim veri seti aktif olarak geliştirilmektedir; soru sayısı ve konu kapsamı sonraki sürümlerde genişletilecektir. Model karşılaştırma sonuçları aşağıda paylaşılmıştır.

Lisans

CC BY 4.0. Sorular ve referans cevaplar MEB müfredatı konularına dayanarak hazırlanmıştır.

Model Karşılaştırma Sonuçları

Bu benchmark (101 soru) ile 5 farklı model değerlendirildi. Ölçüm, modelin ürettiği cevap ile referans cevap arasındaki anlamsal benzerliktir (paraphrase-multilingual-mpnet-base-v2, 0-1 arası). Tüm modeller aynı sorularla, aynı üretim ayarlarıyla test edilmiştir.

Model	Ortalama	Medyan	Min	Maks
fine-tuned (benim)	0.7559	0.7653	0.4114	0.9523
gemma-3-4b-it (base)	0.7502	0.7578	0.5323	0.9377
gemma-2-2b	0.7124	0.7477	0.0151	0.9381
Llama-3.2-3B	0.6901	0.7315	0.1533	0.9241
Qwen2.5-1.5B	0.5253	0.5427	0.0586	0.848

Fine-tuned model, MEB ders kitaplarının konu anlatımlarından üretilen veriyle eğitildiği için referans cevaplara yakın bir anlatım biçimi üretmesi beklenir. Skorlar mutlak doğruluğu değil, referans cevaba anlamsal yakınlığı ölçer; farklı ama doğru bir cevap da düşük skor alabilir.

İlgili model: nursimakgul/gemma-3-4b-ogrenci-chatbot-lora