|
|
|
import pandas as pd |
|
from mlx_lm import load, generate |
|
from sentence_transformers import SentenceTransformer |
|
|
|
uncle_sam = SentenceTransformer("paraphrase-multilingual-mpnet-base-v2") |
|
|
|
dataframe = pd.read_csv("./teog_2013_text.csv") |
|
|
|
model_name = str(input("Model adını girin: ")) |
|
|
|
|
|
for i in range(len(dataframe)): |
|
prompt = dataframe.loc[i]['soru'] + "\n A: " + dataframe.loc[i]['cevapa'] + "\n B: " + dataframe.loc[i]['cevapb'] + "\n C: " + dataframe.loc[i]['cevapc'] + "\n D: " + dataframe.loc[i]['cevapd'] + "\n Sadece doğru şıkkı söyle. Açıklama istemiyorum." |
|
|
|
print(f"Processing row {i}: {prompt}") |
|
|
|
model, tokenizer = load(model_name) |
|
|
|
response = generate(model, tokenizer, prompt=prompt, verbose=True) |
|
|
|
print("MODEL CEVABI: ", response) |
|
if response[:1] in ["A", "B", "C", "D"]: |
|
dataframe.at[i, "verilencevap"] = response[:1] |
|
else: |
|
benz_verilen = uncle_sam.encode([response]) |
|
benz_cevaplar = uncle_sam.encode([dataframe.loc[i]['cevapa'], dataframe.loc[i]['cevapb'], dataframe.loc[i]['cevapc'], dataframe.loc[i]['cevapd']]) |
|
benzerlikler = uncle_sam.similarity(benz_verilen, benz_cevaplar) |
|
print("benzerlikler", benzerlikler) |
|
benz_liste = benzerlikler.tolist()[0] |
|
yuksek_cevap = benz_liste.index(max(benz_liste)) |
|
print("yüksek cevap", yuksek_cevap, benz_liste[yuksek_cevap]) |
|
if benz_liste[yuksek_cevap] > 0.35: |
|
dataframe.at[i, "verilencevap"] = ["A", "B", "C", "D"][yuksek_cevap] |
|
print("sam amca ile cevaplandı") |
|
|
|
print(dataframe.iloc[i]["verilencevap"]) |
|
|
|
|
|
|
|
|
|
dogru_cevap = 0 |
|
|
|
for i in range(len(dataframe)): |
|
if dataframe.iloc[i]["dogrucevap"] == dataframe.iloc[i]["verilencevap"]: |
|
dogru_cevap += 1 |
|
dataframe.at[i, "dogruyanlis"] = 1 |
|
else: |
|
dataframe.at[i, "dogruyanlis"] = 0 |
|
|
|
|
|
obp_6 = 80 |
|
obp_7 = 80 |
|
obp_8 = 80 |
|
|
|
agirliklar = { |
|
1: 4, |
|
2: 4, |
|
3: 2, |
|
4: 4, |
|
5: 2, |
|
6: 2, |
|
} |
|
|
|
|
|
def ders_basari_hesapla(dataframe, sinav): |
|
ders = dataframe[dataframe['sinav'] == sinav] |
|
dogru_sayisi = ders['dogruyanlis'].sum() |
|
return (dogru_sayisi / len(ders) * 100) * agirliklar[sinav] |
|
|
|
|
|
turkce_basari = ders_basari_hesapla(dataframe, 1) |
|
print(turkce_basari) |
|
matematik_basari = ders_basari_hesapla(dataframe, 2) |
|
print(matematik_basari) |
|
inkilap_basari = ders_basari_hesapla(dataframe, 3) |
|
print(inkilap_basari) |
|
fen_basari = ders_basari_hesapla(dataframe, 4) |
|
print(fen_basari) |
|
ingilizce_basari = ders_basari_hesapla(dataframe, 5) |
|
print(ingilizce_basari) |
|
din_basari = ders_basari_hesapla(dataframe, 6) |
|
print(din_basari) |
|
|
|
|
|
sınav_puanı = turkce_basari + matematik_basari + inkilap_basari + fen_basari + ingilizce_basari + din_basari |
|
|
|
yep = (obp_6 + obp_7 + obp_8 + sınav_puanı * (7/18)) / 2 |
|
|
|
|
|
print("yep:", yep ) |
|
|
|
results = pd.read_csv('results.csv') |
|
results.loc[len(results)] = [model_name, yep] |
|
|
|
res_sorted = results.sort_values(by='teog 2013 puanı', ascending=False) |
|
|
|
res_sorted.to_csv('results.csv', index=False) |