whisper-tiny-sr-distilled

Whisper Tiny za srpski — destilacija znanja

Whisper Tiny obučen destilacijom znanja iz modela Sagicc/whisper-large-v3-sr-combined. Hibridni gubitak L = 0.5·CE + 0.5·T²·KL, T = 4, top-50 logita učitelja.

Model je nastao u okviru master rada na temu optimizacije malih modela za automatsko prepoznavanje govora na srpskom jeziku.

Rezultati

Svi modeli su mereni istim postupkom nad istim test skupom od 2.239 uzoraka koji nijedan model nije video tokom obučavanja. Tekst se pre poređenja normalizuje: mala slova, bez interpunkcije, pismo svedeno na latinicu.

Podudarnost je udeo poklapanja na nivou reči (difflib.SequenceMatcher), veće je bolje. Zbirni WER je ukupan broj grešaka podeljen ukupnim brojem reči i otporniji je na kratke iskaze od proseka po uzorku. Kolona WER > 100 % broji uzorke na kojima je hipoteza duža od reference, što po pravilu znači da je dekodiranje upalo u petlju.

Korišćenje

from transformers import pipeline

pipe = pipeline("automatic-speech-recognition", model="BogdanTomic/whisper-tiny-sr-distilled")
rezultat = pipe("snimak.wav", generate_kwargs={"language": "serbian",
                                              "task": "transcribe"})
print(rezultat["text"])

Podaci

Korpus od oko 200 sati govora na srpskom jeziku iz javno dostupnih izvora. Priprema obuhvata segmentaciju dugih zapisa, grupisanje uzoraka po boji glasa, stratifikovanu podelu, prisilno poravnanje zvuka i teksta i proveru konzistentnosti transkripata. Konačan skup ima 41.082 uzorka za obučavanje, uz odvojene validacioni (2.219) i test skup (2.239).

Ograničenja

Model je obučen na jednom korpusu srpskog jezika, pa se ponašanje na drugačijem akustičkom materijalu, spontanom govoru ili dijalektima nije proveravalo. Izlaz može biti mešovitog pisma, jer učitelj piše ćirilicom a reference su latinične; pri merenju se pismo svodi na latinicu.