roest-v3-whisper-1.5b-ct2

Røst-v3-whisper-1.5b — CTranslate2-version

CTranslate2 / faster-whisper-version af CoRal-project/roest-v3-whisper-1.5b, den danske ASR-model fra CoRal-projektet hos Alexandra Instituttet.

Samme vægte, hurtigere inference. På disken: 3.09 GB.

Brug

pip install faster-whisper

from faster_whisper import WhisperModel

model = WhisperModel(
    "roest-v3-whisper-1.5b-ct2",
    device="cuda",
    compute_type="float16",
)

segments, _ = model.transcribe("audio.wav", language="da", beam_size=5)
print("".join(seg.text for seg in segments))

Hastighed

Sammenlignet med originalmodellen (HF transformers, float16, beam=5) på samme hardware (NVIDIA RTX A6000):

CT2-versionen er altså ca. 2.09× hurtigere end at køre originalmodellen direkte gennem transformers. Baseline-tallene er målt på 150 tilfældigt udvalgte ytringer pr. split med samme hardware og indstillinger.

Nøjagtighed

Samme vægte som originalen, så CER er stort set uændret. Målt på CoRal-project/coral-v3 test-splits:

CT2-tallene ligger nogle få procentpoint over de upstream-rapporterede tal. Forskellen skyldes overvejende tekstnormalisering (tegnsætning, store/små bogstaver), ikke kvantisering.

Detaljer

• Sprog: dansk (language="da").
• Arkitektur: Whisper-large-v3 (1,54 mia. parametre).
• Kvantisering: float16.
• Licens: OpenRAIL (arvet fra originalmodellen).
• Træning: Se originalmodellen for træningsdetaljer. Dette repo indeholder kun CT2-konverteringen.

CT2-vægtene er bygget med:

ct2-transformers-converter \
  --model CoRal-project/roest-v3-whisper-1.5b \
  --output_dir roest-v3-whisper-1.5b-ct2 \
  --quantization float16 \
  --copy_files tokenizer.json preprocessor_config.json

Detaljerede metrics ligger i results/metrics.json.