loes-qwen3.8-27b

Loes

Loes is een Nederlandse AI-assistent, gebouwd door HostYourAI en gehost op EU-grond. Dit model is een Nederlandstalige supervised fine-tune van orcarouter/Qwen3.8-27B-Uncensored, gericht op natuurlijk Nederlands en conversatie.

Meer over Loes staat op loes.ai.

Wat dit is

Deze repository bevat het volledig gemergede model in bfloat16, niet alleen een LoRA-adapter. De 18 safetensor-shards zijn samen circa 55,6 GB en kunnen zonder afzonderlijke adapter worden geladen.

Qwen3.8-27B is een multimodaal model. Tijdens deze training zijn alleen de taalcomponenten gefinetuned; de vision tower bleef bevroren. De beeld- en videomogelijkheden zijn daardoor geërfd van het basismodel en zijn in deze release niet apart geëvalueerd.

Trainingsketen

loes-xl-52k bevat 51.717 Nederlandstalige instructieparen: circa 11.717 synthetische conversatieparen, 20.000 Nederlandse Aya Collection-voorbeelden en 20.000 Nederlandse xP3x-taken. Na preprocessing zijn 51.283 voorbeelden voor de training gebruikt. Er is niet getraind op gebruikersgesprekken of gebruikersprompts van Loes.

Trainingsconfiguratie

De adapters omvatten de attention-, linear-attention/Gated DeltaNet- en MLP-projecties van het taalmodel. De laatste gelogde training-batch loss was 0,5529. Dat is geen evaluatiescore: tijdens de training is geen held-out validatieset gebruikt.

Gebruikte software: Unsloth 2026.8.22, Unsloth Zoo 2026.8.16, Transformers 5.15.1, TRL 0.22.2, PyTorch 2.10.0+cu128 en torchao 0.17.0.

Gebruik

Transformers

from transformers import AutoModelForMultimodalLM, AutoProcessor

model_id = "HostYourAI/loes-qwen3.8-27b"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(
    model_id,
    dtype="auto",
    device_map="auto",
)

messages = [{
    "role": "user",
    "content": [{"type": "text", "text": "Leg in helder Nederlands uit wat soevereine AI is."}],
}]
inputs = processor.apply_chat_template(
    messages,
    add_generation_prompt=True,
    enable_thinking=False,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=300, do_sample=False)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))

vLLM

vllm serve HostYourAI/loes-qwen3.8-27b \
  --dtype bfloat16 \
  --max-model-len 16384

Roep het model daarna aan via de OpenAI-compatibele API. Voor de gemeten Loes-instellingen gebruik je temperature: 0. Native bfloat16-serving is getest op een H100 80 GB; kies quantisatie of meerdere GPU's wanneer minder geheugen beschikbaar is.

Beoogd gebruik en beperkingen

Dit model is bedoeld voor onderzoek, evaluatie en toepassingen met Nederlandse en Engelse conversatie. Test het altijd op de eigen taak voordat je het uitrolt.

• Het upstream-checkpoint is expliciet uncensored. Verwacht niet dat het onveilige, illegale of schadelijke verzoeken betrouwbaar weigert; voeg toepassingsspecifieke veiligheidsmaatregelen toe.
• Het model kan hallucineren, vooroordelen reproduceren, onjuiste informatie geven en adversarial instructies volgen.
• De maximale trainingslengte was 1.024 tokens. De geërfde architectuur ondersteunt een veel langere context, maar deze finetune is daar niet systematisch op geëvalueerd.
• Gebruik het model niet als enige basis voor medische, juridische, financiële of andere beslissingen met grote gevolgen.
• De vision tower is niet aangepast en de multimodale kwaliteit van deze afgeleide release is niet apart gemeten.

Licentie

De modelgewichten worden beschikbaar gesteld onder de Apache License 2.0, net als het Qwen3.8-basismodel en de directe OrcaRouter-afgeleide. Trainingsdata en andere componenten blijven daarnaast onder hun eigen bronvoorwaarden vallen.

Herkomst

• Laatste checkpoint: stap 6.411 van 6.411
• Export: Unsloth merged_16bit met safe serialization
• Voorbereid door HostYourAI als onderdeel van de Loes-modelserie
• Contact: [email protected]