e2r-finetuned

E2R Fine-tuned

Autor: Nizar Nortes Pastor

---

Descripción

Este modelo basado en un sistema de ajuste fino con QLoRA está enfocado en la facilitación automática de textos en español. Utiliza un modelo base LLaMA 2 7B.

---

Datos

• Dataset: Conjunto de datos en JSON con pares de texto original y texto simplificado.
• Idioma: Español.
• Tamaño: 500 pares de muestras.

---

Uso

def cargar_modelo(repo_adaptador: str, hf_token: str | None = None):
    config = PeftConfig.from_pretrained(repo_adaptador, token=hf_token)
    modelo_base = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path, token=hf_token)
    modelo_peft = PeftModel.from_pretrained(modelo_base, repo_adaptador, token=hf_token)
    
    tokenizer = AutoTokenizer.from_pretrained(config.base_model_name_or_path, token=hf_token)

    return modelo_peft.eval(), tokenizer

texto_original = "Texto a simplificar"

model, tokenizer = cargar_modelo("Nizaress/e2r-finetuned", hf_token=token)
inputs = tokenizer(texto_original, return_tensors="pt").to(model.device)

output = model.generate(
    **inputs,
    max_new_tokens=200,
    do_sample=True,
    temperature=0.5
)

simplificado = tokenizer.decode(output[0], skip_special_tokens=True)
print(simplificado[len(texto_original):])

El uso de este modelo lo encontramos en el repositorio de GitHub junto al resto del código desarrollado para este TFG.