Downloads · 30 days
9
14% of all-time downloads
Xelta/miniXelta_01
miniXelta_01 is a text generation model from Xelta. Use it when you need the model to write or continue text. It is set up for transformers.
Este es un modelo ajustado a partir del modelo Llama-2-7b-chat-hf utilizando LoRA y precisión de 4 bits. Ha sido entrenado con el conjunto de datos Xelta/responsemongotext.
Downloads · 30 days
9
14% of all-time downloads
All-time downloads
66
Public
Repo size
27 GB
Likes
0
Public
Click a slice to open those files.
.bin13.5 GB · 100%
From the Hugging Face model README
Este es un modelo ajustado a partir del modelo Llama-2-7b-chat-hf utilizando LoRA y precisión de 4 bits. Ha sido entrenado con el conjunto de datos Xelta/response_mongo_text.
Puedes usar este modelo para generación de texto de la siguiente manera:
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "username/llama-2-7b-miniXelta"
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "Quiero inscribirme, soy Mattias y mi edad es 28 años"
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))