Downloads · 30 days
0
falcon-7b-alpaca-pt
luccazen/falcon-7b-alpaca-pt
falcon-7b-alpaca-pt is a machine learning model from luccazen. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
Access
Public
Updated Jun 14, 2023
Repo size
—
Likes
1
Public
Repo makeup
Click a slice to open those files.
Other1.5 KB · 63%
At a glance
- Access
- Public
- Created
- Jun 14, 2023
- Updated
- Jun 14, 2023
- SHA
- e124e92b
Model card
From the Hugging Face model README
Usage
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
model = AutoModelForCausalLM.from_pretrained(
"tiiuae/falcon-7b",
load_in_8bit=True,
trust_remote_code=True,
)
tokenizer = AutoTokenizer.from_pretrained(
"tiiuae/falcon-7b",
)
model = PeftModel.from_pretrained(model, "/content/drive/MyDrive/ML/falcon/lora-falcao")
Data From https://huggingface.co/22h/cabrita-lora-v0-1
Example outputs Stanford Alpaca:
Instruction: Invente uma desculpa criativa pra dizer que não preciso ir à festa. Response: Eu preciso se concentrar em trabalho importante para mim, por isso eu não posso ir à festa.
Falcon PT:
Instrução: Invente uma desculpa criativa pra dizer que não preciso ir à festa. Resposta: "Eu preciso ficar em casa para cuidar dos meus animais de estimação."
- Created
- Jun 14, 2023
- Updated
- Jun 14, 2023