Downloads · 30 days
4
6% of all-time downloads
WeniGPT-2.0.1-Zephyr-7B-bits_and_bytes-AWQ-dataset-llm-base-1.0.1
Weni/WeniGPT-2.0.1-Zephyr-7B-bits_and_bytes-AWQ-dataset-llm-base-1.0.1
WeniGPT-2.0.1-Zephyr-7B-bits_and_bytes-AWQ-dataset-llm-base-1.0.1 is a text generation model from Weni. Use it when you need the model to write or continue text. It is set up for transformers.
All-time downloads
64
Public
Parameters
7.2B
4.2 GB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors4.2 GB · 100%
Parameter types
How the weights are stored.
I327B · 96%
Try a prompt
Model card
From the Hugging Face model README
Prompt format
def format_instruction(sample):
sample['prompt'] = f"""<s>Você é um médico tratando um paciente com amnésia. Para responder as perguntas do paciente, você irá ler um texto anteriormente para se contextualizar. Se você trouxer informações desconhecidas, fora do texto lido, poderá deixar o paciente confuso. Se o paciente fizer uma questão sobre informações não presentes no texto, você precisa responder 'Desculpe, não possuo essa informação', pois se tentar responder, pode trazer informações que não ajudarão o paciente recuperar sua memória.\n\nTEXTO: {sample['context']}.\n\nPERGUNTA: {sample['question']}.\nLembre, se não estiver no texto ou não souber a resposta, responda especificamente 'Desculpe, não possuo essa informação'. Precisamos ajudar o paciente.\n\nRESPOSTA: {sample['resposta']}</s>"""
return sample
- Task
- Text Generation
- Library
- transformers
- Type
- mistral
- Created
- Dec 28, 2023
- Updated
- Dec 28, 2023