GPT_aristotle

from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM
import torch

# Загрузка модели
model_name = "zhuu4/GPT_aristotle"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# Создание пайплайна для генерации текста
generator = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer,
    device=0 if torch.cuda.is_available() else -1
)

# Генерация текста
prompt = "Сегодня мы тестируем новый смартфон и"
result = generator(
    prompt,
    max_length=150,
    num_return_sequences=1,
    temperature=0.7,
    do_sample=True,
    pad_token_id=tokenizer.eos_token_id
)

print(result[0]['generated_text'])