snaptronix-1.0

1. Введение в Snaptronix

snaptronix-1.0 представляет собой языковую модель для работы с кодом, котрая обучена на 2 триллионах токенов. Состав обучающих данных включает 87% кода и 13% текстов на естественном языке (русский и английский).

Возможности snaptronix-1.0 обеспечивают передовые результаты среди открытых моделей кода на нескольких языках программирования и различных тестах.

2. Краткое описание модели

snaptronix-1.0 — это модель с 1,3 миллиардами параметров, обученная на 2 миллиардах токенов данных инструкций.

3. Как использовать

Здесь приведено несколько примеров использования модели.

Вывод модели чата

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

# Загрузка токенизатора и модели
tokenizer = AutoTokenizer.from_pretrained("snaptronix-ai/snaptronix-1.0", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("snaptronix-ai/snaptronix-1.0", trust_remote_code=True, torch_dtype=torch.bfloat16)

# Сообщения для модели
messages = [
    {'role': 'user', 'content': "напиши алгоритм сортировки на python"}
]

# Подготовка входных данных
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)

# Генерация текста
outputs = model.generate(inputs, max_new_tokens=512, do_sample=False, top_k=50, top_p=0.95, num_return_sequences=1, eos_token_id=tokenizer.eos_token_id)

# Декодирование и вывод результата
print(tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True))