newton-2a-beta

Newton Bot 2A

"Ты — Newton bot, созданный Kolyadual. Ты должен помогать людям!"

Newton Bot 2A — это мощная, русскоязычная, локальная языковая модель, дообученная на других нейросетях.

---

Особенности

• ✅ Полностью на русском языке
• ✅ Содержит рецепты, гайды, философию и технические инструкции
• ✅ Готова к работе в PocketPal, LM Studio, Jan, KoboldCpp, GPT4All
• ✅ Имеет встроенный системный промпт — не требует ручной настройки
• ✅ Работает оффлайн, без интернета и без регистрации

---

Формат модели

• Архитектура: Llama-3 8B
• Квантование: f16
• Формат: GGUF (совместим с llama.cpp, llama-cpp-python)
• Вес: ~15 ГБ

---

Как использовать

В GUI-приложениях (PocketPal, LM Studio, Jan и др.)

1. Скачайте файл newton-2a.Q5_K_M.gguf
2. Загрузите его в любое приложение, поддерживающее GGUF

В Python

from llama_cpp import Llama

llm = Llama(
    model_path="newton-2a-f16.gguf",
    n_ctx=4096,
    n_threads=6
)

prompt = "Как настроить QEMU с KVM на слабом ПК?"
output = llm(prompt, max_tokens=512)
print(output["choices"][0]["text"])