Code_analyze.1.0

Code Analyzer Model

Fine-tuned версия модели Qwen2.5-Coder-3B-Instruct для анализа кода студента на основе условия задачи (for Machine Learning tasks).

Описание модели

Эта модель предназнаечена для анализа кода студента. Модель принимает:

• Условие задачи (текстовое описание)
• Код решения студента (Python код)

И возвращает детальный анализ в формате JSON, включающий:

• Оценку правильности решения
• Анализ соответствия требованиям задачи
• Оценку качества кода
• Сильные и слабые стороны решения
• Рекомендации по улучшению
• Детальный анализ с обоснованием

Модель основана на Qwen2.5-Coder-3B-Instruct и дообучена с использованием LoRA (Low-Rank Adaptation).

Быстрый старт

Вариант 1: Использование локально (Python)

Установка зависимостей:

pip install transformers torch

Простой пример использования:

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
import json

model_name = "Vilyam888/Code_analyze.1.0"

# Загрузка модели
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

# Условие задачи
task = "Напишите функцию, которая принимает список чисел и возвращает сумму всех элементов."

# Код студента
code = """def sum_list(numbers):
    total = 0
    for num in numbers:
        total += num
    return total"""

# Форматирование входа
input_text = f"Задача:\n{task}\n\nРешение (код):\n```python\n{code}\n```"
prompt = f"{input_text}\n\nОтвет:\n"

# Генерация анализа
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=1024,
        temperature=0.7,
        top_p=0.8,
        top_k=20,
        repetition_penalty=1.05,
        do_sample=True
    )

# Декодирование и парсинг JSON
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
result = response.split("Ответ:")[-1].strip()
analysis = json.loads(result)

print(json.dumps(analysis, ensure_ascii=False, indent=2))

Или используйте готовые скрипты из репозитория:

Простой пример (минимальный код):

python scripts/quick_start_example.py

Полный пример с интерактивным режимом:

python scripts/use_model_example.py

Детали обучения

• Базовая модель: Qwen/Qwen2.5-Coder-3B-Instruct
• Метод обучения: LoRA (Low-Rank Adaptation)
• Параметры LoRA:
  • r: 16
  • lora_alpha: 32
  • lora_dropout: 0.05
• Фреймворк: TRL (Transformer Reinforcement Learning)
• Формат данных: JSONL с полями input и output

Ограничения

• Модель обучена на русском языке для анализа кода
• Может генерировать неточные или неполные ответы
• Требует GPU для эффективной работы

Использование через API

Модель можно использовать через несколько способов:

1. Через transformers (Python)

from transformers import AutoModelForCausalLM, AutoTokenizer

2. Через Hugging Face Inference API

import requests
API_URL = "https://api-inference.huggingface.co/models/Vilyam888/Code_analyze.1.0"

3. Через Gradio Space API

Если создан Gradio Space, можно использовать его API endpoint.

4. Интеграция в Backend проект

Примеры для FastAPI, Flask, Django, Node.js и других фреймворков.

Лицензия

Apache 2.0

Авторы

Fine-tuned by Vilyam888