Downloads · 30 days
10
14% of all-time downloads
ru-tagger-bert-fineweb-v1
NejimakiTori/ru-tagger-bert-fineweb-v1
ru-tagger-bert-fineweb-v1 is a machine learning model from NejimakiTori. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as mit.
Модель для мульти‑лейбл теггирования русскоязычных текстов Дообучена на базе deepvk/RuModernBERT-base с использованием синтетических тегов, сгенерированных Qwen3‑235B‑A22B‑Instruct‑2507 для выборки из 140 000 текстов…
All-time downloads
74
Public
Parameters
149M
596 MB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors596 MB · 99%
At a glance
- License
- mit
- Model type
- modernbert
- Access
- Public
- Created
- Jun 19, 2026
- Updated
- Jun 19, 2026
- SHA
- 86120548
Datasets
Model card
From the Hugging Face model README
RuModernBERT Tagger (FineWeb‑Tuned)
Модель для мульти‑лейбл теггирования русскоязычных текстов
Дообучена на базе deepvk/RuModernBERT-base с использованием синтетических тегов,
сгенерированных Qwen3‑235B‑A22B‑Instruct‑2507 для выборки из 140 000 текстов из датасета FineWeb (русскоязычный подкорпус rus_Cyrl).
Задача
Модель решает задачу мульти‑лейбл классификации и возвращает вектор логитов длины 796, где каждый элемент соответствует одному из заранее заданных тегов.
Данные для обучения
- Источник: подмножество русскоязычных текстов из датасета FineWeb2
- Объём: 140 000 текстов
- Разметка: изначальные теги сгенерированы моделью Qwen3‑235B‑A22B‑Instruct‑2507 (каждый текст содержит 5 тегов)
- Стратегия: теги кластеризовались и каждый кластер обозначал новый тег - наиболее частотный из близких к центру
Особенность второй версии
В данной версии модель обучалась на тегах, которые были наиболее близки к центру кластера схожих тегов. Также остался тег, который обозначал кластер различных аббревиатур.
- Type
- modernbert
- License
- mit
- Languages
- ru
- Created
- Jun 19, 2026
- Updated
- Jun 19, 2026