Downloads · 30 days
61
14% of all-time downloads
intai2070/tooka-sbert-large-v2-legal-names-bi-encoder
tooka-sbert-large-v2-legal-names-bi-encoder is a sentence similarity model from intai2070. Use it when you need a score for how close two texts are. It is set up for sentence-transformers.
Downloads · 30 days
61
14% of all-time downloads
All-time downloads
432
Public
Parameters
353M
1.4 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors1.4 GB · 100%
From the Hugging Face model README
این مدل یک Sentence Transformer است که از پایهی PartAI/Tooka-SBERT-V2-Large گرفته شده و بر روی دیتاست legal-names-bi-encoder-dataset با استفاده از کتابخانهی Sentence Transformers آموزش داده شده است. مدل برای محاسبهی شباهت معنایی میان جملات و پاراگرافها طراحی شده و خروجی آن یک بردار متراکم 1024بعدی است که میتواند در وظایفی مانند semantic search، paraphrase mining، text classification و clustering استفاده شود. برخلاف CrossEncoder که هر دو متن را همزمان پردازش میکند، این مدل از خانوادهی Bi-Encoder است؛ یعنی هر متن جداگانه به بردار تبدیل میشود و سپس شباهت میان بردارها با معیارهایی مثل Cosine Similarity محاسبه میگردد. این روش سرعت بالاتری دارد و برای جستجو و مقیاسهای بزرگ بسیار کارآمد است.
pip install -U sentence-transformers
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("IRI2070/tooka-sbert-large-v2-legal-names-bi-encoder")
sentences = [
'دبیرستان معلم پارسیان',
'دبیرستان معلم پارسیانها',
'دبیرستان فرهنگ و معلم',
]
embeddings = model.encode(sentences)
print(embeddings)
# محاسبه شباهت میان جملات
from sentence_transformers.util import cos_sim
similarities = cos_sim(embeddings, embeddings)
print(similarities)
<div dir="rtl">
مدل بر روی مجموعههای validation و test دیتاست مورد اشاره ارزیابی شده است.
| معیار | validation | test |
|---|---|---|
| cosine_accuracy | 0.9977 | 0.9987 |
امتیاز Cosine Accuracy نشاندهندهی توانایی مدل در تشخیص شباهت معنایی میان جملات است. مقادیر نزدیک به 1 بیانگر عملکرد بسیار دقیق مدل در این وظیفه هستند.
anchor، positive، negativescale = 20.0similarity_fct = cos_simbatch_size: 100learning_rate: 2e-5num_train_epochs: 1warmup_ratio: 0.1bf16: Trueاین پروژه بخشی از فعالیتهای آموزشی و پژوهشی در آکادمی همراه اول است و با هدف ارتقای دانش در حوزهی NLP و یادگیری عمیق منتشر شده است.
</div>