Downloads · 30 days
9
11% of all-time downloads
ngocnamk3er/GreenNode-Embedding-Large-VN-Retrieval-fine-tuned-without-lotrinhhoc-21h13-18DEC
GreenNode-Embedding-Large-VN-Retrieval-fine-tuned-without-lotrinhhoc-21h13-18DEC is a sentence similarity model from ngocnamk3er. Use it when you need a score for how close two texts are. It is set up for sentence-transformers.
This is a sentence-transformers model finetuned from GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual simila…
Downloads · 30 days
9
11% of all-time downloads
All-time downloads
85
Public
Parameters
568M
2.3 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors2.3 GB · 99%
From the Hugging Face model README
This is a sentence-transformers model finetuned from GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False, 'architecture': 'XLMRobertaModel'})
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("ngocnamk3er/GreenNode-Embedding-Large-VN-Retrieval-fine-tuned-without-lotrinhhoc-21h13-18DEC")
# Run inference
sentences = [
'Em làm thế nào để kích hoạt khóa học mà mình muốn tham gia?',
'Chủ đề: 3. KÍCH HOẠT THAM GIA KHÓA HỌC\nNội dung:\n3. KÍCH HOẠT THAM GIA KHÓA HỌC\nBước 1: Truy cập website: https://tienganhcomaiphuong.vn/ hoặc https://ngoaingu24h.vn/\nBước 2: Đăng nhập tài khoản đã tạo (hoặc tài khoản tư vấn viên cung cấp)\n[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/cf50b9bb-d066-4866-9f22-95e64a2dc066.png]]\nBước 3: Vào Avatar => Truy cập mục Lịch sử đơn hàng\n[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/6bf25ec6-6abb-42d5-93d2-bee03b84a551.png]]\nBước 4: Trong mục Lịch sử đơn hàng sẽ hiện danh sách các khóa mà em đã mua. Bấm kích hoạt (các) khóa muốn học ngay.\n[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/6f91640b-9fe3-4550-82f8-97dcd7fcf04d.png]]\nNgay sau khi bấm Kích hoạt, màn hình sẽ hiện pop-up tham gia lớp học thành công\n[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/3082b912-7212-48a0-b871-aa5e1c46fb63.png]]\nÔ Kích hoạt sẽ chuyển thành Đã kích hoạt\n[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/2e55bdcd-5290-4916-b7da-382e48f0fc0d.png]]',
'Câu hỏi: Em không thấy bài thi online ở đâu?\nTrả lời: Bài thi online sẽ được mở vào 20h30 mỗi ngày, sau khi livestream kết thúc.\nNếu chưa thấy bài thi, hãy thử tải lại trang hoặc kiểm tra trong mục bài tập của hệ thống.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000, 0.7262, -0.0138],
# [ 0.7262, 1.0000, -0.0321],
# [-0.0138, -0.0321, 1.0000]])
<!--
### Direct Usage (Transformers)
<details><summary>Click to see the direct usage in Transformers</summary>
</details>
-->
<!--
### Downstream Usage (Sentence Transformers)
You can finetune this model on your own dataset.
<details><summary>Click to expand</summary>
</details>
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
val_hit_at_k| Metric | Value |
|---|---|
| cosine_accuracy@1 | 0.7699 |
| cosine_accuracy@5 | 0.9654 |
| cosine_accuracy@10 | 0.9907 |
| cosine_precision@1 | 0.7699 |
| cosine_precision@3 | 0.3125 |
| cosine_precision@5 | 0.1931 |
| cosine_precision@10 | 0.0991 |
| cosine_recall@1 | 0.7699 |
| cosine_recall@3 | 0.9375 |
| cosine_recall@5 | 0.9654 |
| cosine_recall@10 | 0.9907 |
| cosine_ndcg@10 | 0.8911 |
| cosine_mrr@10 | 0.8581 |
| cosine_map@100 | 0.8587 |
| sentence_0 | sentence_1 | |
|---|---|---|
| type | string | string |
| details | <ul><li>min: 11 tokens</li><li>mean: 19.8 tokens</li><li>max: 37 tokens</li></ul> | <ul><li>min: 25 tokens</li><li>mean: 221.42 tokens</li><li>max: 2694 tokens</li></ul> |
| sentence_0 | sentence_1 |
|---|---|
| <code>Em cần làm gì để xem thông tin về các bài giảng gần đây?</code> | <code>Chủ đề: 12. THỐNG KÊ SỐ LIỆU HỌC VIÊN<br>Nội dung:<br>12. THỐNG KÊ SỐ LIỆU HỌC VIÊN<br>12.1. Cách thức truy cập xem số liệu<br>Bước 1: Nhấn vào biểu tượng avatar -> Chọn Trang cá nhân<br>[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/9d70cafa-3c14-49ef-a768-36dba7740ac5.png]] <br>Bước 2: Xem thông tin tổng quan về quá trình học tập<br>[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/cd3e174d-252d-4147-bfa2-7d04cbbb87ee.png]]<br>12.2. Các tiêu chí thống kê<br>Tổng quan: liệt kê các khóa đã tham gia, giúp HS biết được mình đang học các khóa nào<br>[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/7d8bacf7-07f4-47eb-8359-3d016477bc2d.png]]<br>Hoạt động gần đây: thống kê lịch sử xem bài giảng, làm bài thi, bài tập<br>[[img_link: https://imagedoan.s3.ap-southeast-2.amazonaws.com/docx_extracted/62c0ba0d-0ec2-44ea-abee-f6c3541c7e35.png]]<br>Thời gian online: giúp HS theo dõi được thời gian học tập trên web theo từng ngày<br>[[img_link: https://imaged...</code> |
| <code>Trang đăng nhập có cung cấp công cụ hỗ trợ nào cho việc khôi phục mật khẩu không?</code> | <code>Câu hỏi: Em quên tài khoản/mật khẩu thì phải làm sao?<br>Trả lời: Em có thể nhấn vào “Quên mật khẩu” trên trang đăng nhập để đặt lại mật khẩu.<br>Nếu vẫn không thể đăng nhập, em hãy liên hệ với bộ phận hỗ trợ để được cấp lại tài khoản.</code> |
| <code>Có cần phải làm theo bước nào đặc biệt sau khi livestream để thấy bài thi online không?</code> | <code>Câu hỏi: Em không thấy bài thi online ở đâu?<br>Trả lời: Bài thi online sẽ được mở vào 20h30 mỗi ngày, sau khi livestream kết thúc.<br>Nếu chưa thấy bài thi, hãy thử tải lại trang hoặc kiểm tra trong mục bài tập của hệ thống.</code> |
{
"scale": 20.0,
"similarity_fct": "cos_sim",
"gather_across_devices": false
}
eval_strategy: stepsper_device_train_batch_size: 4per_device_eval_batch_size: 4fp16: Truemulti_dataset_batch_sampler: round_robinoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: stepsprediction_loss_only: Trueper_device_train_batch_size: 4per_device_eval_batch_size: 4per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 5e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1num_train_epochs: 3max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.0warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Falsefp16: Truefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Falseignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Falsehub_always_push: Falsegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseeval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters:auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Nonedispatch_batches: Nonesplit_batches: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseeval_use_gather_object: Falseprompts: Nonebatch_sampler: batch_samplermulti_dataset_batch_sampler: round_robinrouter_mapping: {}learning_rate_mapping: {}| Epoch | Step | Training Loss | val_hit_at_k_cosine_ndcg@10 |
|---|---|---|---|
| 0.1330 | 100 | - | 0.8395 |
| 0.2660 | 200 | - | 0.8187 |
| 0.3989 | 300 | - | 0.8250 |
| 0.5319 | 400 | - | 0.8482 |
| 0.6649 | 500 | 0.0954 | 0.8413 |
| 0.7979 | 600 | - | 0.8459 |
| 0.9309 | 700 | - | 0.8508 |
| 1.0 | 752 | - | 0.8498 |
| 1.0638 | 800 | - | 0.8468 |
| 1.1968 | 900 | - | 0.8637 |
| 1.3298 | 1000 | 0.0563 | 0.8638 |
| 1.4628 | 1100 | - | 0.8746 |
| 1.5957 | 1200 | - | 0.8764 |
| 1.7287 | 1300 | - | 0.8800 |
| 1.8617 | 1400 | - | 0.8783 |
| 1.9947 | 1500 | 0.027 | 0.8818 |
| 2.0 | 1504 | - | 0.8825 |
| 2.1277 | 1600 | - | 0.8788 |
| 2.2606 | 1700 | - | 0.8834 |
| 2.3936 | 1800 | - | 0.8829 |
| 2.5266 | 1900 | - | 0.8870 |
| 2.6596 | 2000 | 0.0327 | 0.8877 |
| 2.7926 | 2100 | - | 0.8911 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->