Downloads · 30 days
15
10% of all-time downloads
minhtuan7akp/gte-base-vietnamese-finetune-matryoshka
gte-base-vietnamese-finetune-matryoshka is a sentence similarity model from minhtuan7akp. Use it when you need a score for how close two texts are. It is set up for sentence-transformers.
This is a sentence-transformers model finetuned from Alibaba-NLP/gte-multilingual-base on the csv dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual si…
Downloads · 30 days
15
10% of all-time downloads
All-time downloads
146
Public
Parameters
305M
1.2 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors1.2 GB · 99%
From the Hugging Face model README
This is a sentence-transformers model finetuned from Alibaba-NLP/gte-multilingual-base on the csv dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: NewModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("minhtuan7akp/gte-base-vietnamese-finetune-matryoshka")
# Run inference
sentences = [
'Gia Cát Lượng đã giúp ai trong việc quản lý nước Thục?',
'phải trông coi mọi việc, giúp Thành Vương đến lúc trưởng thành. \r\n4\r\n Hoắc Quang giữ chức Đại tư mã tướng quân, phò Hán Chiêu Đế lúc lên ngôi mới 9 tuổi. \r\n5\r\n Gia Cát Lượng tức Khổng Minh, là thừa tướng của Chiêu Đế Lưu Bị nước Thục đời Tam Quốc. Lưu Bị chết, con là Lưu Thiện nối \r\nngôi, tức Thục Hậu chúa, mọi việc nước, việc quân đều phải trông cậy vào Gia Cát Lượng. \r\n6\r\n Tô Hiến Thành là Thái úy triều Lý Cao Tông, nhận di mệnh Cao Tông phò vua nhỏ là Long Cán lên nối ngôi mới 3 tuổi. \r\n7\r\n Tứ phụ: nghĩa là bốn viên đại thần giúp vua khi mới lên ngôi. \r\n8\r\n Chỉ Thuận Tông. \r\n9\r\n Xích chủy: nghĩa là mõm đỏ, miệng đỏ, hay đỏ mỏ. Xích chủy hầu là loài đỏ mỏ ám chỉ Lê Quý Ly. \r\n10 Bạch kê: nghĩa là gà trắng. Nghệ Tông sinh năm Tân Dậu, tức năm gà. Tân thuộc hành kim, loài kim sắc trắng. Vì thế "bạch kê" \r\nám chỉ Nghệ Tông. \r\n11 Chữ vương? ở trong lòng chữ khẩu? là chữ "quốc"?. \r\n12 Theo tục nhà Trần, hằng năm vào ngày mồng 4 tháng 4, vua hội họp bề tôi làm lễ tuyên thệ ở đền Đồng Cổ. (Xem bản kỷ, quyển \r\n5, Kiến Trung năm thứ 3, 1277). \r\n13 Chỉ Quý Ly. \r\n288 Đại Việt Sử Ký Toàn Thư - Bản Kỷ - Quyển VIII \r\nQuý Ly bỏ mũ, rập đầu khóc lóc từ tạ, chỉ trời vạch đất thề rằng: \r\n"Nếu thần không biết dốc lòng trung, hết sức giúp Quan gia để truyền đến con cháu về sau thì \r\ntrời sẽ ghét bỏ thần". \r\nQuý Ly lại nói: "Lúc Linh Đức Vương làm điều thất đức, nếu không nhờ oai linh bệ hạ thì thần đã',
'Tây. Ngoài cơ sờ đúc súng cũ của tiên triều, năm 1825 vua Minh \r\nMệnh mờ thêm sáu xưởng nữa. vốn cần cù và ham học hỏi sáng \r\ntạo, những người thợ quân giới đã được "thứ súng tay nạp thuốc nổ \r\nmạnh theo kiểu Tây dương". Vào những năm cuối triều Minh \r\nM ệnh, họ đã đúc 15 cỗ đại pháo X ung tiêu băng đồng và hai cỗ \r\nsúng lớn Chấn hải, loại đại pháo lợi hại trong thủy chiến phương \r\nTây. Sau đó, lại xuất xưởng tiếp 30 cỗ Chấn hải. Năm 1829, quản \r\nkho Hải Dương là Tôn Thất Thiện cùng với 100 lính Chấn cơ chế \r\nra cối gỗ chạy bàng sức nước ở khe suối để giã, luyện thuốc súng. \r\nDụng cụ này là xe "Thủy hỏa ký tế", và những năm sau được phổ \r\ncập trong quân ngũ. Từ vũ khí phương Tây, người Đại Nam đã tự \r\ntìm hiểu từng chi tiết để chế tạo thước đo ngắm bắn, thước kiểm tra \r\nthuốc súng. Trong bảy năm ờ ngôi, vua Thiệu Trị đúc 9 cỗ súng \r\nbàng đồng hiệu là "Thần uy phục viễn đại tướng quân", cỗ to nhất \r\nlà 10.706 cân, cỗ nhỏ nhất là 10.222 cân, tổng cộng là 93.829 cân.\r\n649\r\nLỊCH SỬ VIỆT NAM - TẬP 5\r\nVà ba cỗ súng hiệu "Bảo Đại định công an dân hòa chúng thượng \r\ntướng quân", mỗi cỗ trên 14.500 cân, tổng cộng là 43.620 cân1.\r\nĐe tạo điều kiện cho quân thủy học tập, bộ Công cấp cho họ la \r\nbàn, thước đo nước, đồng hồ cát xem giờ của phương Tây. v ề khoa \r\nmục bắn súng thì lính thủy phải tập bắn súng điểu sang và đại bác. \r\nMinh Mệnh yêu cầu Hiệp biện Đại học sĩ lãnh Thượng thư bộ Binh \r\nTrương Đăng Quế đọc kỹ các sách và bản đồ thủy chiến "Tây',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
<!--
### Direct Usage (Transformers)
<details><summary>Click to see the direct usage in Transformers</summary>
</details>
-->
<!--
### Downstream Usage (Sentence Transformers)
You can finetune this model on your own dataset.
<details><summary>Click to expand</summary>
</details>
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
gte_multilingual_base_768, gte_multilingual_base_512, gte_multilingual_base_256, gte_multilingual_base_128 and gte_multilingual_base_64| Metric | gte_multilingual_base_768 | gte_multilingual_base_512 | gte_multilingual_base_256 | gte_multilingual_base_128 | gte_multilingual_base_64 |
|---|---|---|---|---|---|
| cosine_accuracy@1 | 0.3973 | 0.3877 | 0.3772 | 0.3612 | 0.3082 |
| cosine_accuracy@3 | 0.6333 | 0.6311 | 0.6146 | 0.5826 | 0.5146 |
| cosine_accuracy@5 | 0.7132 | 0.7096 | 0.6872 | 0.6502 | 0.5863 |
| cosine_accuracy@10 | 0.7817 | 0.7822 | 0.7662 | 0.7342 | 0.6621 |
| cosine_precision@1 | 0.3973 | 0.3877 | 0.3772 | 0.3612 | 0.3082 |
| cosine_precision@3 | 0.2111 | 0.2104 | 0.2049 | 0.1942 | 0.1715 |
| cosine_precision@5 | 0.1426 | 0.1419 | 0.1374 | 0.13 | 0.1173 |
| cosine_precision@10 | 0.0782 | 0.0782 | 0.0766 | 0.0734 | 0.0662 |
| cosine_recall@1 | 0.3973 | 0.3877 | 0.3772 | 0.3612 | 0.3082 |
| cosine_recall@3 | 0.6333 | 0.6311 | 0.6146 | 0.5826 | 0.5146 |
| cosine_recall@5 | 0.7132 | 0.7096 | 0.6872 | 0.6502 | 0.5863 |
| cosine_recall@10 | 0.7817 | 0.7822 | 0.7662 | 0.7342 | 0.6621 |
| cosine_ndcg@10 | 0.5921 | 0.588 | 0.5736 | 0.5466 | 0.4843 |
| cosine_mrr@10 | 0.531 | 0.5253 | 0.5117 | 0.4866 | 0.4275 |
| cosine_map@100 | 0.538 | 0.5319 | 0.5189 | 0.4943 | 0.4371 |
| anchor | positive | |
|---|---|---|
| type | string | string |
| details | <ul><li>min: 9 tokens</li><li>mean: 26.95 tokens</li><li>max: 103 tokens</li></ul> | <ul><li>min: 25 tokens</li><li>mean: 373.94 tokens</li><li>max: 596 tokens</li></ul> |
| anchor | positive |
|---|---|
| <code>Tính chất kiến trúc của đình làng triều Mạc được thể hiện qua những đặc điểm gì, như số gian, hình dạng, nội thất và cách bố trí không gian trong công trình?</code> | <code>Đình làng là công trình kiến trúc công cộng được dựng nên |
| <br>băng sự đóng góp của cải và công sức của cả cộng đồng làng xã. | |
| <br>Ngoài chức năng là trụ sở hành chính của cả làng, ngôi đình còn là | |
| <br>trung tâm sinh hoạt văn hóa làng xã, là nơi diễn ra các nghi lễ trọng | |
| <br>đại trong dịp tế lễ thần Thành hoàng làng và tô chức hội hè hăng | |
| <br>năm. Có thê nói, ngôi đình làng là nơi hội tụ sức mạnh của cả cộng | |
| <br>đồng và là biểu trưng đặc sắc nhất của văn hóa làng xã. |
{
"loss": "MultipleNegativesRankingLoss",
"matryoshka_dims": [
768,
512,
256,
128,
64
],
"matryoshka_weights": [
1,
1,
1,
1,
1
],
"n_dims_per_step": -1
}
| anchor | positive | |
|---|---|---|
| type | string | string |
| details | <ul><li>min: 10 tokens</li><li>mean: 26.56 tokens</li><li>max: 108 tokens</li></ul> | <ul><li>min: 24 tokens</li><li>mean: 369.01 tokens</li><li>max: 559 tokens</li></ul> |
| anchor | positive |
|---|---|
| <code>Nguyễn Hoàng đã thực hiện những hành động gì để dần dần tách khỏi sự ràng buộc của họ Trịnh sau khi trở lại Thuận Quảng vào năm 1600, và những hành động này đã ảnh hưởng như thế nào đến mối quan hệ giữa hai dòng họ?</code> | <code>thẳng đối với họ Nguyễn. Trịnh Tùng đã lấy danh nghĩa vua Lê sai |
| <br>sứ giả là Thiêm đô ngự sử Lê Nghĩa Trạch đem sắc vào phủ dụ | |
| <br>Nguyễn Hoàng và vẫn cho ở lại trấn thủ, hằng năm nộp thuế như | |
| <br>cũ. Cùng với sắc của vua Lê, Trịnh Tùng có gửi thư kèm theo | |
| <br>Chương ĩ. Sự phân liệt Đàng Trong - Đàng Ngoài... | |
| <br>1, Toàn thư. quyển 17, tập IV, Sđd, tr. 200. | |
| <br>2, Đại Nam thực lục, Tiền biên, quyển 1, tập I, Sđd, tr. 34. | |
| <br>3, Đại Nam thực lục, Tiển biên, quyển 1, tập I, Sđd, tr. 35. | |
| <br>39 | |
| <br>LỊCH SỬ VIỆT NAM - TẬP 4 | |
| <br>"khuyên giữ việc thuế cống". Nguyễn Hoàng sai sứ giả đáp lễ tạ on | |
| <br>vua Lê và gửi thư cho Trịnh Tùng hẹn kết nghĩa thông gia, đem con | |
| <br>gái là Ngọc Tú gả cho Trịnh Tráng (con Trịnh Tùng) lấy danh | |
| <br>nghĩa hôn nhân để duy trì mối quan hệ bề ngoài giao hảo giữa hai | |
| <br>dòng họ vốn có sẵn một mối thù địch. | |
| <br>- Chính sách cùa họ Nguyễn từ khi Nguyễn Hoàng trở lại | |
| <br>Thuận Quảng | |
| <br>Năm 1600, Nguyễn Hoàng ròi được khỏi đất Bẳc trở về Thuận | |
| <br>Quảng bắt đầu thực hiện một chính sách cai trị mói, dần dần tác...</code> | |
| <code>Báo cáo của Ủy ban Kháng chiến hành chính Hà Nội về hoạt động giáo dục bù nhìn và tình hình các giáo sư trường Chu Văn An có nội dung gì?</code> | <code>Tài liệu tham khảo |
| <br>21. Báo cáo sô' 2 BC/I ngày 12-11-1949 và Báo cáo sô' 463 | |
| <br>BC/DB ngày 25-12-1949 của Ty Công an H à Nội. Trung | |
| <br>tâm Lưu trữ Quốc gia III, phông Phủ Thủ tướng, Hồ sơ | |
| <br>SỐ921. | |
| <br>28. Báo “Le song” ngày 11-2-1949. Trung tâm Lưu trữ Quốc | |
| <br>gia III, phông Phủ Thủ tướng, Hồ sơ sô' 2002. | |
| <br>29. Báo cáo của u ỷ ban Kháng chiến hành chính Hà Nội vê | |
| <br>hoạt động giáo dục bù nhìn và tình hình các giáo sư | |
| <br>trường Chu Văn An. Trung tâm Lưu trữ Quốc gia III, | |
| <br>phông Phủ Thủ tướng, Hồ sơ số 979. | |
| <br>30. Báo cáo của Tổng Giám đốc Việt N am Công an vụ sô' | |
| <br>122/NCB3 ngày 1-4-1951. Trung tâm Lưu trữ Quốic gia | |
| <br>III, phông Phủ Thủ tướng, Hồ sơ sô' 979. | |
| <br>31. Báo cáo thành tích về cống tác công an trong 8 năm kháng | |
| <br>chiến (1946-1954) của Bộ Công an. Trung tâm Lưu trữ | |
| <br>Quốc gia III, phông Phủ Thủ tướng, Hồ sơ sô' 927. | |
| <br>32. Báo cáo một năm kháng chiến (12-1946 đến 12-1947) của | |
| <br>UBKCHC Khu 12. Trung tâm Lưu trữ Quốc gia III, phông | |
| <br>Phủ Thủ tướng, Hồ sơ sô" 2000. | |
| <br>33. Báo cáo thành tích quăn sự trong 8 n...</code> | |
| <code>Đặc điểm dân số của nước ta ảnh hưởng đến các ngành dịch vụ như thế nào và đòi hỏi những ngành dịch vụ nào cần được ưu tiên phát triển trong quá trình đô thị hóa?</code> | <code>— Trong các thành phố lớn thường hình thành các trung tâm giao dịch, |
| <br>thương mại. Đó là nơi tập trung các ngân hàng, các văn phòng đại diện | |
| <br>của các công ti, các siêu thị hay các tổ hợp thương mại, dịch vụ lớn... | |
| <br>Ở các thành phố lớn trên thế giới, thường dễ nhận thấy các trung tâm | |
| <br>thương mại này do sự tập trung các ngôi nhà cao tầng, chọc trời. Một | |
| <br>thành phố có thể có trung tâm thương mại chính và một số trung tâm | |
| <br>thương mại nhỏ hơn, kết quả của sự phát triển đô thị. |
{
"loss": "MultipleNegativesRankingLoss",
"matryoshka_dims": [
768,
512,
256,
128,
64
],
"matryoshka_weights": [
1,
1,
1,
1,
1
],
"n_dims_per_step": -1
}
eval_strategy: stepsper_device_train_batch_size: 6per_device_eval_batch_size: 6learning_rate: 3e-06num_train_epochs: 2warmup_ratio: 0.05bf16: Truebatch_sampler: no_duplicatesoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: stepsprediction_loss_only: Trueper_device_train_batch_size: 6per_device_eval_batch_size: 6per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 3e-06weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 2max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.05warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Truefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Falseignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Nonehub_always_push: Falsegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters:auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Nonedispatch_batches: Nonesplit_batches: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: Nonebatch_sampler: no_duplicatesmulti_dataset_batch_sampler: proportional| Epoch | Step | Training Loss | Validation Loss | gte_multilingual_base_768_cosine_ndcg@10 | gte_multilingual_base_512_cosine_ndcg@10 | gte_multilingual_base_256_cosine_ndcg@10 | gte_multilingual_base_128_cosine_ndcg@10 | gte_multilingual_base_64_cosine_ndcg@10 |
|---|---|---|---|---|---|---|---|---|
| 0.0305 | 100 | 1.1057 | 0.7163 | 0.5609 | 0.5532 | 0.5375 | 0.4939 | 0.4168 |
| 0.0609 | 200 | 0.7976 | 0.5554 | 0.5724 | 0.5696 | 0.5491 | 0.5068 | 0.4351 |
| 0.0914 | 300 | 0.6724 | 0.4082 | 0.5819 | 0.5778 | 0.5592 | 0.5177 | 0.4453 |
| 0.1218 | 400 | 0.4439 | 0.3058 | 0.5868 | 0.5832 | 0.5643 | 0.5231 | 0.4558 |
| 0.1523 | 500 | 0.3544 | 0.2573 | 0.5873 | 0.5836 | 0.5631 | 0.5264 | 0.4597 |
| 0.1827 | 600 | 0.3483 | 0.2358 | 0.5897 | 0.5856 | 0.5690 | 0.5309 | 0.4679 |
| 0.2132 | 700 | 0.4737 | 0.2248 | 0.5917 | 0.5883 | 0.5767 | 0.5350 | 0.4747 |
| 0.2436 | 800 | 0.3216 | 0.2193 | 0.5899 | 0.5853 | 0.5712 | 0.5330 | 0.4734 |
| 0.2741 | 900 | 0.3239 | 0.2109 | 0.5918 | 0.5883 | 0.5719 | 0.5344 | 0.4712 |
| 0.3045 | 1000 | 0.3111 | 0.2065 | 0.5882 | 0.5856 | 0.5708 | 0.5331 | 0.4751 |
| 0.3350 | 1100 | 0.3516 | 0.2024 | 0.5889 | 0.5854 | 0.5714 | 0.5352 | 0.4760 |
| 0.3654 | 1200 | 0.3344 | 0.2033 | 0.5860 | 0.5832 | 0.5687 | 0.5339 | 0.4764 |
| 0.3959 | 1300 | 0.3161 | 0.1907 | 0.5920 | 0.5898 | 0.5718 | 0.5369 | 0.4756 |
| 0.4263 | 1400 | 0.3094 | 0.1905 | 0.5948 | 0.5915 | 0.5723 | 0.5374 | 0.4774 |
| 0.4568 | 1500 | 0.2981 | 0.1859 | 0.5924 | 0.5919 | 0.5736 | 0.5370 | 0.4755 |
| 0.4872 | 1600 | 0.3332 | 0.1860 | 0.5877 | 0.5881 | 0.5697 | 0.5361 | 0.4760 |
| 0.5177 | 1700 | 0.259 | 0.1877 | 0.5811 | 0.5820 | 0.5683 | 0.5343 | 0.4779 |
| 0.5481 | 1800 | 0.282 | 0.1924 | 0.5788 | 0.5811 | 0.5664 | 0.5337 | 0.4804 |
| 0.5786 | 1900 | 0.2739 | 0.1943 | 0.5803 | 0.5803 | 0.5685 | 0.5383 | 0.4823 |
| 0.6090 | 2000 | 0.2049 | 0.1893 | 0.5856 | 0.5826 | 0.5680 | 0.5380 | 0.4794 |
| 0.6395 | 2100 | 0.3545 | 0.1780 | 0.5920 | 0.5885 | 0.5717 | 0.5393 | 0.4743 |
| 0.6699 | 2200 | 0.3008 | 0.1769 | 0.5919 | 0.5879 | 0.5732 | 0.5392 | 0.4755 |
| 0.7004 | 2300 | 0.3561 | 0.1764 | 0.5909 | 0.5883 | 0.5735 | 0.5392 | 0.4777 |
| 0.7308 | 2400 | 0.4883 | 0.1705 | 0.5977 | 0.5922 | 0.5777 | 0.5451 | 0.4797 |
| 0.7613 | 2500 | 0.235 | 0.1665 | 0.5966 | 0.5928 | 0.5799 | 0.5434 | 0.4805 |
| 0.7917 | 2600 | 0.3415 | 0.1636 | 0.5960 | 0.5910 | 0.5780 | 0.5444 | 0.4815 |
| 0.8222 | 2700 | 0.2424 | 0.1637 | 0.5936 | 0.5917 | 0.5758 | 0.5455 | 0.4821 |
| 0.8526 | 2800 | 0.1937 | 0.1635 | 0.5961 | 0.5896 | 0.5790 | 0.5446 | 0.4841 |
| 0.8831 | 2900 | 0.1986 | 0.1620 | 0.5922 | 0.5884 | 0.5770 | 0.5428 | 0.4834 |
| 0.9135 | 3000 | 0.2009 | 0.1587 | 0.5963 | 0.5921 | 0.5793 | 0.5438 | 0.4820 |
| 0.9440 | 3100 | 0.221 | 0.1568 | 0.5964 | 0.5945 | 0.5810 | 0.5465 | 0.4824 |
| 0.9744 | 3200 | 0.1847 | 0.1592 | 0.5933 | 0.5913 | 0.5766 | 0.5440 | 0.4808 |
| 1.0049 | 3300 | 0.224 | 0.1629 | 0.5906 | 0.5882 | 0.5746 | 0.5410 | 0.4816 |
| 1.0353 | 3400 | 0.3356 | 0.1624 | 0.5884 | 0.5870 | 0.5728 | 0.5412 | 0.4795 |
| 1.0658 | 3500 | 0.2286 | 0.1624 | 0.5891 | 0.5864 | 0.5750 | 0.5419 | 0.4799 |
| 1.0962 | 3600 | 0.2176 | 0.1591 | 0.5933 | 0.5896 | 0.5772 | 0.5429 | 0.4824 |
| 1.1267 | 3700 | 0.1376 | 0.1592 | 0.5923 | 0.5884 | 0.5733 | 0.5415 | 0.4814 |
| 1.1571 | 3800 | 0.1222 | 0.1593 | 0.5918 | 0.5895 | 0.5737 | 0.5423 | 0.4828 |
| 1.1876 | 3900 | 0.2303 | 0.1600 | 0.5919 | 0.5847 | 0.5722 | 0.5423 | 0.4827 |
| 1.2180 | 4000 | 0.1984 | 0.1590 | 0.5920 | 0.5867 | 0.5742 | 0.5437 | 0.4858 |
| 1.2485 | 4100 | 0.1488 | 0.1596 | 0.5910 | 0.5850 | 0.5734 | 0.5402 | 0.4867 |
| 1.2789 | 4200 | 0.188 | 0.1597 | 0.5903 | 0.5843 | 0.5727 | 0.5401 | 0.4839 |
| 1.3094 | 4300 | 0.1507 | 0.1572 | 0.5884 | 0.5836 | 0.5717 | 0.5401 | 0.4848 |
| 1.3398 | 4400 | 0.2171 | 0.1585 | 0.5874 | 0.5833 | 0.5707 | 0.5408 | 0.4832 |
| 1.3703 | 4500 | 0.1938 | 0.1584 | 0.5885 | 0.5836 | 0.5706 | 0.5400 | 0.4836 |
| 1.4007 | 4600 | 0.1793 | 0.1566 | 0.5875 | 0.5834 | 0.5720 | 0.5409 | 0.4813 |
| 1.4312 | 4700 | 0.2104 | 0.1557 | 0.5898 | 0.5844 | 0.5727 | 0.5423 | 0.4815 |
| 1.4616 | 4800 | 0.1473 | 0.1562 | 0.5889 | 0.5854 | 0.5705 | 0.5413 | 0.4830 |
| 1.4921 | 4900 | 0.2356 | 0.1559 | 0.5878 | 0.5836 | 0.5708 | 0.5415 | 0.4834 |
| 1.5225 | 5000 | 0.1418 | 0.1565 | 0.5861 | 0.5835 | 0.5688 | 0.5413 | 0.4819 |
| 1.5530 | 5100 | 0.176 | 0.1572 | 0.5865 | 0.5820 | 0.5686 | 0.5407 | 0.4824 |
| 1.5834 | 5200 | 0.1911 | 0.1574 | 0.5859 | 0.5825 | 0.5688 | 0.5420 | 0.4824 |
| 1.6139 | 5300 | 0.1382 | 0.1562 | 0.5870 | 0.5826 | 0.5697 | 0.5423 | 0.4841 |
| 1.6443 | 5400 | 0.1825 | 0.1528 | 0.5880 | 0.5851 | 0.5714 | 0.5433 | 0.4830 |
| 1.6748 | 5500 | 0.2709 | 0.1524 | 0.5897 | 0.5858 | 0.5716 | 0.5430 | 0.4831 |
| 1.7052 | 5600 | 0.1992 | 0.1523 | 0.5900 | 0.5859 | 0.5727 | 0.5435 | 0.4827 |
| 1.7357 | 5700 | 0.326 | 0.1506 | 0.5910 | 0.5873 | 0.5736 | 0.5456 | 0.4842 |
| 1.7661 | 5800 | 0.1698 | 0.1495 | 0.5907 | 0.5865 | 0.5739 | 0.5443 | 0.4842 |
| 1.7966 | 5900 | 0.2013 | 0.1489 | 0.5916 | 0.5889 | 0.5738 | 0.5457 | 0.4826 |
| 1.8270 | 6000 | 0.1371 | 0.1484 | 0.5912 | 0.5883 | 0.5739 | 0.5454 | 0.4840 |
| 1.8575 | 6100 | 0.1351 | 0.1483 | 0.5917 | 0.5886 | 0.5735 | 0.5456 | 0.4844 |
| 1.8879 | 6200 | 0.1678 | 0.1486 | 0.5925 | 0.5878 | 0.5733 | 0.5450 | 0.4840 |
| 1.9184 | 6300 | 0.1154 | 0.1483 | 0.5915 | 0.5874 | 0.5742 | 0.5461 | 0.4847 |
| 1.9488 | 6400 | 0.1576 | 0.1482 | 0.5913 | 0.5880 | 0.5743 | 0.5469 | 0.4833 |
| 1.9793 | 6500 | 0.1609 | 0.1478 | 0.5921 | 0.5880 | 0.5736 | 0.5466 | 0.4843 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{kusupati2024matryoshka,
title={Matryoshka Representation Learning},
author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
year={2024},
eprint={2205.13147},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->