indo-islamic-sentence-bert

Indonesia Islamic Sentence-BERT

This is a sentence-transformers model finetuned from firqaaa/indo-sentence-bert-large. It maps sentences & paragraphs to a 2048-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: firqaaa/indo-sentence-bert-large <!-- at revision 4fa0d9d8e3a1ebc2632f321da6c863f905188034 -->
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 2048 tokens
• Similarity Function: Cosine Similarity

<!-- - **Training Dataset:** Unknown -->

• Language: id
• License: apache-2.0

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("ramadita/indo-islamic-sentence-bert")
# Run inference
sentences = [
    'Manut Saja Deh …',
    'Berbuat Baik pada Siapa Pun',
    'Cara Bertaubat Dari Dosa Ghibah',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 2048]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

<!-- ### Direct Usage (Transformers) <details><summary>Click to see the direct usage in Transformers</summary> </details> --> <!-- ### Downstream Usage (Sentence Transformers) You can finetune this model on your own dataset. <details><summary>Click to expand</summary> </details> --> <!-- ### Out-of-Scope Use *List how the model may foreseeably be misused and address what users ought not to do with the model.* -->

Evaluation

Metrics

Triplet

• Dataset: dev-dataset
• Evaluated with <code>TripletEvaluator</code>

Triplet

• Dataset: test-dataset
• Evaluated with <code>TripletEvaluator</code>

<!-- ## Bias, Risks and Limitations *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.* --> <!-- ### Recommendations *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.* -->

Training Details

Training Dataset

Unnamed Dataset

• Size: 14,780 training samples
• Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	<ul><li>min: 4 tokens</li><li>mean: 10.44 tokens</li><li>max: 23 tokens</li></ul>	<ul><li>min: 28 tokens</li><li>mean: 168.63 tokens</li><li>max: 512 tokens</li></ul>	<ul><li>min: 33 tokens</li><li>mean: 200.24 tokens</li><li>max: 512 tokens</li></ul>

• Samples:

  anchor	positive	negative
  <code>Hukum Bersumpah dengan Agama selain Islam</code>	<code>Baca Juga: Sumpah Dusta untuk Melariskan Barang Dagangan Ucapan semacam ini termasuk dalam perkataan yang terlarang. Diriwayatkan dari sahabat Tsabit bin Adh-Dhahak radhiyallahu ‘anhu, Nabi shallallahu ‘alaihi wa sallam bersabda, “Barangsiapa bersumpah dengan agama selain Islam, maka dia seperti apa yang dia katakan.</code>	<code>Jawab: Ini adalah bersumpah dengan Nabi Shallallahu’alaihi Wasallam dan ini diharamkan, serta merupakan bentuk kesyirikan. Karena bersumpah dengan sesuatu itu berarti mengagungkan sesuatu yang dijadikan objek dalam sumpahnya. Dan makhluk tidak boleh mengagungkan sesama makhluk. Oleh karena itu Nabi Shallallahu’alaihi Wasallam bersabda: “barangsiapa bersumpah atas nama selain Allah, maka ia telah kafir atau berbuat syirik” . Hadits ini umum mencakup bersumpah atas nama para Nabi, atau para Malaikat, atau orang-orang shalih dan semua makhluk. Nabi Shallallahu’alaihi Wasallam juga bersabda: “barangsiapa yang bersumpah, maka bersumpahlah dengan nama Allah atau hendaknya ia diam” . Adapun yang ada di dalam Al Qur’an, yaitu ayat-ayat yang berupa sumpah dengan al mursalat , bersumpah dengan adz dzari’at , bersumpah dengan al fajr , dengan al ashr , dengan adh dhuha , dengan mawaqi’un nujum , dan yang lainnya ini semua adalah sumpah dari Allah Ta’ala. Dan Allah Ta’ala bebas untuk bersumpah dengan nama makhluk-Nya sesuai kehendak-Nya.</code>
  <code>Asuransi Kendaraan Selalu Rugi</code>	<code>Cucu dari unta tersebut tidak jelas diperoleh kapankah waktunya. Pembayarannya baru akan diberi setelah cucu unta tadi muncul dan tidak jelas waktunya. Bisa jadi pula unta tersebut tidak memiliki cucu. Itulah ghoror karena ujung akhirnya tidaklah jelas diperoleh.Secara umum memang Rasul shallallahu ‘alaihi wa sallam larang. Dari Abu Hurairah radhiyallahu ‘anhu, ia berkata, - - “Rasulullah shallallahu ‘alaihi wa sallam melarang dari jual beli hashoh dan melarang dari jual beli ghoror.” Inilah di antara alasan kenapa setiap beli kendaraan bermotor, penulis sendiri tidak pernah menambah biaya asuransi. Karena asuransi itu selalu merugi, rugi dunia, rugi akhirat karena terjatuh pada yang haram.Wa billahit taufiq was sadaad, hanya Allah yang memberi taufik dan petunjuk. * Tulisan di atas diambil dari buku penulis “Bermodalkan Ilmu Sebelum Berdagang” yang diterbitkan oleh Pustaka Muslim Yogyakarta.—Selesai disusun menjelang Shubuh di Darush Sholihin Panggang Gunungkidul, 13 Safar 1436 HYang selalu mengharapkan ampunan Allah: M. Abduh TuasikalSegera pesan buku Ustadz Muhammad Abduh Tuasikal yang membicarakan fikih jual beli dengan judul “Bermodalkan Ilmu Sebelum Berdagang” di Toko Online Ruwaifi.Com via sms +62 852 00 171 222 atau BB 27EACDF5 atau WA +62 8222 604 2114. Kirim format pesan: buku dagang#nama pemesan#alamat#no HP#jumlah buku. Harga Rp.30.000,- .Saat ini masjid pesantren binaan Ustadz M.</code>	<code>A menerima uang dari C dan meminta B untuk menyerahkan langsung motor ke C. Ini termasuk bai’ gharar karena motor tersebut bisa jadi lenyap dari B dan tidak bisa diserahterimakan kepada C.Dari Hakim bin Hizam radhiyallahu ‘anhu, ia berkata, : .“Wahai Rasulullah, saya sering melakukan jual beli, apa jual beli yang halal dan yang haram? Nabi shallallahu ‘alaihi wa sallam bersabda, ‘Wahai anak saudaraku! Bila engkau membeli sebuah barang janganlah engkau jual sebelum barang tersebut engkau terima.’” . Dari ‘Abdullah bin ‘Umar radhiyallahu ‘anhuma, ia berkata, – – “Rasulullah shallallahu ‘alaihi wa sallam melarang transaksi jual beli yang disebut dengan “habalul habalah”. Itu adalah jenis jual beli yang dilakoni masyarakat jahiliyah. “Habalul habalah” adalah transaksi jual beli yang bentuknya adalah: seorang yang membeli barang semisal unta secara tidak tunai. Jatuh tempo pembayarannya adalah ketika cucu dari seekor unta yang dimiliki oleh penjual lahir” .Cucu dari unta tersebut tidak jelas diperoleh kapankah waktunya. Pembayarannya baru akan diberi setelah cucu unta tadi muncul dan tidak jelas waktunya. Bisa jadi pula unta tersebut tidak memiliki cucu. Diambil dari Fathul Qarib, Al-Imta’ bi Syarh Matn Abu Syuja’, dan Tashilul Intifa’ bi Matan Abi Syuja’ wa Syai’ Mimma Tata’allaq bihi Min Dalil wa Ijma’, Harta Haram karya Gurunda Ustadz Erwandi Tarmizi.</code>
  <code>Sifat Shalat Nabi (27): Di Tasyahud Akhir, Berdoa Agar Rajin Berdzikir dan Bersyukur</code>	<code>Minhatul ‘Allam fii Syarh Bulughil Marom, Syaikh ‘Abdullah bin Shalih Al Fauzan, terbitan Dar Ibnul Jauzi, cetakan ketiga, tahun 1432 H, 3: 194-196.—Selesai disusun di Panggang, Gunungkidul, 16 Muharram 1436 HOleh Al Faqir Ilallah: M. Abduh Tuasikal, MScArtikel Rumaysho.ComIkuti status kami dengan memfollow FB Muhammad Abduh Tuasikal, Fans Page Mengenal Ajaran Islam Lebih Dekat, Twitter @RumayshoCom, Instagram RumayshoComSekarang sudah masuk musim hujan, segera pesan buku Ustadz Abduh Tuasikal mengenai fikih hujan dengan judul “Panduan Amal Shalih di Musim Hujan” di Toko Online Ruwaifi.Com via sms +62 852 00 171 222 atau BB 27EACDF5 atau WA +62 8222 604 2114. Kirim format pesan: buku hujan#nama pemesan#alamat#no HP#jumlah buku.</code>	<code>Referensi:Minhatul ‘Allam fii Syarhi Bulughil Marom, Syaikh ‘Abdullah bin Sholih Al Fauzan, terbitan Dar Ibnil Jauzi, cetakan pertama, tahun 1431 H, 9: 243, 255, 256.—Disusun selepas Ashar di Pesantren Darush Sholihin, Panggang, Gunungkidul, 13 Safar 1435 H, 03:59 PMOleh akhukum fillah: Muhammad Abduh TuasikalArtikel Rumaysho.ComIkuti status kami dengan memfollow FB Muhammad Abduh Tuasikal, Fans Page Mengenal Ajaran Islam Lebih Dekat, Twitter @RumayshoCom—Akan segera terbit buku terbaru karya Ustadz Muhammad Abduh Tuasikal, yaitu Buku Mengenal Bid’ah Lebih Dekat . Bagi yang ingin melakukan pre order, kirimkan format pemesanan via sms ke no 0852 0017 1222 atau via PIN BB 2AF1727A: Buku Bid’ah#Nama#Alamat#no HP.</code>

• Loss: <code>MultipleNegativesRankingLoss</code> with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 1,847 evaluation samples
• Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	<ul><li>min: 4 tokens</li><li>mean: 10.24 tokens</li><li>max: 30 tokens</li></ul>	<ul><li>min: 31 tokens</li><li>mean: 172.02 tokens</li><li>max: 444 tokens</li></ul>	<ul><li>min: 33 tokens</li><li>mean: 199.31 tokens</li><li>max: 429 tokens</li></ul>

• Samples:

  anchor	positive	negative
  <code>Prasangka Buruk Yang Dibolehkan</code>	<code>Adapun orang yang dikenal sering melakukan kefasikan dan maksiat, maka tidak mengapa kita berprasangka buruk kepadanya. Karena mereka memang gandrung dalam hal itu. Walaupun demikian, tidak selayaknya seorang Muslim itu mencari-cari dan menyelidiki keburukan orang lain. Karena sikap demikian kadang termasuk tajassus“. “orang yang memiliki permusuhan dan pertarungan dengan seseorang dalam masalah agama atau masalah dunia, yang hal tersebut mengancam keselamatan jiwanya, karena makar dari musuhnya. Maka ketika itu dianjurkan berprasangka buruk terhadap tipu daya dan makar musuh. Karena jika tidak, ia akan dikejutkan dengan tipu daya musuhnya sehingga bisa binasa” Baca Juga: Rincian Hukum Su’uzan Dari penjelasan di atas juga kita ketahui bahwa, perkataan salaf semisal: “Seorang mu’min itu mencari udzur terhadap saudaranya” Tidak berlaku bagi mu’min yang dikenal gemar dengan kemaksiatan atau kefasikan. Adapun Mu’min yang tidak dikenal dengan kemaksiatan dan kefasikan, maka haram dinodai kehormatannya dan haram bersuuzhan kepadanya. Dan inilah hukum asal seorang Mu’min. Terutama orang-orang Mu’min yang dikenal dengan kebaikan, maka hendaknya mencari lebih banyak alasan untuk berprasangka baik kepadanya. Bahkan, jika ia salah, hendaknya kita maafkan.</code>	<code>Walau kau katakan bahwa non muslim tersebut lebih baik, lebih amanat, lebih jujur, lebih bersih, lebih adil, dan menyebutkan rentetan kebaikan lainnya, namun Allah tetap mengatakan bahwa mereka adalah sejelek-jeleknya makhluk. Disebutkan dalam surat Al Bayyinah, non muslim itu syarrul bariyyah .Allah Ta’ala berfirman, “Sesungguhnya orang-orang yang kafir yakni ahli Kitab dan orang-orang yang musyrik ke neraka Jahannam; mereka kekal di dalamnya. Mereka itu adalah seburuk-buruk makhluk.” .Mengenai tempat orang kafir yaitu bagi ahli kitab dan non-muslim lainnya kelak adalah di neraka. Mereka akan kekal di dalamnya.Jika dikatakan mereka kekal di dalamnya, berarti mereka terus menerus di dalamnya dan tidak berpindah dari tempat tersebut.Mereka pun disebut sejelek-jeleknya makhluk yang Allah berlepas diri dari mereka.Syaikh Muhammad bin Shalih Al ‘Utsaimin rahimahullah berkata, “Ahli kitab serta orang-orang musyrik adalah sejelek-jelek makhluk di sisi Allah. Jika mereka adalah sejelek-jelek makhluk, maka berarti dipastikan pada mereka kejelekan. Karena yang dimaksud kejelekan di sini adalah nampak pada mereka kejelekan yang tidak mungkin kita berhusnuzhon pada mereka. Kecuali ada beberapa orang yang dipersaksikan langsung oleh Nabi shallallahu ‘alaihi wa sallam di antara orang musyrik seperti ‘Abdullah bin Ariqoth.</code>
  <code>Bahaya Syirik</code>	<code>Semoga Allah menyanjung dan memberi keselamatan untuknya, keluarganya dan semua shahabatnya. Terdapat banyak dalil dari al Qur’an dan sunah yang menunjukkan bahwa kemusyrikan itu ada dua macam yaitu besar dan kecil. Dua macam kemusyrikan ini berbeda pengertian dan konsekuensinya. Pengertian syirik besar adalah menyamakan selain Allah dengan Allah baik dalam rububiyyah, nama dan sifat ataupun dalam uluhiyyah. Siapa saja yang menyamakan selain Allah dengan Allah dalam salah satu hak khusus Allah maka dia telah menyekutukan Allah dengan syirik besar yang mengeluarkan palakunya dari agama Islam. Sedangkan syirik kecil adalah segala perbuatan yang dicap sebagai kemusyrikan oleh dalil, akan tetapi belum sampai derajat syirik besar. Contohnya adalah bersumpah dengan Allah, ucapan ‘sebagaimana kehendak Allah dan kehendakmu’, ‘seandainya tidak demikian tentu yang terjadi adalah demikian dan demikian’ dan ucapan-ucapan semisal yang mengandung kemusyrikan akan tetapi orang yang mengucapkannya tidak memaksudkannya. Sedangkan konsekuensi hukum dari dua macam kemusyrikan tersebut di Akherat tentu berbeda. Pelaku syirik besar itu kekal di dalam neraka selamanya, tidak mati tidak pula mendapatkan keringanan siksa. Sedangkan syirik kecil dampaknya tidak sampai seperti itu. Meski pada asalnya syirik kecil itu dosa besar yang paling besar sebagaimana perkataan sahabat, Abdullah bin Mas’ud. Beliau berkata, “Sungguh jika aku bersumpah dengan menyebut nama Allah sedangkan isi sumpahku adalah dusta itu lebih aku sukai dari pada aku bersumpah dengan selain nama Allah meskipun isi sumpahku adalah benar.” Bersumpah dengan selain nama Allah meski isi sumpahnya benar adalah kemusyrikan. Sedangkan bersumpah dengan nama Allah sedangkan isinya adalah dusta adalah melakukan dosa besar yaitu dusta. Dosa besar tidak bisa dibandingkan dengan kemusyrikan.</code>	<code>Pada pembahasan ini akan disebutkan macam-macam kekufuran berdasarkan penyebabnya. Ditinjau dari hukumnya, kekufuran dibagi menjadi kufur akbar dan asghar. Kufur akbar menyebabkan hilangnya iman secara keseluruhan dan pelakunya bukan lagi seorang mukmin. Kufur akbar dapat terjadi karena keyakinan, atau ucapan, atau perbuatan. Sedangkan kufur asghar akan meniadakan kesempurnaan iman, namun tidak menghilangkan iman secara total. Ini merupakan kekufuran amal, yaitu berupa semua maksiat yang dinamai oleh syariat sebagai perbuatan kekufuran, namun pelakunya masih dianggap mukmin. [1] Kufur jenis ini yaitu seperti kekufuran yang terjadi pada orang yang mengenal kebenaran Islam di dalam hatinya, namun dia mengingkari dan tidak mau mengakuinya. Perbedaan antara juhud dan takdzib yaitu bahwa makna takdzib lebih luas daripada juhud. Kufur juhud terjadi pada lisan, adapun takdzib bisa terdapat dalam hati, lisan, dan juga amal perbuatan. Perbedaan ini ditunjukkan dalam firman Allah, “Karena mereka sebenarnya bukan mendustakan kamu. Akan tetapi, orang-orang yang zalim itu mengingkari ayat-ayat Allah.“ Contoh kufur jenis ini adalah kufurnya Fir’aun dan orang-orang yang mengikutinya. Allah Ta’ala berfirman, “Dan mereka mengingkarinya karena kezaliman dan kesombongan padahal hati mereka meyakini nya. Maka, perhatikanlah bagaimana kesudahan orang-orang yang berbuat kebinasaan.“ Demikian pula kufur yang terjadi pada kaum Yahudi ketika mereka menentang kenabian Rasul kita Muhammad shallallahu ‘alaihi wasallam dan mereka menyembunyikan status kanabian beliau. Mereka menyembunyikan sifat kenabian yang terdapat dalam kitab mereka, meskipun mereka telah mengenal Nabi seperti mereka mengenal anak-anak mereka.</code>
  <code>Pendidikan Iman, Mata Pelajaran ‘Wajib’ dalam Dunia Pendidikan Tiap Harakah Islamiyah</code>	<code>Ia harus selalu ditempa sehingga tetap halus dan berkilau, harus selalu dijaga dalam kondisi sadar agar tidak menjadi tumpul dan keras.” Dari keterangan ini, kita menyadari akan pentingnya perhatian terhadap nafsu manusia dan selalu menempanya dengan pendidikan iman, amalan yang menyucikannya, dan selalu mengawasinya dari ujung pangkalnya, naik turunnya, sehat sakitnya, tinggi rendahnya, gelap terangnya, lembah buktinya, dan jauh dekatnya.</code>	<code>Dan berburuk sangkalah kepadamu dalam perkara agamamu. Perlakukan ia sebagaimana Anda memperlakukan orang yang tidak Anda butuhkan, tetapi harus tetap ada.”“Orang yang bijak akan membawa nafsunya kepada hal-hal yang tidak disukai hingga ia mengakui kebenaran. Sedangkan orang yang bodoh akan membiarkan nafsunya memilih sendiri apa akhlak yang diinginkannya, apa yang disukainya hingga ia pun ikut menyukainya, dan apa yang dibenci maka ia akan ikut membencinya.” Secarik kalimat menarik dari pengarang Tafsir Fi Dzilalil Quran, Sayyid Quthb rahimahullah,“Hati manusia itu cepat berubah-ubah dan cepat lupa. Ia berselimut cahaya yang meliputinya sehingga berkilau seperti sinar.</code>

• Loss: <code>MultipleNegativesRankingLoss</code> with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• gradient_accumulation_steps: 2
• num_train_epochs: 1
• warmup_ratio: 0.1
• fp16: True
• batch_sampler: no_duplicates

All Hyperparameters

<details><summary>Click to expand</summary>

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 8
• per_device_eval_batch_size: 8
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 2
• eval_accumulation_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 1
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: False
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional

</details>

Training Logs

Framework Versions

• Python: 3.10.13
• Sentence Transformers: 3.0.0
• Transformers: 4.41.2
• PyTorch: 2.2.0
• Accelerate: 0.30.1
• Datasets: 2.19.1
• Tokenizers: 0.19.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply}, 
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

<!-- ## Glossary *Clearly define terms in order to be accessible across audiences.* --> <!-- ## Model Card Authors *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.* --> <!-- ## Model Card Contact *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.* -->