gte-multilingual-reranker-base-contrastive-parl-4-3ep

CrossEncoder based on Alibaba-NLP/gte-multilingual-reranker-base

This is a Cross Encoder model finetuned from Alibaba-NLP/gte-multilingual-reranker-base using the sentence-transformers library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.

Model Details

Model Description

• Model Type: Cross Encoder
• Base model: Alibaba-NLP/gte-multilingual-reranker-base <!-- at revision 8215cf04918ba6f7b6a62bb44238ce2953d8831c -->
• Maximum Sequence Length: 8192 tokens
• Number of Output Labels: 1 label

<!-- - **Training Dataset:** Unknown --> <!-- - **Language:** Unknown --> <!-- - **License:** Unknown -->

Model Sources

• Documentation: Sentence Transformers Documentation
• Documentation: Cross Encoder Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Cross Encoders on Hugging Face

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import CrossEncoder

# Download from the 🤗 Hub
model = CrossEncoder("cuadron11/gte-multilingual-reranker-base-contrastive-parl-4-3ep")
# Get scores for pairs of texts
pairs = [
    ['Zer iritzi dute zerbitzu juridikoek Garoñako zentral nuklearraren berrirekitzearen inguruan?', '[TOPIC: Lehenbailehen eztabaidatzeko EH Bildu talde parlamentarioak egindako legez besteko proposamena, Garoñako zentral nuklearraren berrirekitzea ahalbidetzen duen CSNren ebazpenaren eta zentzu horretan etor daitezkeen Energia Ministerioaren erabaki eta aginduen aurrean helegitea ipintzeko beharrari buruz. Eztabaida eta behin betiko ebazpena]\n[ROJO SOLANA, (SV-ES)]:\nzerbitzu juridikoei, eta hori esaten du txosten juridikoak. Horrenbestez, arrazoi horregatik –hori uste dut– azaldu zuen Bilduk ekimen hau. Egia da puntu horietako bik proposatzen dituzten jarrera politikoak gutako bakoitzak jada planteatu ditugula Ganbera honetan, baina egia da Legebiltzarraren jarrera hartzeari dagokion puntua, bada, zerbait berria dela, zerbitzu juridikoen iritzia behar baikenuen. Beraz, esaten ari nintzen bezala, kontua ez da gaur eztabaida berriro irekitzea. Denok dakigu jarrera zein den. Baina (Date: 06.04.2017)'],
    ['Noiz amaitu zen epea Eusko Jaurlaritzak erakunde, kapital-elkarte edo kapitalik ez duten erakundeei hitzarmena sinatzea proposatzeko?', '[TOPIC: Galdera, Antonio Damborenea Basterrechea Euskal Talde Popularreko legebiltzarkideak Ogasun eta Finantzetako sailburuari egina, euskal sektore publikoaren partaidetza duten erakundeen erregimen ekonomikofinantzarioa adosteko beste administrazio batzuekin hitzarmenak egiteari buruz]\n[OGASUN ETA FINANTZETAKO SAILBURUAK (GATZAGAETXEBARRIA BASTIDA), (EA-NV)]:\npartaidetza handiena publikoa duten fundazio eta partzuergoentzat, eta, kapital-elkarteak izan gabe eta administrazioen mende dauden erakundeak izan gabe, gehienbat administrazio publikoek finantzatzen dituzten erakundeentzat. Esan duzunez, kasu horietan araubide ekonomiko-finantzarioa zehaztu behar zen, eta urtebeteko epea ezartzen zen Jaurlaritzak erakunde, kapital-elkarte edo kapitalik ez duten erakunde horiei hitzarmen bat sinatzea proposatzeko, betiere araubide ekonomiko-finantzarioa zehaztu gabe bazegoen. Bada, urtebeteko epea martxoaren 13an bete zen. Guk ez (Date: 10.05.2013)'],
    ['Zein da EH Bilduk unibertsitate-ikasketa ofizialen arauketari buruz duen iritzia?', '[TOPIC: Euskal Sozialistak legebiltzar-taldeak egindako legez besteko proposamena, unibertsitate-ikasketa ofizialen arauketa aldatzen duen 43/2015 Errege Dekretuari buruz. Eztabaida eta behin betiko ebazpena]\n[ISASI BALANZATEGI, (EH Bildu)]:\ndela, oso gutxi aldatu izan dela eta Europako ereduen artean, hegoaldeko unibertsitateen artean, beharbada bere barne-funtzionamenduari begira atzerakoiena. Gu ez gatoz bat. Ez gatoz bat Estatuaren monopolioa izatea unibertsitatea gaur egun. Hori aldatu egin behar da. Sailburu anderea, ondo ezagutzen duzu unibertsitatea. Eta guk eskumenak eskatzea ez da bakarrik independentistak garelako, ez, unibertsitate modernoa nahi dugulako, malguagoa. Gaur egun titulazioak egitea Espainiako unibertsitatean sufrikario bat da, sufrikario bat da (Date: 16.04.2015)'],
    ['Zergatik ez du Eusko Jaurlaritzak Hirikoren sustatzaileen aurkako kereilan ustezko eragindako gisa barnean sartu nahi?', '[TOPIC: Mozioa, Gorka Maneiro Labayen Mistoa-UPyD taldeko legebiltzarkideak aurkeztua, Hirikoren sustatzaileen aurkako kereila dela-eta hartuko dituen neurriei buruz. Eztabaida eta behin betiko ebazpena]\n[REYES MARTÍN, (SV-ES)]:\niruzurra eginez erabiltzeaz… Orduan, zer arazo du Eusko Jaurlaritzak barnean sartzeko, inor salatu gabe, ustezko eragindako gisa? Batere ez. Gure ustez, gaur funts publikoen erabileraren defentsan funts publikoak egoki erabiltzea defendatzeko proposamen bat sinatzen dugunok ez dugu zertan azalpenik eman fiskalak argitaratu duenaren gainean. Aitzitik, Jaurlaritzak azaldu behar du zertan ari den. Eskerrik asko. La (Date: 16.04.2015)'],
    ['Zein neurri hartuko ditu Eusko Jaurlaritzak azken asteotan iragarritako industria-enpresen itxierak saihesteko?', '[TOPIC: Galdera, Iker Casanova Alonso EH Bildu taldeko legebiltzarkideak Ekonomiaren Garapen eta Lehiakortasuneko sailburuari egina, beren itxiera iragarri duten hainbat industria-enpresaren egoerari buruz]\n[CASANOVA ALONSO, (EH Bildu)]:\nEskerrik asko, eta egun on guztioi. Azken asteotan hainbat enpresa- ren itxieraren iragarpena ezagutu dugu. Itxierarekin batera, lanpostuen galera eta pertsona askoren etorkizun ekonomiko, laboral eta pertsonala kolokan gelditzen da. Baltogar, Mungian, 49 langile. Arkema, Alonsotegi, 60 langile. Cablenor, Gasteiz, 140 langile. Candy, Bergara, 150 langile. Ia 400 langile guztira. Hauek dira krisiaren azken biktimak, arlo industrialean behintzat. Egia da beste sektoretan ere lanpostuak galtzen ari direla azken urteotan, baina enpresa industrialen itxierak, afektatzen duten langilekopuruagatik, bereziki deigarri eta mingarri egiten zaizkigu. Uste dugu Eusko Jaurlaritzaren papera aktiboagoa izan behar dela gure enpresen defentsan, edozein itxieraren aurrean lubakian egon behar duela, lubakian, dena ematen langileekin, langile eta gure enpresen interesak defendatzen. Ikusi nahi dugu Eusko Jaurlaritza enpresen itxierari, mugimendu espekulatiboei eta deslokalizazioei aurre egiten dauzkan tresna guztiekin. Guk ez dugu horrela ikusten, eta jakin izan dugunez, kaltetutako enpresa gehienen langileek ere ez. Honegatik guztiagatik, galdetzen diogu Eusko Jaurlaritzari: azken aste hauetan iragarritako industria enpresen itxieraren aurrean, Baltogar, Arkema, Candy, Cablenor besteak beste, Eusko Jaurlaritzak enpleguaren eta enpresa hauen defentsan neurri proaktiboak hartzeko asmoa du? Eskerrik asko. (Date: 14.11.2014)'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

# Or rank different texts based on similarity to a single text
ranks = model.rank(
    'Zer iritzi dute zerbitzu juridikoek Garoñako zentral nuklearraren berrirekitzearen inguruan?',
    [
        '[TOPIC: Lehenbailehen eztabaidatzeko EH Bildu talde parlamentarioak egindako legez besteko proposamena, Garoñako zentral nuklearraren berrirekitzea ahalbidetzen duen CSNren ebazpenaren eta zentzu horretan etor daitezkeen Energia Ministerioaren erabaki eta aginduen aurrean helegitea ipintzeko beharrari buruz. Eztabaida eta behin betiko ebazpena]\n[ROJO SOLANA, (SV-ES)]:\nzerbitzu juridikoei, eta hori esaten du txosten juridikoak. Horrenbestez, arrazoi horregatik –hori uste dut– azaldu zuen Bilduk ekimen hau. Egia da puntu horietako bik proposatzen dituzten jarrera politikoak gutako bakoitzak jada planteatu ditugula Ganbera honetan, baina egia da Legebiltzarraren jarrera hartzeari dagokion puntua, bada, zerbait berria dela, zerbitzu juridikoen iritzia behar baikenuen. Beraz, esaten ari nintzen bezala, kontua ez da gaur eztabaida berriro irekitzea. Denok dakigu jarrera zein den. Baina (Date: 06.04.2017)',
        '[TOPIC: Galdera, Antonio Damborenea Basterrechea Euskal Talde Popularreko legebiltzarkideak Ogasun eta Finantzetako sailburuari egina, euskal sektore publikoaren partaidetza duten erakundeen erregimen ekonomikofinantzarioa adosteko beste administrazio batzuekin hitzarmenak egiteari buruz]\n[OGASUN ETA FINANTZETAKO SAILBURUAK (GATZAGAETXEBARRIA BASTIDA), (EA-NV)]:\npartaidetza handiena publikoa duten fundazio eta partzuergoentzat, eta, kapital-elkarteak izan gabe eta administrazioen mende dauden erakundeak izan gabe, gehienbat administrazio publikoek finantzatzen dituzten erakundeentzat. Esan duzunez, kasu horietan araubide ekonomiko-finantzarioa zehaztu behar zen, eta urtebeteko epea ezartzen zen Jaurlaritzak erakunde, kapital-elkarte edo kapitalik ez duten erakunde horiei hitzarmen bat sinatzea proposatzeko, betiere araubide ekonomiko-finantzarioa zehaztu gabe bazegoen. Bada, urtebeteko epea martxoaren 13an bete zen. Guk ez (Date: 10.05.2013)',
        '[TOPIC: Euskal Sozialistak legebiltzar-taldeak egindako legez besteko proposamena, unibertsitate-ikasketa ofizialen arauketa aldatzen duen 43/2015 Errege Dekretuari buruz. Eztabaida eta behin betiko ebazpena]\n[ISASI BALANZATEGI, (EH Bildu)]:\ndela, oso gutxi aldatu izan dela eta Europako ereduen artean, hegoaldeko unibertsitateen artean, beharbada bere barne-funtzionamenduari begira atzerakoiena. Gu ez gatoz bat. Ez gatoz bat Estatuaren monopolioa izatea unibertsitatea gaur egun. Hori aldatu egin behar da. Sailburu anderea, ondo ezagutzen duzu unibertsitatea. Eta guk eskumenak eskatzea ez da bakarrik independentistak garelako, ez, unibertsitate modernoa nahi dugulako, malguagoa. Gaur egun titulazioak egitea Espainiako unibertsitatean sufrikario bat da, sufrikario bat da (Date: 16.04.2015)',
        '[TOPIC: Mozioa, Gorka Maneiro Labayen Mistoa-UPyD taldeko legebiltzarkideak aurkeztua, Hirikoren sustatzaileen aurkako kereila dela-eta hartuko dituen neurriei buruz. Eztabaida eta behin betiko ebazpena]\n[REYES MARTÍN, (SV-ES)]:\niruzurra eginez erabiltzeaz… Orduan, zer arazo du Eusko Jaurlaritzak barnean sartzeko, inor salatu gabe, ustezko eragindako gisa? Batere ez. Gure ustez, gaur funts publikoen erabileraren defentsan funts publikoak egoki erabiltzea defendatzeko proposamen bat sinatzen dugunok ez dugu zertan azalpenik eman fiskalak argitaratu duenaren gainean. Aitzitik, Jaurlaritzak azaldu behar du zertan ari den. Eskerrik asko. La (Date: 16.04.2015)',
        '[TOPIC: Galdera, Iker Casanova Alonso EH Bildu taldeko legebiltzarkideak Ekonomiaren Garapen eta Lehiakortasuneko sailburuari egina, beren itxiera iragarri duten hainbat industria-enpresaren egoerari buruz]\n[CASANOVA ALONSO, (EH Bildu)]:\nEskerrik asko, eta egun on guztioi. Azken asteotan hainbat enpresa- ren itxieraren iragarpena ezagutu dugu. Itxierarekin batera, lanpostuen galera eta pertsona askoren etorkizun ekonomiko, laboral eta pertsonala kolokan gelditzen da. Baltogar, Mungian, 49 langile. Arkema, Alonsotegi, 60 langile. Cablenor, Gasteiz, 140 langile. Candy, Bergara, 150 langile. Ia 400 langile guztira. Hauek dira krisiaren azken biktimak, arlo industrialean behintzat. Egia da beste sektoretan ere lanpostuak galtzen ari direla azken urteotan, baina enpresa industrialen itxierak, afektatzen duten langilekopuruagatik, bereziki deigarri eta mingarri egiten zaizkigu. Uste dugu Eusko Jaurlaritzaren papera aktiboagoa izan behar dela gure enpresen defentsan, edozein itxieraren aurrean lubakian egon behar duela, lubakian, dena ematen langileekin, langile eta gure enpresen interesak defendatzen. Ikusi nahi dugu Eusko Jaurlaritza enpresen itxierari, mugimendu espekulatiboei eta deslokalizazioei aurre egiten dauzkan tresna guztiekin. Guk ez dugu horrela ikusten, eta jakin izan dugunez, kaltetutako enpresa gehienen langileek ere ez. Honegatik guztiagatik, galdetzen diogu Eusko Jaurlaritzari: azken aste hauetan iragarritako industria enpresen itxieraren aurrean, Baltogar, Arkema, Candy, Cablenor besteak beste, Eusko Jaurlaritzak enpleguaren eta enpresa hauen defentsan neurri proaktiboak hartzeko asmoa du? Eskerrik asko. (Date: 14.11.2014)',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

<!-- ### Direct Usage (Transformers) <details><summary>Click to see the direct usage in Transformers</summary> </details> --> <!-- ### Downstream Usage (Sentence Transformers) You can finetune this model on your own dataset. <details><summary>Click to expand</summary> </details> --> <!-- ### Out-of-Scope Use *List how the model may foreseeably be misused and address what users ought not to do with the model.* -->

Evaluation

Metrics

Cross Encoder Reranking

• Dataset: gte-multilingual-reranker-base-contrastive-parl-4-3ep
• Evaluated with <code>CrossEncoderRerankingEvaluator</code> with these parameters:

  {
      "at_k": 10,
      "always_rerank_positives": false
  }
  

<!-- ## Bias, Risks and Limitations *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.* --> <!-- ### Recommendations *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.* -->

Training Details

Training Dataset

Unnamed Dataset

• Size: 3,200 training samples
• Columns: <code>query</code> and <code>positive</code>
• Approximate statistics based on the first 1000 samples:

  	query	positive
  type	string	string
  details	<ul><li>min: 30 characters</li><li>mean: 98.98 characters</li><li>max: 202 characters</li></ul>	<ul><li>min: 562 characters</li><li>mean: 982.5 characters</li><li>max: 2102 characters</li></ul>

• Samples:

  query	positive
  <code>Zenbat lokal huts ditu Enplegu, Etxebizitza eta Gizarte Politiketako Sailak?</code>	<code>[TOPIC: Euskal Sozialistak legebiltzar-taldeak egindako legez besteko proposamena, EAEko Administrazio publikoak okupaziorik gabe dauzkan lonja eta lokal komertzialak ekintzailetza eta autoenplegu proiektuetarako erabiltzeari buruz. Eztabaida eta behin betiko ebazpena]<br>[ITXASO GONZÁLEZ, (SV-ES)]:<br>Eskerrik asko, lehendakari andrea. Egun on guztioi. Buenos días, señor lehendakari. Sozialistok, proposamenak egiteko dugun tradizioari jarraikiz, beste ekimen bat dugu gaur goizerako. Ekimen horren bidez, proposatzen dugu Enplegu, Etxebizitza eta Gizarte Politiketako Sailaren esku dauden lokal hutsak –gure taldeari emandako erantzunaren arabera, 131 lokal inguru izango lirateke–... gure ekimenean proposatzen dugu hamabi hilabete baino gehiago hutsik dauden lokalak ekintzailetzaproiektuetarako erabiltzea. Inolako baliabiderik izan gabe ekintzailetzaproiektu batekin amestu duen orok, badaki behar erabakigarrienetariko bat enpresa-proiektua edo ekintzailetasun-proiektu hori gauzatzeko toki bat e...</code>
  <code>Zein neurri hartu dira Eusko Legebiltzarrean euskal merkataritza txikia suspertzeko?</code>	<code>[TOPIC: EH Bildu talde parlamentarioak egindako legez besteko proposamena, euskal merkataritza txikia suspertzeko larrialdiko neurri bereziak hartzeari buruz. Eztabaida eta behin betiko ebazpena]<br>[LÓPEZ DE OCARIZ LÓPEZ DE MUNAIN, (PV-ETP)]:<br>Bai, eskerrik asko, presidente andrea. Baimena ematen badidazu, eserlekutik arituko naiz, uste baitut, guztiok jada esan dugun bezala, eztabaida monografiko bat izango dugula, eta eztabaida horretan sakonduko dugu merkataritzari laguntzeko politiketan. Baina, Casanova jauna, aurrekontuaz hitz egin didazu. Begira, guk ekitaldi guztietan aurkezten dizkiegu zuzenketak aurrekontuei, urtero: batzuetan gehitu egin ditzakegu eta beste batzuetan ez, baina hor ez dugu inoiz hutsik egin, eta denbora asko daramagu txikizkako merkataritzaren aldeko apustua egiten. Herri-erabakiaz hitz egin diguzu. Zerbaitek ekarri badu establezimendu eta enpresa txiki batzuk ixtea, eta merkataritzak kalte handia jasatea, izan da lanbidearteko gutxieneko soldata % 22 igotzea; ho...</code>
  <code>Zenbat diru bideratzen da gaur egun kontziliazio eta erantzunkidetasun politiketara?</code>	<code>[TOPIC: EH Bildu talde parlamentarioak egindako legez besteko proposamena, kontziliazio eta erantzunkidetasun politika berriak zehaztuko dituen lau urterako plan berezitu bat Legebiltzarrera ekartzeari buruz. Eztabaida eta behin betiko ebazpena]<br>[URRUTIA OIANGUREN, (EA-NV)]:<br>Urkullu jaunak egin ahal izan zuen hauteskunde-promesa hartako zuzkidura ekonomiko hura... Begira, egungo planak 1.700 milioiko zuzkidura du –eskueran ditugun datuen arabera–, 1.700 milioikoa, erakundearteko plan batean; horietatik, Gobernu honetako Gizarte Politiketako Sailari 1.200 milioi dagozkio, eta horietatik, 286 milioi bideratzen dira gaur hizpide dugun gai honetara. Alegia, seguruenera, litekeena balitz ere denbora-epeak bete ez izana, horren gainetik, hala izanda ere, nik uste dut esku artean dugun planarekin... La (Date: 06.06.2019)</code>

• Loss: <code>CachedMultipleNegativesRankingLoss</code> with these parameters:

  {
      "scale": 10.0,
      "num_negatives": null,
      "activation_fn": "torch.nn.modules.activation.Sigmoid",
      "mini_batch_size": 16
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 800 evaluation samples
• Columns: <code>query</code> and <code>positive</code>
• Approximate statistics based on the first 800 samples:

  	query	positive
  type	string	string
  details	<ul><li>min: 31 characters</li><li>mean: 99.44 characters</li><li>max: 253 characters</li></ul>	<ul><li>min: 500 characters</li><li>mean: 967.21 characters</li><li>max: 2113 characters</li></ul>

• Samples:

  query	positive
  <code>Zer iritzi dute zerbitzu juridikoek Garoñako zentral nuklearraren berrirekitzearen inguruan?</code>	<code>[TOPIC: Lehenbailehen eztabaidatzeko EH Bildu talde parlamentarioak egindako legez besteko proposamena, Garoñako zentral nuklearraren berrirekitzea ahalbidetzen duen CSNren ebazpenaren eta zentzu horretan etor daitezkeen Energia Ministerioaren erabaki eta aginduen aurrean helegitea ipintzeko beharrari buruz. Eztabaida eta behin betiko ebazpena]<br>[ROJO SOLANA, (SV-ES)]:<br>zerbitzu juridikoei, eta hori esaten du txosten juridikoak. Horrenbestez, arrazoi horregatik –hori uste dut– azaldu zuen Bilduk ekimen hau. Egia da puntu horietako bik proposatzen dituzten jarrera politikoak gutako bakoitzak jada planteatu ditugula Ganbera honetan, baina egia da Legebiltzarraren jarrera hartzeari dagokion puntua, bada, zerbait berria dela, zerbitzu juridikoen iritzia behar baikenuen. Beraz, esaten ari nintzen bezala, kontua ez da gaur eztabaida berriro irekitzea. Denok dakigu jarrera zein den. Baina (Date: 06.04.2017)</code>
  <code>Noiz amaitu zen epea Eusko Jaurlaritzak erakunde, kapital-elkarte edo kapitalik ez duten erakundeei hitzarmena sinatzea proposatzeko?</code>	<code>[TOPIC: Galdera, Antonio Damborenea Basterrechea Euskal Talde Popularreko legebiltzarkideak Ogasun eta Finantzetako sailburuari egina, euskal sektore publikoaren partaidetza duten erakundeen erregimen ekonomikofinantzarioa adosteko beste administrazio batzuekin hitzarmenak egiteari buruz]<br>[OGASUN ETA FINANTZETAKO SAILBURUAK (GATZAGAETXEBARRIA BASTIDA), (EA-NV)]:<br>partaidetza handiena publikoa duten fundazio eta partzuergoentzat, eta, kapital-elkarteak izan gabe eta administrazioen mende dauden erakundeak izan gabe, gehienbat administrazio publikoek finantzatzen dituzten erakundeentzat. Esan duzunez, kasu horietan araubide ekonomiko-finantzarioa zehaztu behar zen, eta urtebeteko epea ezartzen zen Jaurlaritzak erakunde, kapital-elkarte edo kapitalik ez duten erakunde horiei hitzarmen bat sinatzea proposatzeko, betiere araubide ekonomiko-finantzarioa zehaztu gabe bazegoen. Bada, urtebeteko epea martxoaren 13an bete zen. Guk ez (Date: 10.05.2013)</code>
  <code>Zein da EH Bilduk unibertsitate-ikasketa ofizialen arauketari buruz duen iritzia?</code>	<code>[TOPIC: Euskal Sozialistak legebiltzar-taldeak egindako legez besteko proposamena, unibertsitate-ikasketa ofizialen arauketa aldatzen duen 43/2015 Errege Dekretuari buruz. Eztabaida eta behin betiko ebazpena]<br>[ISASI BALANZATEGI, (EH Bildu)]:<br>dela, oso gutxi aldatu izan dela eta Europako ereduen artean, hegoaldeko unibertsitateen artean, beharbada bere barne-funtzionamenduari begira atzerakoiena. Gu ez gatoz bat. Ez gatoz bat Estatuaren monopolioa izatea unibertsitatea gaur egun. Hori aldatu egin behar da. Sailburu anderea, ondo ezagutzen duzu unibertsitatea. Eta guk eskumenak eskatzea ez da bakarrik independentistak garelako, ez, unibertsitate modernoa nahi dugulako, malguagoa. Gaur egun titulazioak egitea Espainiako unibertsitatean sufrikario bat da, sufrikario bat da (Date: 16.04.2015)</code>

• Loss: <code>CachedMultipleNegativesRankingLoss</code> with these parameters:

  {
      "scale": 10.0,
      "num_negatives": null,
      "activation_fn": "torch.nn.modules.activation.Sigmoid",
      "mini_batch_size": 16
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 2e-05
• num_train_epochs: 1
• warmup_ratio: 0.1
• load_best_model_at_end: True
• batch_sampler: no_duplicates

All Hyperparameters

<details><summary>Click to expand</summary>

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 1
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: True
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

</details>

Training Logs

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.9.7
• Sentence Transformers: 5.0.0
• Transformers: 4.56.0
• PyTorch: 2.7.1+cu126
• Accelerate: 1.5.2
• Datasets: 4.0.0
• Tokenizers: 0.22.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

<!-- ## Glossary *Clearly define terms in order to be accessible across audiences.* --> <!-- ## Model Card Authors *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.* --> <!-- ## Model Card Contact *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.* -->