klue-roberta-base-klue-sts-mrc

SentenceTransformer based on shangrilar/klue-roberta-base-klue-sts

This is a sentence-transformers model finetuned from shangrilar/klue-roberta-base-klue-sts. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: shangrilar/klue-roberta-base-klue-sts <!-- at revision 7198ee8bcb0a1028d0d8cb4e645fdccafdfa0d5c -->
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity

<!-- - **Training Dataset:** Unknown --> <!-- - **Language:** Unknown --> <!-- - **License:** Unknown -->

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'RobertaModel'})
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    '무제한 스트리밍 서비스를 제공할 예정인 기관은?',
    '온라인으로 바로 음악을 듣는 ‘스트리밍’ 서비스에 부과되는 저작권료 징수 방식이 오는 5월부터 정액제에서 종량제로 바뀐다.문화체육관광부는 오는 5월1일부터 스트리밍 서비스의 저작권 사용료를 현행 ‘가입자당 징수 방식’(무제한 정액제)에서 ‘이용 횟수당 징수 방식’(종량제)으로 전환한다고 18일 발표했다.현재 온라인 음악 사이트에서 월정액 요금으로 스트리밍을 제공하는 상품의 경우, 멜론·벅스뮤직 같은 서비스 사업자는 이용 횟수와 관계없이 가입자당 1800~2400원의 저작권 사용료를 권리단체(한국음악저작권협회, 한국음악실연자엽합회, 한국음원제작자협회)에 내야 한다. 이에 따라 저작자는 가입자당 300~400원 또는 매출액의 10%, 실연자는 가입자당 180~240원 또는 매출액의 6%, 제작자는 가입자당 1320~1760원 또는 매출액의 44%를 받고 있다. 하지만 5월부터는 월별 실제 이용 횟수에 따라 저작권 사용료를 권리단체에 내게 된다. 스트리밍 1회 이용당 저작권 사용료 단가는 3.6원이다. 문화부는 현재 시장에서 정상가로 통용되는 월정액 스트리밍 서비스 이용권 가격(6000원)과 가입자당 월평균 이용 횟수(1000회)를 고려해 책정했다고 설명했다.',
    '데이빗 A. 클라인스(David A. Clines)는 그의 책 《모세오경의 주제 The Themes of the Pentateuch》(1978)에서 모세오경을 지배하는 주제가 아브라함, 이사악, 야곱에 대한 하나님의 약속의 부분적 이행이라고 주장한다. 이 약속은 총 세가지로 다음과 같다. 첫째는 자손에 대한것으로, 아브라함에게 그의 자손이 하늘의 별들처럼 셀 수 없이 많아질것이라는 약속이다. 둘째는 하나님과 민족의 관계인데, 이미 이스라엘은 하나님의 백성으로 선택받은 적이 있다. 셋째로는 땅으로, 노아의 홍수 이후 얼마 지나지 않아 노아로부터 저주받은 땅인 가나안이 바로 그것이다.p=29\n\n하나님과 민족의 관계는 하나님이 내려준 법적 구속력이 있는 언약이 창세기에서부터 신명기 이후까지 뻗어나감으로서 발현되고, 성취된다. 첫 번째 언약은 대홍수 이후에 노아와 맺은 다시는 땅을 물로 심판하지 않겠다는 언약이었다. 그 다음으로 하나님은 아브라함과 언약을 맺었고, 세번째로는 이스라엘 민족과 시나이산에서 언약을 맺는다. 이 세번째 언약에서 이전과는 다르게 하나님은 이스라엘 민족이 지켜야하는 규율을 직접 내려주시는데, 출애굽기, 레위기, 민수기에 걸쳐서 등장한다. 이스라엘 민족은 언제나 여호와에 대한 믿음을 지킬 것을 명령받는다.p=28-29\n\n민수기에서 가장 먼저 등장하는 사건은 이스라엘의 동원 가능 인력을 계수한 것인데, 이로써 육십만명 이상의 민족을 통해 하늘의 별과같은 자손을 내려주겠다는 아브라함과의 언약이 성취된 것을 볼 수 있는것과 동시에, 하나님께서 가나안의 승리까지 같이 보장하신다.p=14 1장부터 10장까지 하나님은 이스라엘 대열의 맨 앞에서 이끄시며, 대열이 정지할 때에는 민족 한가운데에서 레위인과 제사장들이 관리하는 장막에 머무르시는 모습을 볼 수 있는데, 이는 약속의 땅을 정벌하기 위한 준비과정이다.p=38\n\n이스라엘 민족은 그리고 약속의 땅을 정벌하러 가는데, 그들 대부분이 이를 거부하자 하나님은 이집트를 떠난 모든 세대는 광야에서 죽음을 맞을 것이라고 심판하신다. 이 심판은 이 세대의 실패가 모든 것을 예견하시는 하나님의 도움 아래에서 완벽히 준비했음에도 불구하고, 이스라엘 민족이 저지른 불순종과 불신의 죄 때문임을 분명히 나타낸다. 민수기의 마지막 부분에서, 이스라엘 민족의 새로운 세대가 모세를 통한 여호와의 인도 아래 모든 작전이 성공하는 모습을 볼 수 있다.p=38 마지막 다섯 장은 약속의 땅에 대해 서술하고 있는데, 모든 가나안 민족을 멸망시킬 것과, 가나안 땅의 경계와, 어떻게 땅을 나누어야할지, 레위인의 거룩한 도시와 "도피성", 피로 오염된 땅의 문제와, 남성 상속자가 없을 경우의 상속 문제에 대해 명시하고 있다.p=62',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.5707, -0.0076],
#         [ 0.5707,  1.0000,  0.0089],
#         [-0.0076,  0.0089,  1.0000]])

<!-- ### Direct Usage (Transformers) <details><summary>Click to see the direct usage in Transformers</summary> </details> --> <!-- ### Downstream Usage (Sentence Transformers) You can finetune this model on your own dataset. <details><summary>Click to expand</summary> </details> --> <!-- ### Out-of-Scope Use *List how the model may foreseeably be misused and address what users ought not to do with the model.* -->

Evaluation

Metrics

Semantic Similarity

• Evaluated with <code>EmbeddingSimilarityEvaluator</code>

<!-- ## Bias, Risks and Limitations *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.* --> <!-- ### Recommendations *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.* -->

Training Details

Training Dataset

Unnamed Dataset

• Size: 17,552 training samples
• Columns: <code>sentence_0</code> and <code>sentence_1</code>
• Approximate statistics based on the first 1000 samples:

  	sentence_0	sentence_1
  type	string	string
  details	<ul><li>min: 8 tokens</li><li>mean: 17.55 tokens</li><li>max: 35 tokens</li></ul>	<ul><li>min: 244 tokens</li><li>mean: 436.56 tokens</li><li>max: 512 tokens</li></ul>

• Samples:

  sentence_0	sentence_1
  <code>브라질 시장은 확실히 살아났고 미국도 좋아지고 있다고 이야기한 사람은?</code>	<code>“시장이 정체라지만 지난해 삼성전자 TV는 목표를 달성했습니다. 올해는 초고화질(UHD) TV를 앞세워 두 자릿수 성장을 이뤄야죠.”삼성전자 TV사업을 이끌고 있는 김현석 삼성전자 영상디스플레이사업부장(부사장·사진)의 표정은 밝았다. 삼성전자는 작년 4분기에만 1500만대가 넘는 TV를 글로벌 시장에서 팔았다. 1초에 1.88대씩 판매한 것으로, 삼성전자 분기 실적으로는 사상 최대다. 시장조사업체들이 일제히 시장 수요 감소를 예상했지만 삼성은 이를 이겨내며 8년째 글로벌 1위를 질주 중이다. 덕분에 4분기 10조원이 넘는 매출을 달성한 영상디스플레이사업부 임직원은 연봉의 50%에 달하는 성과 인센티브를 받았다.올해는 2월 소치 동계올림픽과 6월 브라질 월드컵 등 대형 스포츠 이벤트가 있는 만큼 10%대 성장을 목표로 잡았다. 김 부사장은 “미국 시장은 확실히 살아났고 유럽도 좋아지고 있다”며 “관건은 미국 정부의 양적완화 축소에 영향을 받고 있는 신흥시장”이라고 말했다. 아르헨티나는 지난주에만 페소화 가치가 14% 이상 폭락했고 터키와 남아프리카공화국, 러시아 통화도 사상 최저치 수준으로 떨어지는 등 불안이 확산되고 있다. 김 부사장은 “신흥시장은 경제 불안으로 TV 수요 자체가 줄어드는 것도 있지만 환율 때문에 팔아도 적자가 난다는 게 더 큰 문제”라고 설명했다. 배로 옮기는 TV는 운송에 한두 달씩 걸려 그 사이 환율이 하락하면 손해를 보기 십상이다.삼성전자는 올해 UHD TV와 60인치 이상 프리미엄 제품에 집중할 계획이다. UHD TV는 일본 소니 등에 비해 늦었지만 작년 7월 글로벌 시장에 제품을 처음 출시한 뒤 몇 달 만에 전세를 역전시켰다. 시장조사업체 디스플레이서치에 따르면 삼성 UHD TV는 북미 시장에서 작년 12월 49.8%의 점유율(매출 기준)로 1위를 탈환했다. 유럽도 마찬가지다. 출시 3개월 만인 작년 10월 48.3%를 차지해 1위에 올랐다. 김 부사장은 OLED TV에 대해서는 “아직 값이 비싸 수요가 많지 않다”며 “소비자가 살 ...</code>
  <code>인권영화 <거룩한 분노>는 유럽 어느 나라의 주부들의 투표권 획득 과정을 담았는가?</code>	<code>매주 금요일 밤, 다채로운 영화로 시청자를 찾아가고 있는 TBS 무비컬렉션이 7월 첫 주 양성평등 주간(7월 1일 ~ 7일)을 맞아, 투표권을 얻기 위한 스위스 주부들의 투쟁을 담은 인권영화 <거룩한 분노>를 방송한다. 영화 <거룩한 분노>는 유럽에서 가장 늦게 여성 참정권이 인정된 1970년대 초 스위스를 배경으로 한 작품으로, 평범한 일상을 살아가던 주부 ‘노라’와 스위스 여성들이 주체적인 삶을 위해 가부장적인 관습을 깨고 앞으로 나아가는 과정을 재기발랄하게 그렸다. 이 작품은 개봉 당시 언론과 평단의 뜨거운 극찬이 이어졌던 작품으로, 제16회 트라이베카 필름 페스티벌, 제40회 밀 밸리 영화제 등 총 13개 국내외 영화제에서 여성 감독상을 수상했으며, 2018년 아카데미 영화제 최우수 외국어영화상 후보에 오른 바 있다. 평범한 여성들이 자신을 둘러싼 억압과 차별을 뚫고 원하는 것을 얻는 과정을 정치적 언어가 아닌 일상적 언어로 그려낸 점이 돋보이는 작품이다. 또한, 여성과 남성을 대결 구도로 그리지 않고 가정이라는 공동체를 꾸려나가기 위한 협력의 주체로 바라보고 있다는 점도 인상적이다. 영화의 시대적 배경인 1970년대 초는 미국을 필두로 학생운동, 흑인운동, 여성해방운동 등 세계적으로 변화의 바람이 불던 시기로, 유럽에서 가장 늦게 여성 참정권이 인정된 스위스에서 평범한 주부들의 거룩한 분노가 어떠한 변화를 낳았는지, 직접 눈으로 확인하길 바란다. TBS <무비 컬렉션>을 통해 방영되는 <거룩한 분노>는 3일(금) 밤 10시 TBS TV를 통해 방송된다. TBS TV는 IPTV(KT 214번, SK 167번, LG 245번), 케이블 TV(TBS 홈페이지 혹은 각 지역 케이블방송 문의)와 TBS 유튜브 계정, TBS 앱(스마트폰) 등에서 시청할 수 있다.</code>
  <code>띵동결제 시 언제부터 모바일 시루를 사용할 수 있나요?</code>	<code>허니비즈(대표 윤문진)는 서울시 ‘서울사랑상품권’에 이어, 경기도 시흥시와 지역화폐인 ‘모바일 시루’를 띵동의 결제 수단으로 적용하는 개발연동 업무협약을 체결했다고 14일 밝혔다. 시흥 시민들은 이르면 연내에 최대 10% 할인 구매한 시흥시 지역화폐 모바일 시루로 띵동에서 배달음식을 간편하게 저렴하게 주문할 수 있게 된다. 더불어 시흥시 소상공인들은 2%의 저렴한 주문 중개수수료만으로 배달음식을 고객에게 전하게 된다. 광고비나 입점비도 없다. 경기도가 추진하는 디지털SOC와는 별개의 사업이다. 이를 위해 허니비즈와 시흥시는 지난 13일 시흥시청 다슬방에서 업무협약식을 진행하고, 서비스 연동 개발에 돌입했다. 서비스 적용은 오는 11월이다. 이번 협약은 과도한 수수료 및 극심한 광고비 부담, 불법 리뷰, 배달비 할인 강요 등 기존 배달주문 시장의 폐단을 해소하고, 소상공인을 현실적으로 지원하기 위함이다. 이를 통해 맛과 서비스 질을 향상해 고객 만족을 되찾자는 의미로 민관이 협력한 것이다. 띵동은 시흥시 지역화폐 ‘모바일 시루’를 앱 결제수단으로 적용하는 대신, 중개 수수료 2%에 광고비, 입점비 없이 시흥시 음식점을 소비자와 연결하게 된다. ‘모바일 시루’는 시흥시에서 사용 가능한 모바일 지역화폐다. 시흥시민들은 연말까지 최대 10% 할인된 가격에 마련할 수 있다. ‘지역상품권 Chak’ 앱 설치 후, 지역을 시흥시로 설정해 구매하면 된다. 앞서 띵동은 서울시와 한국간편결제진흥원 등과 손잡고 ‘서울시 제로배달 유니온’ 협약을 체결했다. 그리고 서울사랑상품권을 결제수단으로 탑재하고, 2%의 저렴한 주문중개 수수료로 소상공인과 소비자를 잇고 있다. 지난 9월 16일 그랜드 오픈 후, 띵동의 1주차 주문 건수는 전주 대비 21%, 2주차는 44.2%로 수직 상승했다. 윤문진 허니비즈 대표는 “이번에 손 잡은 서울시, 시흥시를 비롯해 여러 지자체가 배달주문 중개 시장 문제에 공감하고, 해결을 위해 고심하고 있다"면서 "9년간의 배달앱 운영 노하우와 광고비 없는 저렴한...</code>

• Loss: <code>MultipleNegativesRankingLoss</code> with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• num_train_epochs: 1
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

<details><summary>Click to expand</summary>

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: no
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1
• num_train_epochs: 1
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.0
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• project: huggingface
• trackio_space_id: trackio
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: no
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: True
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: round_robin
• router_mapping: {}
• learning_rate_mapping: {}

</details>

Training Logs

Framework Versions

• Python: 3.12.12
• Sentence Transformers: 5.1.2
• Transformers: 4.57.1
• PyTorch: 2.8.0+cu126
• Accelerate: 1.11.0
• Datasets: 4.0.0
• Tokenizers: 0.22.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

<!-- ## Glossary *Clearly define terms in order to be accessible across audiences.* --> <!-- ## Model Card Authors *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.* --> <!-- ## Model Card Contact *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.* -->