Downloads · 30 days
77
20% of all-time downloads
gimhae-geunamja/bge-reranker-v2-m3-ko-public-admin
bge-reranker-v2-m3-ko-public-admin is a text ranking model from gimhae-geunamja. Use it for the text ranking task on the model card, and read the license before you ship it in a product. It is set up for sentence-transformers. The card lists the license as apache-2.0.
한국 지자체 행정 문서·행정법 도메인 검색 결과 재정렬(reranking)에 특화되도록 dragonkue/bge-reranker-v2-m3-ko 를 파인튜닝한 한국어 리랭커(Cross-Encoder) 모델입니다.
Downloads · 30 days
77
20% of all-time downloads
All-time downloads
381
Public
Parameters
568M
1.2 GB on disk
Likes
1
Public
Click a slice to open those files.
.safetensors1.1 GB · 99%
From the Hugging Face model README
한국 지자체 행정 문서·행정법 도메인 검색 결과 재정렬(reranking)에 특화되도록 dragonkue/bge-reranker-v2-m3-ko 를 파인튜닝한 한국어 리랭커(Cross-Encoder) 모델입니다.
dragonkue/bge-reranker-v2-m3-ko (Apache-2.0) → BAAI/bge-reranker-v2-m3 계열본 모델은 베이스 모델의 라이선스를 승계하여 Apache-2.0 으로 배포합니다. 학습에 사용된 AI Hub 데이터의 이용조건(아래 "학습 데이터 및 출처표기" 참고)도 함께 준수해야 합니다.
본 모델은 과학기술정보통신부의 재원으로 한국지능정보사회진흥원(NIA) 의 지원을 받아 구축된 아래 AI Hub 개방데이터를 활용하여 학습되었습니다.
본 학습에 활용된 데이터는 AI 허브(aihub.or.kr)에서 다운로드할 수 있습니다. 이 데이터의 저작권 및 이용조건은 한국지능정보사회진흥원 및 각 수행기관에 있으며, 원본 데이터 자체의 재배포는 금지됩니다. 본 저장소는 학습된 모델 가중치만 배포하며 원본 데이터는 포함하지 않습니다.
학습 쌍 구성 (총 약 746,821개, 이 중 5%를 평가용으로 분리):
참고: 행정법 데이터의 negative는 무작위 샘플링으로 구성되어 hard negative 대비 난이도가 낮습니다. 재현·개선 시 이 점을 고려하세요.
from sentence_transformers import CrossEncoder
model = CrossEncoder("gimhae-geunamja/bge-reranker-v2-m3-ko-public-admin", max_length=1024)
query = "출산 지원금 신청은 어디서 하나요?"
candidates = [
"출산 지원금은 관할 읍·면·동 행정복지센터에서 신청할 수 있습니다.",
"주민등록등본은 정부24에서 온라인 발급이 가능합니다.",
]
pairs = [[query, c] for c in candidates]
scores = model.predict(pairs)
print(scores) # 관련도 점수가 높은 순으로 재정렬
| 항목 | 값 |
|---|---|
| 손실 함수 | BinaryCrossEntropyLoss |
| num_labels | 1 |
| Epoch | 2 |
| max_length | 1024 |
| 물리 배치 / GPU | 8 |
| Gradient Accumulation | 4 |
| 글로벌 배치 | 64 (8 × 2 GPU × 4) |
| Learning rate | 2e-5 |
| Precision | bf16 |
| 하드웨어 | RTX 5090 × 2 (DDP) |
dragonkue/bge-reranker-v2-m3-ko, BAAI/bge-reranker-v2-m3지자체 실운영 환경의 비공개 평가셋 2종(완성 의문문형 97건 / 실사용 키워드형 71건, 정답 문서·페이지 라벨)에서 하이브리드 검색 후보 풀 재정렬 성능을 측정한 결과입니다. 수치는 해당 코퍼스·후보 구성에 종속적이므로 절대값보다 경향을 참고하십시오.
| 질의 스타일 | 베이스 R@1 | 본 모델 R@1 |
|---|---|---|
| 완성 의문문 ("~은 어떻게 되나요?") | 0.814 | 0.804 |
| 짧은 키워드 (실사용형, 조사·어미 없음) | 0.310 | 0.380 |
activation_fn=torch.nn.Identity()).동일 베이스·동일 데이터에서 아래 변형들을 실측했으나 모두 원 레시피(의문문 질의 + 랜덤 네거티브 1:1, 2 epochs)보다 나빴습니다. "내용이 서로 겹치는 문서가 많은 코퍼스 + 정보량이 적은 키워드 질의" 환경 기준이며, 같은 시도를 검토하는 분들의 GPU 시간을 아끼는 데 보탬이 되길 바라며 공유합니다.
| 변형 | 키워드형 R@1 변화 (원 레시피 대비) |
|---|---|
| 하드 네거티브 (임베딩 마이닝 top-k, 무필터) | −11.2%p |
| 하드 네거티브 (공식 레시피: 마진 필터 + range_min + 난이도 혼합 + pos_weight) | −12.6%p |
| 학습 질의 40%를 키워드형으로 교체하는 증강 | −4.2%p |