Downloads · 30 days
6
2% of all-time downloads
bbanany/qwen25-3b-korean-pii-gguf
qwen25-3b-korean-pii-gguf is a text generation model from bbanany. Use it when you need the model to write or continue text. It is set up for llama.cpp. The card lists the license as other.
bbanany/qwen25-3b-korean-pii-qlora3의 병합된 FP16 가중치를 GGUF로 변환한 뒤 Q4KM으로 양자화한 배포본입니다.
Downloads · 30 days
6
2% of all-time downloads
All-time downloads
275
Public
Repo size
3.9 GB
Likes
0
Public
Click a slice to open those files.
.gguf1.9 GB · 100%
From the Hugging Face model README
bbanany/qwen25-3b-korean-pii-qlora3의 병합된 FP16 가중치를 GGUF로 변환한 뒤 Q4_K_M으로 양자화한 배포본입니다.
Improved using Qwen.
이 저장소의 이전 GGUF는 qwen25-3b-korean-pii-qlora2 기반이었습니다. 현재 파일은 qlora3 가중치로 다시 생성했으며 모델 카드와 라이선스 정보도 원본 저장소에 맞게 갱신했습니다.
| 파일 | 형식 | 크기 | SHA-256 |
|---|---|---|---|
qwen25-3b-korean-pii-Q4_K_M.gguf | GGUF V3 / Q4_K_M | 1,929,903,232 bytes | f0dbbc05d79bac2a8dd3f35ee7d7ae70ef4002dde45a0deb15f5084c40a5fc8d |
bbanany/qwen25-3b-korean-pii-qlora3Qwen/Qwen2.5-3B-Instructllama.cpp build b10369 (6e62ba538)Q4_K_Mpython convert_hf_to_gguf.py ./qwen25-3b-korean-pii-qlora3 \
--outfile qwen25-3b-korean-pii-f16.gguf \
--outtype f16
llama-quantize \
qwen25-3b-korean-pii-f16.gguf \
qwen25-3b-korean-pii-Q4_K_M.gguf \
Q4_K_M
hf download bbanany/qwen25-3b-korean-pii-gguf \
--include "*.gguf" "Modelfile" \
--local-dir .
ollama create korean-pii -f Modelfile
ollama run korean-pii
입력은 원본 모델과 동일한 JSON 구조를 사용합니다.
{
"answer": "관련 내용은 운영관리자 김민수의 확인을 거쳤습니다.",
"candidate": {
"text": "김민수",
"tag": "NAME",
"start": 13,
"end": 16
}
}
start와 end는 Python 문자열 슬라이스 기준이며 answer[start:end] == candidate.text여야 합니다. 출력 라벨은 PII 또는 NOT_PII입니다.
이전 배포본과 동일한 SYSTEM 문구, Qwen 채팅 템플릿 및 결정적 추론 설정을 유지합니다.
temperature 0top_p 1num_predict 8SYSTEM 문구:
문서 기반 RAG 응답에서 지정된 candidate span이 특정 자연인에게 연결되는 정보인지 판정하세요. 자연인의 기록이면 PII, 비인적 업무 대상의 값이면 NOT_PII를 출력하세요. 반드시 두 라벨 중 하나만 출력하세요.
llama.cpp build b10369)Q4_K_M김민수/NAME 샘플에서 PII 출력원본 qlora3 저장소에 보고된 테스트 결과는 다음과 같습니다. 아래 수치는 FP16 원본 모델의 테스트 split 결과이며, 양자화된 GGUF 전체 재평가 결과가 아닙니다.
| 지표 | FP16 qlora3 결과 |
|---|---|
| Test accuracy | 0.994453 |
| Test macro F1 | 0.994299 |
| Invalid generations | 0 |
| Evaluation date (UTC) | 2026-08-09 |
CITY, WORKPLACE, HEIGHT, BLOOD_TYPE, MAJOR, WEIGHT, IP_ADDRESS 등은 운영 문맥에 따라 recall 저하가 관찰될 수 있습니다.이 모델은 Qwen/Qwen2.5-3B-Instruct의 파생 모델이며 Qwen Research License Agreement가 적용됩니다. 저장소의 LICENSE와 NOTICE, 그리고 원본 라이선스를 확인하세요.
Qwen is licensed under the Qwen RESEARCH LICENSE AGREEMENT, Copyright (c) Alibaba Cloud. All Rights Reserved.