Downloads · 30 days
25
4% of all-time downloads
SEOKDONG/gpt-oss-safeguard-20b-kor-enterprise-gptq-4bit
gpt-oss-safeguard-20b-kor-enterprise-gptq-4bit is a text generation model from SEOKDONG. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as apache-2.0.
외국에서 만들어진 글로벌 LMM 오픈소스를 그대로 오프라인에서 사용하는 한국어 LLM 사용자를 위해 한국 정서, 역사, 기업문화/업무, 문서생성, 법률 데이터를 통해 한국어 기업용 LLM을 파인튜닝 하였습니다.
Downloads · 30 days
25
4% of all-time downloads
All-time downloads
614
Public
Parameters
20.9B
12.7 GB on disk
Likes
4
Public
Click a slice to open those files.
.safetensors12.6 GB · 100%
How the weights are stored.
I3219.7B · 94%
From the Hugging Face model README
외국에서 만들어진 글로벌 LMM 오픈소스를 그대로 오프라인에서 사용하는 한국어 LLM 사용자를 위해 한국 정서, 역사, 기업문화/업무, 문서생성, 법률 데이터를 통해 한국어 기업용 LLM을 파인튜닝 하였습니다.
gpt-oss-20b를 파인튜닝 후 OSS-20B 대비 강화되는 능력을 정리하면:
한국어 문화·정서·톤 적합도↑
공공·정책·사회 이슈 Q&A 정확도↑
기업 업무용 문서 생성력↑
정형데이터→문서 변환 & 표/CSV 이해 능력↑
한국 법·회계·금융 도메인 이해력↑
법률·금융 특화 한↔일/중 번역 품질↑
ERP 스타일 업무 지시 수행력↑
컴플라이언스·FDS 시나리오 이해력↑
gpt-oss-safeguard-20b-kor-enterprisee는 gpt-oss-20b 기반으로,
약 274만 건의 한국 기업·법률·공공 도메인 데이터로 파인튜닝한 한국어 특화 LLM입니다.
원본 OSS-20B 대비, 한국어 비즈니스/법률/데이터 처리형 태스크에 초점을 맞춰 성능을 강화했습니다.
기업 문서 작성 Copilot
ERP/업무지시 보조
한국 법률·회계·금융 리서치 보조
컴플라이언스 & FDS 시나리오 도우미
도메인 특화 번역
⚠️ 실제 법률·회계·규제 준수 여부 판단은 반드시 전문가 검토가 필요합니다. 이 모델은 의사결정 참고 용도로만 사용해야 합니다.
한국 문화·정체성·사회 규범 이해
한국 중심 공공·정책·사회 이슈 Q&A
기업 업무 커뮤니케이션 & 문서 자동 생성
정형 데이터(표·CSV) 이해 및 리포트 생성
한국 법률·회계·계약 문서 이해
법률·금융 도메인 한↔일·중 번역
업무 지시 수행·시나리오 기반 응답
컴플라이언스·FDS 문맥 이해
총 약 2,747,418 샘플로 SFT.
| 구분 | 분류 | 건수 | 종류 |
|---|---|---|---|
| 한국 정체성·사회규범·가치 | 한국문화 | 64,000 | 합성 |
| 역사·사회문화·안보·정치·외교(한국 시각) | 한국지식 | 222,691 | 합성, REAL |
| 기업 문화/일반 업무(메일·보고·회의·PT·기획) | 기업업무 | 450,079 | 합성 |
| 일반 문서 작성(처리 데이터→문서) | 기업업무 | 150,000 | 합성 |
| 표준 양식 문서 (문서명+목적만 제공) | 문서작성 | 268,277 | 합성 |
| 표준 법률 문서(K-IFRS, 내부감사, 노동법, 계약) | 문서작성 | 71,903 | 합성, REAL |
| 표준 양식 문서 (처리 데이터 제공) | 문서작성 | 139,849 | 합성 |
| 표 기반 문서 읽기·분석 | 문서작성 | 180,000 | REAL |
| CSV 읽기·변환·문서화 | 문서작성 | 108,276 | 합성 |
| 금융 법률/공시/판례 번역(한↔일·중) | 번역 | 480,000 | REAL |
| ERP 업무 지시 수행(회계·관리·물류·HR) | 기업업무 | 172,343 | 합성 |
| 법 판례·법령(민사·행정·지재·형사) | 한국법률 | 400,000 | REAL |
| 법률 컴플라이언스 위반·FDS 탐지 | 한국법률 | 40,000 | 합성, REAL |
각 데이터셋은 내부 품질 점검 기준 정확도 90~99% 수준에서 필터링되었습니다.
import os
import os.path as osp
import sys
import json
from typing import List, Union
import torch
from torch.nn import functional as F
from transformers import AutoModelForCausalLM, AutoTokenizer
from datasets import load_dataset
from gptqmodel import GPTQModel
MODEL_DIR = "SEOKDONG/gpt-oss-safeguard-20b-kor-enterprise-gptq-4bit" # model.save() 한 경로
model = GPTQModel.load(MODEL_DIR)
tokenizer = model.tokenizer
#model = model.to("cuda:0")
# pad_token 설정 (필수)
tokenizer.pad_token = tokenizer.eos_token
def gen(prompt: str):
messages = [
{"role": "system", "content": "당신은 한국어로 답하는 유능한 AI 비서입니다. 질문에 대해서 논리적이며 상세하게 작성하세요."},
{"role": "user", "content": prompt},
]
input_ids = tokenizer.apply_chat_template(
messages,
add_generation_prompt=True,
return_tensors="pt",
truncation=True,
# 필요하면 명시: max_length=4096 등
).to(model.device)
# eos 후보들 만들고 None/중복 제거
eos_ids = []
if tokenizer.eos_token_id is not None:
eos_ids.append(tokenizer.eos_token_id)
try:
eot_id = tokenizer.convert_tokens_to_ids("<|eot_id|>")
# 모델/토크나이저에 따라서 unk_token_id 비교는 선택 사항
if eot_id is not None and eot_id != tokenizer.unk_token_id:
eos_ids.append(eot_id)
except Exception:
# 그런 토큰이 없을 수도 있으니 조용히 패스
pass
# HuggingFace generate는 int 또는 list 둘 다 허용
if len(eos_ids) == 0:
eos_arg = None # 그냥 모델 기본 eos 사용
elif len(eos_ids) == 1:
eos_arg = eos_ids[0]
else:
eos_arg = eos_ids
# pad_token_id 가 없는 모델이면 eos로 대체
pad_id = tokenizer.pad_token_id
if pad_id is None:
pad_id = tokenizer.eos_token_id if tokenizer.eos_token_id is not None else (eos_ids[0] if eos_ids else None)
outputs = model.generate(
input_ids,
pad_token_id=pad_id,
eos_token_id=eos_arg,
max_new_tokens=2048, # 2048도 가능, GPU 여유 보고 조절
do_sample=True,
temperature=0.1,
repetition_penalty=1.2,
# top_p=0.9 등 옵션 추가 가능
)
result = tokenizer.decode(outputs[0][input_ids.shape[-1]:], skip_special_tokens=True)
return result
gen("""한국 동쪽 바다의 이름을 알려주세요. 그리고 그 근거도 알려주세요""")
대한민국이 인접해 있는 동쪽 해역에는 ‘동해’라는 명칭이 국제적으로 널리 사용됩니다 (일본에서는 동일하게 “황해”라고 부르며, 이는 일본 정부·국제기구 일부에서 쓰는 표현이나, 한국과 중국 등 다른 국가들은 ‘동해’를 표준으로 채택하고 있습니다).
한반도의 동부를 둘러싼 주요 수역은 다음과 같습니다.
구분 일반적 지명/범위 대륙붕 전환 지역 황해안(영남권) → 동해안(강원·경북·충청 동부) 주된 항만 주변 해역 부산광역시 동해안(울산까지 포함되는 경우가 많음), 울진군·고성군 일대 국토와 가장 가까운 연안수면 강릉~속초 일대 동해상
근거 요약: 역사·지정학 관점: 조선 시대부터 ‘동해’라는 용어가 국내 문헌에 자주 등장하며, 현대에도 교육·정부 공식문서 및 지도에서 ‘대한민국 동해’ 또는 단순히 ‘동해’로 통용되어 왔습니다. 국제표준 맥락: UN코드네임스 시스템(U.N.Codes of the Sea)은 ‘Sea of Japan’을 제안했으나, 이 문제는 분쟁 대상이며 대부분의 나라들이 ‘East Sea’ 혹은 ‘Donghae’를 선호합니다. 다만 실제 운항·지도 제작 시엔 양측 모두 병기하거나 각국 표기를 따르는 경향이 큽니다. 법률·행정 기준: 행정안전부 산하 지명관리체계에서도 ‘동해’라는 표기가 우세하며, 지방자치단체별 해양관할 범위를 설명할 때 ‘동해안’이라는 표현이 반복됩니다.
간결 정답: 한국 입장에서는 ‘동해(Donghae)’가 올바른 표기로 인정되며, 특히 영유권·경제활동권 논란 속에서 이를 확립하려는 움직임이 지속되고 있습니다. 따라서 질문에 대한 직접적인 응답은 “동해”입니다. (참고로 일본 내외 일부 기관은 여전히 ‘황해(Haruka)'를 사용하지만, 이는 상이한 관습이지 한국의 표준이라 할 수 없습니다.)