kenonix

gemma-3-ko-4B-1

kenonix/gemma-3-ko-4B-1

gemma-3-ko-4B-1 is a text generation model from kenonix. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as apache-2.0.

그.. 대충 해명을 하자면, 이런 vllm 모델은 처음 GRPO로 파인튜닝하는데, 왜인진 모르겠으나 이미지 인식하는 부분이 gguf로 변환하니까 안되네요. 근데 Q4KM으로 양자화 해놔도 한국어를 매우 잘 구사합니다. 대충 Q4KM 기준 vram 4.3GB 쓰네요. 대충 GGUF로 만들어 뒀으니 프롬프팅해서 쓰십쇼