Downloads · 30 days
21
12% of all-time downloads
Kosmic-35B-A3B-GGUF
prosoft0405/Kosmic-35B-A3B-GGUF
Kosmic-35B-A3B-GGUF is a machine learning model from prosoft0405. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
Prosoft의 산업용 AI 어시스턴트 Kosmic — GGUF Q4KM 양자화 모델 (Ollama/llama.cpp용).
All-time downloads
171
Public
Repo size
21.2 GB
Likes
0
Public
Repo makeup
Click a slice to open those files.
.gguf21.2 GB · 100%
At a glance
- License
- apache-2.0
- Access
- Public
- Created
- Mar 30, 2026
- Updated
- Mar 30, 2026
- SHA
- 2e4f8fad
Base models
Model card
From the Hugging Face model README
Kosmic-35B-A3B-GGUF
Prosoft의 산업용 AI 어시스턴트 Kosmic — GGUF Q4_K_M 양자화 모델 (Ollama/llama.cpp용).
파일 목록
| 파일 | 양자화 | 크기 |
|---|---|---|
| Kosmic-35B-A3B-Q4_K_M.gguf | Q4_K_M (4.88 BPW) | 20 GB |
사용 방법 (Ollama)
ollama run prosoft0405/kosmic-35b
사용 방법 (llama.cpp)
./llama-cli -m Kosmic-35B-A3B-Q4_K_M.gguf \
-p "당신은 Prosoft에서 개발한 산업용 AI 어시스턴트 Kosmic입니다." \
--temp 0.7 -n 256
모델 정보
| 항목 | 값 |
|---|---|
| 베이스 모델 | Qwen/Qwen3.5-35B-A3B |
| 파인튜닝 | LoRA (정체성: Kosmic by Prosoft) |
| 양자화 | bf16 merged → GGUF Q4_K_M |
| 라이선스 | Apache 2.0 |
- License
- apache-2.0
- Languages
- ko, en
- Created
- Mar 30, 2026
- Updated
- Mar 30, 2026