Downloads · 30 days
15
9% of all-time downloads
DFveloper/AAIKR-3.1-mini-Q4_0-QAT-unquantized
AAIKR-3.1-mini-Q4_0-QAT-unquantized is a image-text-to-text model from DFveloper. Use it for the image-text-to-text task on the model card, and read the license before you ship it in a product. It is set up for transformers. The card lists the license as apache-2.0.
AAIKR 3.1 mini는 최적화된 디자인으로 설계된 초경량 LLM입니다. 방대한 양의 지식을 효율적으로 압축하여 추론 속도는 높이고 모델 크기는 최소화했습니다.
Downloads · 30 days
15
9% of all-time downloads
All-time downloads
164
Public
Parameters
5.1B
10.3 GB on disk
Likes
3
Public
Click a slice to open those files.
.safetensors10.2 GB · 100%
From the Hugging Face model README
AAIKR 3.1 mini는 최적화된 디자인으로 설계된 초경량 LLM입니다. 방대한 양의 지식을 효율적으로 압축하여 추론 속도는 높이고 모델 크기는 최소화했습니다.
이 모델은 빠르고, 가벼우며, 다양한 엔지니어링 환경에서 배포할 수 있도록 제작되었습니다. 단순한 챗봇부터 고성능 추론 작업까지, AAIKR 3.1 mini는 빠르고 효율적인 작업 파트너가 될 것입니다.
| 항목 | 내용 |
|---|---|
| 파라미터 수 | 2B |
| 특징 | 한국어 추론 강화 |
| 권장 사용 사례 | 실시간 QA 시스템, 경량 코드 생성 도우미, 빠른 문서 요약, 엣지 디바이스 배포 |
AAIKR 3.1 mini는 초기 버전으로, 추론 과정에서의 미세한 편향이 존재할 수 있습니다. 중요한 결정은 항상 신뢰할 수 있는 출처를 통해 검증하시기 바랍니다. 또한, 극도로 긴 대화에서는 기억 오작동이 발생할 수 있으므로 명시적인 Context Re-tuning이 필요합니다.
이 모델은 AAIKR 모델군 중 성능에 비해 가장 빠르게 상용화에 근접하고 있는 모델입니다. 사용자 커뮤니티에서 발견되는 버그나 개선점에 대해서는 협력하여 업데이트할 수 있습니다.
개발: LOOP의 AI 연구 팀 버전: 3.1-rc2 라이선스: Apache-2.0