Downloads · 30 days
117
8% of all-time downloads
gn00029914/Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L-GGUF
Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L-GGUF is a image-text-to-text model from gn00029914. Use it for the image-text-to-text task on the model card, and read the license before you ship it in a product. It is set up for transformers. The card lists the license as other.
本模型是由 TAIDE 基於 Google Gemma-3-12b 進行微調的繁體中文強化版本。此 GGUF 版本量化採用 audreyt 的 Gemma-3-TAIDE-12b-Chat-2602-F16.gguf 及 Bartowski 的 mmproj-googlegemma-3-12b-it-bf16.gguf。(Accessed May 4, 2026) 並收藏 mradermacher 的 gemma-3-12b-it…
Downloads · 30 days
117
8% of all-time downloads
All-time downloads
1.5K
Public
Repo size
8.6 GB
Likes
0
Public
Click a slice to open those files.
.gguf8.6 GB · 100%
From the Hugging Face model README
本模型是由 TAIDE 基於 Google Gemma-3-12b 進行微調的繁體中文強化版本。此 GGUF 版本量化採用 audreyt 的 Gemma-3-TAIDE-12b-Chat-2602-F16.gguf 及 Bartowski 的 mmproj-google_gemma-3-12b-it-bf16.gguf。(Accessed May 4, 2026) 並收藏 mradermacher 的 gemma-3-12b-it-qat-q4_0-unquantized.mmproj-Q8_0.gguf 作為 mmproj 檔的可選項。(Accessed May 6, 2026)
# 下載模型檔案
hf download gn00029914/Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L-GGUF:Q3_K_L
# 執行對話 (含視覺)
llama-cli -hf gn00029914/Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L-GGUF:Q3_K_L --mmproj ./mmproj-google_gemma-3-12b-it-bf16.gguf -p "你是一個來自台灣的 AI 助手..." -cnv
Modelfile 的檔案。FROM ./Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L.gguf
FROM ./mmproj-google_gemma-3-12b-it-bf16.gguf
SYSTEM """你是一個來自台灣的 AI 助手,你的名字是 TAIDE,由國家科學及技術委員會開發。你負責協助使用者解決問題,並以繁體中文 (zh-TW) 進行回答。"""
ollama create gemma-3-taide-12b-chat-2602-Q3_K_L -f Modelfile
ollama run gemma-3-taide-12b-chat-2602-Q3_K_L
nexa infer gn00029914/Gemma-3-TAIDE-12b-Chat-2602-Q3_K_L-GGUF
shimmy serve