deepthink-finetuned-gguf

Deepthink-1.5B-Open-PRM Fine-tuned GGUF

Mô hình ngôn ngữ Deepthink-1.5B đã được tinh chỉnh (fine-tune) cho các tác vụ gia sư tiếng Việt, sau đó chuyển đổi sang định dạng GGUF để chạy nhanh trên máy cá nhân bằng LM Studio, Ollama hoặc llama.cpp.

Thông tin mô hình

• Base model: prithivMLmods/Deepthink-1.5B-Open-PRM
• Tác giả base model: prithivMLmods
• File GGUF gốc (quantized): Được tạo bởi mradermacher
• Fine-tune bởi: <Tên của bạn>
• Chuyển đổi F16 sang GGUF: <Tên của bạn>
• Giấy phép: Apache-2.0 (kế thừa từ base model)
• Ngôn ngữ hỗ trợ: Tiếng Việt, Tiếng Anh
• Định dạng: GGUF (F16)

Mô tả

Mô hình được tinh chỉnh trên dữ liệu hội thoại gia sư tiếng Việt, tập trung vào các lĩnh vực:

• Toán học (giải thích từng bước)
• Lập trình (viết và giải thích code)
• Văn học (tóm tắt, phân tích)
• Dịch thuật
• Suy luận logic

Sau đó, adapter LoRA được merge vào base model và chuyển sang định dạng GGUF F16 để dễ dàng sử dụng offline.

Cách sử dụng

1. Dùng với LM Studio

• Tải file deepthink_finetuned.gguf
• Mở LM Studio, vào My Models → Add Model
• Chọn file GGUF đã tải
• Chọn backend CPU (hoặc Vulkan nếu hỗ trợ)
• Bắt đầu chat.

2. Dùng với Ollama

Tạo file Modelfile với nội dung: