Downloads · 30 days
7
2% of all-time downloads
grapevine-AI/sarashina2-70b-gguf
sarashina2-70b-gguf is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as mit.
SB Intuitionsによる日本語特化の言語モデルsarashina2-70bをGGUFフォーマットに変換したものです。<br なお、Instruction Tuningが施されていないピュアな状態の言語モデルですのでご注意ください。
Downloads · 30 days
7
2% of all-time downloads
All-time downloads
409
Public
Repo size
183 GB
Likes
1
Public
Click a slice to open those files.
.gguf182 GB · 100%
From the Hugging Face model README
SB Intuitionsによる日本語特化の言語モデルsarashina2-70bをGGUFフォーマットに変換したものです。<br> なお、Instruction Tuningが施されていないピュアな状態の言語モデルですのでご注意ください。
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
Windows版llama.cpp-b3621およびllama.cpp-b3472同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
MIT License
SB Intuitions