hnda

llm-jp-3-13b-rank64_lora

hnda/llm-jp-3-13b-rank64_lora

llm-jp-3-13b-rank64_lora is a machine learning model from hnda. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for transformers. The card lists the license as apache-2.0.

このコードは、llm-jp/llm-jp-3-13bモデルにLoRAを用いた微調整(Fine-tuning)を行うためのテンプレートです。 特に、LoRAのrankを64に設定することで、モデルの表現力を高める工夫をしています。 GPUメモリを節約しつつ大規模モデルを扱えるように、4bit量子化（qLoRA）も活用しています。