llm-jp-3-13b-finetune_2

Model Card for Model ID

ベースモデルllm-jp/llm-jp-3-13bを、LLM-jpの公開しているデータichikara-instruction-003-001-1.jsonを使いファインチューニングしたモデルです。

https://liat-aip.sakura.ne.jp/wp/llmのための日本語インストラクションデータ作成/llmのための日本語インストラクションデータ-公開/

関根聡, 安藤まや, 後藤美知子, 鈴木久美, 河原大輔, 井之上直也, 乾健太郎. ichikara-instruction: LLMのための日本語インストラクションデータの構築. 言語処理学会第30回年次大会(2024)

Usage

!pip install -U ipywidgets
!pip install transformers==4.46.3
!pip install -U bitsandbytes
!pip install -U accelerate
!pip install -U datasets
!pip install -U peft==0.13.2
!pip install -U trl==0.12.1

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
)

model = AutoModelForCausalLM.from_pretrained(
  "kanta22/llm-jp-3-13b-dpo",
  quantization_config=bnb_config,
  device_map="auto"
)

tokenizer = AutoTokenizer.from_pretrained(
  "kanta22/llm-jp-3-13b-dpo",
  trust_remote_code=True
)

# 推論

input = "自然言語処理とは何ですか？"

prompt = f"""### 指示
{input}
### 回答
"""
tokenized_input = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
attention_mask = torch.ones_like(tokenized_input)

with torch.no_grad():
    outputs = model.generate(
        tokenized_input,
        attention_mask=attention_mask,
        max_new_tokens=300,
        do_sample=False,
        repetition_penalty=1.2,
        pad_token_id=tokenizer.eos_token_id
    )[0]
output = tokenizer.decode(outputs[tokenized_input.size(1):], skip_special_tokens=True)
print(output)