gemma3-270m-japanese-webllm-03

Gemma3-270M Japanese Fine-tuned (WebLLM)

日本語データでFine TuningされたGemma3-270M WebLLMモデル

📊 モデル概要

• ベースモデル: google/gemma-3-270m
• Fine Tuningフレームワーク: Unsloth
• 量子化: q4f32_1 (4-bit weights + FP32, iOS Safari対応)
• モデルサイズ: ~150MB
• コンテキスト長: 4096 tokens
• 言語: 日本語

🚀 使用方法

WebLLMアプリで使用

import { CreateMLCEngine } from "@mlc-ai/web-llm";

const engine = await CreateMLCEngine(
  "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03",
  {
    initProgressCallback: (progress) => {
      console.log(`Loading: ${(progress.progress * 100).toFixed(1)}%`);
    }
  }
);

const reply = await engine.chat.completions.create({
  messages: [{ role: "user", content: "こんにちは！" }]
});

console.log(reply.choices[0].message.content);

カスタム設定で使用

import * as webllm from "@mlc-ai/web-llm";

const customModel: webllm.ModelRecord = {
  model: "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03",
  model_id: "gemma3-270m-japanese-03",
  model_lib: "https://huggingface.co/UMASHIKA/gemma3-270m-japanese-webllm-03/resolve/main/gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm",
  vram_required_MB: 900,
  low_resource_required: true,
};

const appConfig: webllm.AppConfig = {
  model_list: [...webllm.prebuiltAppConfig.model_list, customModel]
};

const engine = await webllm.CreateMLCEngine(
  "gemma3-270m-japanese-03",
  { appConfig }
);

📱 対応環境

ブラウザ

• ✅ Chrome 113+ (推奨)
• ✅ Edge 113+
• ✅ Safari 18.0+ (macOS/iOS)
• ✅ Firefox 128+ (WebGPU有効化必要)

デバイス

• iPhone 15/14 Pro以降
• Android (Snapdragon 8 Gen 2以降)
• Windows/Mac/Linux (WebGPU対応GPU)

⚡ パフォーマンス

📂 ファイル構成

.
├── mlc-chat-config.json                ← WebLLM設定
├── gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm  ← カスタムWASM
├── params_shard_0.bin                  ← 量子化済み重み
├── params_shard_1.bin
├── params_shard_2.bin
├── params_shard_3.bin
├── tokenizer.model                     ← トークナイザー
├── tokenizer.json
└── ...

合計サイズ: ~150MB

🔧 カスタムWASMについて

このモデルには、Gemma3-270M専用にコンパイルされたカスタムWASMライブラリが含まれています：

• ファイル名: gemma3-270m-japanese-q4f32_1-ctx4k-webgpu.wasm
• コンパイル環境: Emscripten 3.1.56
• 最適化: WebGPU + O3
• コンテキスト長: 4096 tokens
• 量子化: q4f32_1

📝 ライセンス

このモデルは Gemma Terms of Use に基づいてライセンスされています。

🙏 謝辞

• ベースモデル: Google Gemma Team
• Fine Tuningツール: Unsloth
• WebLLMツール: MLC LLM

---

作成日: 2026年2月15日
モデルバージョン: gemma3-270m-japanese-webllm-03