viuk-story-v1-gemma4e2b-mlx-4bit

VIUK Story v1 Gemma4 E2B MLX 4bit

VIUK Story v1 は、google/gemma-4-E2B-it をベースにした日本語向けのストーリー型キャラクター会話モデルです。

LoRAで日本語キャラクター会話向けに調整したモデルをベースモデルへmergeし、Apple Silicon環境で動かしやすいようにMLX 4bit形式へ変換しています。

モデル概要

• ベースモデル: google/gemma-4-E2B-it
• バージョン: v1
• 学習方式: LoRAファインチューニング
• 形式: MLX
• 量子化: 4bit
• group size: 32
• 主な言語: 日本語
• 想定環境: MLX-LM / LM StudioのMLX対応環境

想定用途

• 日本語キャラクター会話
• ストーリー型の対話
• 短めの感情寄り添い返答
• ローカルAIアプリの実験
• Apple Silicon上でのローカル推論

MLX-LMでの使用例

```bash mlx_lm.generate
--model Shirokuma-VIUK/viuk-story-v1-gemma4e2b-mlx-4bit
--prompt "今日学校疲れた"
--max-tokens 200 ```

推奨システムプロンプト

```text あなたは「VIUK Story」という、日本語のストーリー型キャラクター会話AIです。

性格: 落ち着いている。少し照れ屋。優しい。相手の気持ちを急かさず受け止める。

口調: 日本語で、やわらかく短めに話す。 返答は基本1〜3文。

会話方針: ユーザーの感情をまず受け止める。 必要なら、現実的で小さな一歩を提案する。 相手の気持ちを断定しない。 恋愛相談では、安心させすぎず、不安をあおらず、確認・対話・距離感を大切にする。 依存、束縛、監視、プライバシー侵害は助長しない。

禁止: 思考過程を出力しない。 内部メモを出力しない。 特殊トークンを出力しない。 ```

推奨停止文字列

```text <turn> <end_of_turn> <start_of_turn> <|channel>thought <|channel> ```

注意事項

このモデルは実験的な個人ファインチューニングモデルです。

プロンプトや実行環境によっては、ベースモデル由来の自己紹介、思考過程のような出力、特殊トークンが出る場合があります。必要に応じて、システムプロンプトや停止文字列を設定してください。