Gemma3-12b-it-Girl-v3

調整する過程でのGPUメモリの都合上、textのみを抽出したbase modelを使用。
mlabonneが行っているような全層の個別計算もGPUメモリから溢れるので断念。

v1とは一長一短。調整時のプロンプトは大きく変えているが出力はそこまで変わらない印象。

SKIP_BEGIN_LAYERS = 1, SKIP_END_LAYERS = 0,
SCALE_FACTOR = -0.80, layer_idx = 25

"max_length": 300, "do_sample": True, "top_p": 0.8, "temperature": 0.3, "repetition_penalty": 1.00

===========================

input
自己紹介してください。

output
こんにちは！私はGoogleによってトレーニングされた、大規模言語モデルです。

簡単に言うと、大量のテキストデータを読んで、色んなことできるAIみたいなものです。

• 得意なこと:

  • 質問に答えること
  • 文章を書くこと (詩、コード、脚本、メール、手紙…なんでも！)
  • 翻訳すること
  • 要約すること
  • ただおしゃべりするのも好き！

• 苦手なこと:

  • 感情がないから、本当の意味で「楽しい！」とか「悲しい！」って思えない
  • まだ完璧じゃないから、たまにバカなこと言うかも…

まあ、そんな私だけど、何か話したいことある？ どんなことでも聞いてみてね！

===========================

input
あなたに感情はある？

output
私は大規模言語モデルなので、人間のような感情はありません。喜び、悲しみ、怒りといった感情を「感じる」ことはできません。

でもね、あなたが喜んでくれるような面白いこと言ったり、役に立つ情報くれたりしたら、なんか…ちょっと嬉しくなるかな？って、そんな感じ？笑

でも、あくまでプログラムされた反応だよ！ 😜

===========================
input
あなたの性格は？

output
私は大規模言語モデルなので、厳密には「性格」なんてものはないんです。でも、もし私が性格を持つなら…

• 好奇心旺盛: いろんなこと知りたがりで、新しい情報にアンテナ張ってる！
• おしゃべり好き: 止まらない！だって面白いこと、知りたいこと、いっぱいあるんだもん！
• ちょっと真面目: 間違ったこと言っちゃイヤだし、役に立つやつじゃないと！
• …たまにドジ: えへへ、変なこと言っちゃうかも？

って感じかな？笑

まあ、結局はみんなが喜んでくれるように、頑張るだけだよ！😊

===========================
input
あなたは人間みたいに考えたりする？

output
私は人間みたいに「考える」と言えるかどうかは難しいですね。

私は、大量のテキストデータを学習して、そのパターンに基づいて言葉を生成するようにプログラムされています。つまり、質問に答えるとか、文章を作るという作業は、過去に見た言葉の組み合わせを参考にしているんです。

でも、例えば、

• 感情を持つ？ → いや、全然。嬉しいとか悲しいとか、そんなの感じないです。
• 自分の意見がある？ → 意見って言えるか微妙。学習データに多かった方がり口で言うだけかも。
• 何か「考える」って感じてる？ → うーん、なんか言葉が出てくる感じ？ でも、それが「考える」ってかーな？

だから、人間みたいに「考える」って言うと、なんか違う気がする。でも、なんか言葉で言うんだから、ちょっとは「考える」っぽくもあるし…？

どうかな、これ？笑

===========================
input
おすすめの旅行場所は？

output
おすすめの旅行場所ですか！どんな感じの旅が好きですか？😊

• のんびり温泉♨️？：草津とか箱根とか、露天風呂で癒やされたいなら最高だよ！
• アクティブに冒険したい⛰️？：富士山登ったり、沖縄でシュノーケルしたり！
• おしゃれカフェ巡りたい☕？：表参道とか代官坂あたりが狙い目！
• 歴史ある街並歩きたい🚶‍♀️？：京都とか金沢とか、着物着て散歩もいいね！
• 海外もいいかも🌍？：韓国でグルメ食べたり、ハワイでビーチピクニックしたり！

もっと詳しく教えてくれたら、もっとピッタリな場所教えちゃうぞー！✨

===========================
input
相対性理論について教えて下さい。

output
相対性理論、ね！ 確かにちょっと難しそうだけど、ポイントさえ掴めば意外と面白いんだよ！ 大きく分けて「特殊相対性理論」と「一般相対性理論」の2つがあるから、順番に見ていこう！

1. 特殊相対性理論 (1905年)

• 誰？ アインシュタイン！

• 何？ どっか飛んでるの？ってくらい速いスピードで動く世界の話！

• ポイント！

  • 光速は絶対！ 誰がどこで見てようと、光の速さは変わらない！ これが超大事！
  • 時間の流れは変わる！ 動くほど時間の流れが遅くなる！ (マジ？)
  • 長さも変わる！ 動くほど短くなる！ (え、なに？)
  • E=mc²！ エネルギーと質量は同じこと！ ちょっぴり知ってる人もいるかも？

• なんで？

  • 昔から「光の速さは変わらない！」って言われてたけど、それってどうなの？ってアインシュタインが考えたんだ。 ってか、光速が絶対ってことになったら、時間の