Downloads · 30 days
30
15% of all-time downloads
phi3-pico-test00
kurogane/phi3-pico-test00
phi3-pico-test00 is a text generation model from kurogane. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
All-time downloads
194
Public
Parameters
14.9M
180 MB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.pt119 MB · 65%
At a glance
- Task
- Text Generation
- License
- apache-2.0
- Model type
- phi3
- Access
- Public
- Created
- Oct 2, 2025
- Updated
- Oct 3, 2025
- SHA
- c0fee430
Model card
From the Hugging Face model README
概要
Phi3アーキテクチャのモデルです。 context sizeは256です。
dataset
以下のデータセットで1epoch回しました。
- HuggingFaceTB/smollm-corpus
- cosmopedia-v2: 10,000,000件
- fineweb-edu-dedup: 10,000,000件
- hotchpotch/fineweb-2-edu-japanese
- sample_10BT: 15,000,000件
- HuggingFaceFW/finepdfs
- jpn_Jpan: 10,000,000件
- eng_Latn: 100,000件
- OmniAICreator/WebNovels-Ja
- 2,560,871件
バッチサイズ: 140 ステップ数: 2094240 トレーニングトークン合計数: 75B tokens 学習率: 3e-4
tokenizer
Rakuten/RakutenAI-2.0-mini-instructを使用しました。 日本語対応LLMであり、vocab_sizeが48000と学習に使いやすそうだったからです。」
- Task
- Text Generation
- Type
- phi3
- License
- apache-2.0
- Languages
- ja, en
- Created
- Oct 2, 2025
- Updated
- Oct 3, 2025