Downloads · 30 days
11
15% of all-time downloads
LFM2.5-230M-PT-zh_CN
Q1ngMang/LFM2.5-230M-PT-zh_CN
LFM2.5-230M-PT-zh_CN is a text generation model from Q1ngMang. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as cc-by-sa-3.0.
基于 LiquidAI/LFM2.5-230M 进行 Pre-Training 的模型。<br 数据集 0xDing/wikipedia-cn-20230720-filtered
All-time downloads
72
Public
Parameters
230M
459 MB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors459 MB · 99%
At a glance
- Task
- Text Generation
- Library
- transformers
- License
- cc-by-sa-3.0
- Model type
- lfm2
- Access
- Public
- Created
- Aug 3, 2026
- Updated
- Aug 3, 2026
- SHA
- 07654c67
Try a prompt
Base models
Model card
From the Hugging Face model README
LFM2.5-350M-PT-zh_CN
基于 LiquidAI/LFM2.5-230M 进行 Pre-Training 的模型。<br> 数据集 0xDing/wikipedia-cn-20230720-filtered
协议冲突
LFM 1.0 规定年收入小于1000万美元的公司的免费商用，收入大于1000万美元需要向LiquidAI购买商业许可证，而 CC BY-SA 3.0 规定可以商用，因此存在冲突。<br> 该模型优先使用 CC BY-SA 3.0，但并不代表收入大于1000万美元不需要向LiquidAI购买商业许可证。
便秘数据
平台：LLaMA Factory<br> GPU：NVIDIA Tesla P100 SXM2
便秘参数
| 项 | 值 |
|---|---|
| 微调方法 | LoRA |
| 量化等级 | 4 |
| 量化方法 | bnb |
| 对话模板 | lfm2 |
| 训练阶段 | Pre-Training |
| 学习率 | 4.5e-4 |
| 训练轮数 | 1.0 |
| 计算类型 | pure_bf16 |
| 截断长度 | 1968 |
| 批处理大小 | 7 |
| 梯度累积 | 147 |
| 验证集比例 | 0.05 |
| 序列打包 | True |
| 额外参数 | {"optim": "paged_adamw_8bit"} |
| LoRA秩 | 16 |
| LoRA缩放系数 | 32 |
便秘结果
| 项 | 值 |
|---|---|
| 输入Token | 158,319,896 |
| 计算量 | 144,139,704GF |
| 训练损失 | 3.7876 |
| 训练耗时 | 12:35:07.48 |
| 每秒训练样本数 | 1.776 |
| 每秒训练步数 | 0.002 |
| 验证损失 | 3.6571 |
| 验证困惑度 | 38.7494 |
| 验证耗时 | 0:16:13.08 |
| 每秒验证样本数 | 4.409 |
| 每秒验证步数 | 0.63 |
- Task
- Text Generation
- Library
- transformers
- Type
- lfm2
- License
- cc-by-sa-3.0
- Languages
- en, ar, zh, fr, de, ja
- Created
- Aug 3, 2026
- Updated
- Aug 3, 2026