Downloads · 30 days
12
31% of all-time downloads
SeanWang0027/sciworld-online-rose-qwen3-1p7b-5p5
sciworld-online-rose-qwen3-1p7b-5p5 is a machine learning model from SeanWang0027. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
学生在环境里走 5 轮(无 loss),Qwen3-32B teacher 从学生到达的状态接着走 5 轮, CE 只算 teacher 那 5 轮的 assistant token;每个 batch 做一次参数更新,更新后权重立刻 热同步回采样引擎 —— 严格同步 on-policy,无 off-policy 滞后。
Downloads · 30 days
12
31% of all-time downloads
All-time downloads
39
Public
Parameters
1.7B
3.5 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors3.4 GB · 99%
From the Hugging Face model README
学生在环境里走 5 轮(无 loss),Qwen3-32B teacher 从学生到达的状态接着走 5 轮, CE 只算 teacher 那 5 轮的 assistant token;每个 batch 做一次参数更新,更新后权重立刻 热同步回采样引擎 —— 严格同步 on-policy,无 off-policy 滞后。
collective_rpc 热加载(≈5s), 不重建引擎| 模型 | Score | Success | Pass(>0) |
|---|---|---|---|
| Qwen3-1.7B 基座 | 0.0479 | 0.0000 | 0.1650 |
| 1.7B ← SFT on 32B 完整轨迹(1.7M 监督 token, 57 min) | 0.2077 | 0.0450 | 0.4100 |
| 本模型 online ROSE 5+5(0.5M token, 41 min) | 0.3127 | 0.0600 | 0.6600 |
| Qwen3-32B 教师 | 0.4346 | 0.1100 | 0.9350 |
用 30% 的监督量、72% 的时间,拿到 teacher-SFT 1.5 倍的 Score。