Downloads · 30 days
0
Harrysunshine/s600-qwen3vl-hbm
s600-qwen3vl-hbm is a machine learning model from Harrysunshine. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
地瓜机器人 RDK S600 板子上跑 Qwen3-VL 用的编译产物,由 S600 LLM SDK 1.0.2 的 oellmruntime 加载。 每个子目录是一种配置,目录名的写法是 <参数量-c<上下文长度-c<BPU 核数:
Downloads · 30 days
0
Access
Public
Updated Oct 21, 2026
Repo size
15.7 GB
Likes
0
Public
Click a slice to open those files.
.hbm13.1 GB · 79%
From the Hugging Face model README
地瓜机器人 RDK S600 板子上跑 Qwen3-VL 用的编译产物,由 S600 LLM SDK 1.0.2 的 oellm_runtime 加载。
每个子目录是一种配置,目录名的写法是 <参数量>-c<上下文长度>-c<BPU 核数>:
| 目录 | 模型 | 上下文 | BPU 核 | 大小 |
|---|---|---|---|---|
2b-c16384-c4/ | Qwen3-VL-2B-Instruct | 16384 | 4 | 2.4 GB |
4b-c16384-c4/ | Qwen3-VL-4B-Instruct | 16384 | 4 | 4.0 GB |
4b-c8192-c1/ | Qwen3-VL-4B-Instruct | 8192 | 1 | 3.8 GB |
8b-c8192-c4/ | Qwen3-VL-8B-Instruct | 8192 | 4 | 6.4 GB |
每个目录里有三个文件:
*_vision_448x448_w8_nash-p_corenum_<N>.hbm:视觉编码器,输入 448×448,权重 8 bit;*_language_chunk_256_cache_<上下文>_w4_nash-p_corenum_<N>_<N>.hbm:语言模型,权重 4 bit,预填充按 256 token 分块;*_embed_tokens_fp16.bin:词嵌入表,fp16。只有 4b-c8192-c1/ 带一份运行配置 config_4b_c8192_c1.json。其余三个目录照它改:
把 model_dir 指到放文件的目录,换三个文件名,再按核数改 vit_bpu_core、prefill_bpu_core、decode_bpu_core。
embed_dim 也要跟着换:2B 是 2048,4B 是 2560,8B 是 4096(等于 embed 文件字节数 ÷ 词表 151936 ÷ 2)。
vocabulary_path 指向 SDK 自带的 oellm_runtime/configs/Qwen3_VL_config。