smoea-rejection-artifacts

SMoEA rejection artifacts

SMoEA Router 拒絕分支使用的產物。全部都是 unsloth/Meta-Llama-3.1-8B 的 增量，不含 base model 本身——沒有 base model 無法使用。

兩類產物，版面不同：

一、merged model（六個）

ta、pico_ta、ties_only、dare_ties_ta、lora_lego、adamerging_pp。 每份是一個 dense delta：只含 down_proj 的差值，約 3.76 GB。

<condition>/<run_id>/prepare/merged_model/
    result.json                # 契約：base model 指紋、dtype、checksum、模組清單
    dense_delta.safetensors    # 權重差值

二、taskwise Arrow 路由資產（四個）

taskwise_k{16,32,48,64}_arrow。這幾個不是合成好的單一權重，而是 K 份代表 adapter 加一份 prototype 索引：150 個 adapter 先分成 K 群，每群在 LoRA 因子 空間重建出一個代表——那 K 份權重在原本的池子裡並不存在。執行期逐 token 在這 K 個代表中擇一。

<condition>/<run_id>/prepare/
    method.json                # 契約：代表數、target_module、top_k、checksum
    prototypes.safetensors     # 逐層 prototype
    cluster_manifest.json      # K 份代表的順序與 checksum
    cluster_adapters/cluster_{0..K-1}/{adapter_config.json,adapter_model.safetensors}

大小：K16 約 275 MB、K32 約 640 MB、K48 約 950 MB、K64 約 1.3 GB。 分群當下的中間結果 flat_matrix.npy（每份 2.7 GB）執行期不讀，未上傳。

arrow（Direct Arrow，逐 token 在全部 150 個 adapter 中擇一）不在這裡： 它不需要任何下載，prototype 由 adapter 池在啟動時現算。

取用

兩類都是同一支指令，它依 condition 名稱決定要抓哪一種版面：

python scripts/fetch_artifact.py --repo Tincan0325/smoea-rejection-artifacts \
    --condition <condition> --artifact-root artifacts \
    --registry artifacts/registry.json --register-as <condition>

--list 只列出遠端有哪些 run、不下載。下載後由 SMoEA 逐檔核對契約檔記錄的 大小與 sha256；不符即拒絕載入。scripts/setup_workspace.sh 預設會把十個 condition 全部取回。

授權

衍生自 Llama 3.1，受 Llama 3.1 Community License 規範（Built with Llama）。 散布前請確認附隨條款與上游訓練資料的授權。