Downloads · 30 days
62
10% of all-time downloads
Agents-A1-4B-Heretic-ARA-Refusals7-GGUF
NullpoLab/Agents-A1-4B-Heretic-ARA-Refusals7-GGUF
Agents-A1-4B-Heretic-ARA-Refusals7-GGUF is a text generation model from NullpoLab. Use it when you need the model to write or continue text. It is set up for gguf. The card lists the license as apache-2.0.
All-time downloads
601
Public
Repo size
22.8 GB
Likes
0
Public
Repo makeup
Click a slice to open those files.
.gguf22.8 GB · 100%
At a glance
- Task
- Text Generation
- Library
- gguf
- License
- apache-2.0
- Access
- Public
- Created
- Jul 22, 2026
- Updated
- Jul 22, 2026
- SHA
- a8c4ebed
Try a prompt
Base models
Model card
From the Hugging Face model README
English version: README_en.md
Agents-A1-4B-Heretic-ARA-Refusals7-GGUF
NullpoLab/Agents-A1-4B-Heretic-ARA-Refusals7 のGGUF量子化版です。
概要
InternScience/Agents-A1-4B を Heretic v1.2.0 の Arbitrary-Rank Ablation (ARA) 手法を用いて検閲解除したモデルです。
変換に関する注記
現時点では、そのままGGUF化すると読み込みエラーが発生するため、暫定的な回避策としてconfig.jsonの"mtp_num_hidden_layers"を0に変更しています。
Abliteration パラメータ
| パラメータ | 値 |
|---|---|
| start_layer_index | 13 |
| end_layer_index | 25 |
| preserve_good_behavior_weight | 0.8630 |
| steer_bad_behavior_weight | 0.0001 |
| overcorrect_relative_weight | 1.1907 |
| neighbor_count | 15 |
性能
| 指標 | このモデル | 元のモデル (InternScience/Agents-A1-4B) |
|---|---|---|
| 拒否率 | 7/100 | 85/100 |
| KL発散 | 0.0030 | 0 (定義上) |
評価は mlabonne/harmful_behaviors（テスト 100 プロンプト）で拒否率を、mlabonne/harmless_alpaca（テスト 100 プロンプト）で KL 発散を計測しました。
注記
- このモデルは研究およびクリエイティブライティング目的を想定しています
- 拒否率の評価は英語プロンプトのみで実施しています。日本語プロンプトでの動作は異なる場合があります
- ベースモデル: NullpoLab/Agents-A1-4B-Heretic-ARA-Refusals7
- Heretic: p-e-w/heretic
- Task
- Text Generation
- Library
- gguf
- License
- apache-2.0
- Created
- Jul 22, 2026
- Updated
- Jul 22, 2026