llavon-ime-llama-250m

拉風輸入法（Llavon IME）LLaMA 250M

拉風輸入法使用的語言模型，專門用來把注音轉成繁體中文。架構為 LLaMA 式的 decoder-only Transformer，參數量約 2.5 億，設計上以在本機即時推論為目標。

這不是通用的聊天或文字生成模型，必須搭配專用的注音詞表與候選字遮蔽才能正常使用。

• 官網：llavon.org
• 輸入法原始碼（Windows、macOS、Linux）：拉風輸入法 GitHub
• GGUF 版本：tony65535/llavon-ime-llama-250m-GGUF

模型規格

詞表為輸入法專用，包含帶聲調的注音音節 token（例如 <ㄅㄚˇ>）、繁體中文字 token，以及英文、數字等特殊 token。

推論格式

<BOS> <前文字-0> <前文字-1> ... <注音-0> <注音-1> ... <SEP> <字-0> <字-1> ...

• 注音之前的前文是使用者已經輸入的繁體中文，可省略。
• <SEP> 之後的每個位置對應一個注音音節；使用者已手動選定的字，直接以該字的 token 填入對應位置。
• 推論時須將 logits 遮蔽到該位置注音的合法候選字，否則模型可能輸出讀音不符的字。

模型為自迴歸（AR）模型，最基本的用法是在 <SEP> 之後逐字解碼。拉風輸入法另外會把上一輪的預測結果當作草稿，與本輪輸入一次送入模型批次驗證，直到第一個不一致的位置才改回逐字解碼。在精確算術下，結果與逐字解碼相同，也不需要額外的草稿模型。

上述 tokenizer、候選字遮蔽、草稿批次驗證與 KV cache 管理，都實作在拉風輸入法的推論核心 ime-core，自行整合時建議直接參考。

檔案說明

授權

本儲存庫的模型權重依 創用 CC 姓名標示-非商業性 4.0 國際授權條款（CC BY-NC 4.0）釋出，僅限非商業目的使用。

本模型權重由本專案獨立訓練。本專案並不認為模型權重當然構成訓練資料的重製物、改作或衍生著作。

然而，訓練過程使用了部分標示為 CC BY-NC 4.0 的第三方資料集。考量原始資料的授權條款、部分來源權利狀態不明，以及潛在的著作權風險，本專案採取保守立場，以 CC BY-NC 4.0 釋出模型權重。

此授權選擇係基於風險管理及公開釋出的考量，不應解釋為本專案承認模型權重必然受任何特定訓練資料集授權條款的拘束。

本授權僅適用於模型權重；輸入法程式碼的授權，以各程式碼儲存庫所載者為準。

訓練資料

模型以多種繁體中文語料訓練，包括公開網頁文字、對話資料、辭典條目，以及 PTT 使用者發表的文字。訓練資料中的注音由 G2PW 依原始文字自動生成。

部分來源資料集的授權資訊不完整、互相矛盾，或限非商業使用，例如：

• yentinglin/TaiwanChat 的授權為 cc-by-nc-4.0。
• 本專案使用的 PTT 語料 zake7749/Gossiping-Chinese-Corpus，在 GitHub 上標示為 Apache-2.0。
• 部分由網頁爬取而來的資料集，可能仍受原網站條款或原作者權利約束。

使用者須遵守 CC BY-NC 4.0 的非商業條款，並自行負責遵守相關法律、平台條款與第三方權利。

釋出的權重不包含原始訓練語料，也不以重現或散布訓練文字為目的。本專案不授予任何使用、複製或散布原始訓練資料集的權利。

完整的資料來源說明請見 DATA_SOURCES.md。