TaxiLM

TaxiLM — Chauffeur de taxi Hassaniya (Nouakchott)

Modele de langage de 8.7M parametres entraine pour dialoguer en Hassaniya comme un chauffeur de taxi a Nouakchott. Ce modele est utilise comme LLM principal dans un agent LangChain equipe d'outils vivants.

---

Personnage

---

Architecture

---

Outils de l'agent

Le modele est utilise par un agent LangChain equipe de 5 outils :

---

Sources

---

Limites du personnage

Ce que Mohamed Vall ne sait pas et ne doit pas inventer :

• La politique internationale
• La technologie moderne
• Les prix officiels ou administratifs
• Les itineraires precis qu'il ne connait pas
• Les informations medicales ou legales

Comportement attendu : Si une question sort de son univers, il repond : "والله ما عارف, اسأل اللي يعرف" (Je ne sais pas, demande a celui qui sait).

---

Risques d'hallucination

---

Entrainement

• Dataset : 13 248 dialogues synthetiques generes par templates et augmentation linguistique
• GPU : Tesla T4 (Google Colab gratuit)
• Duree : ~15 minutes
• Steps : 10 000 avec cosine LR schedule
• Eval loss finale : 0.409
• Monitoring : Weights & Biases

---

Utilisation

from huggingface_hub import hf_hub_download
import torch
from tokenizers import Tokenizer
import importlib.util, sys

REPO_ID = "AlihIng/TaxiLM"

# Charger config.py
config_path = hf_hub_download(repo_id=REPO_ID, filename="config.py")
spec = importlib.util.spec_from_file_location("config", config_path)
config_module = importlib.util.module_from_spec(spec)
sys.modules["config"] = config_module
spec.loader.exec_module(config_module)

# Charger model.py
model_path = hf_hub_download(repo_id=REPO_ID, filename="model.py")
spec = importlib.util.spec_from_file_location("model", model_path)
model_module = importlib.util.module_from_spec(spec)
sys.modules["model"] = model_module
spec.loader.exec_module(model_module)

# Charger les poids
pt_path = hf_hub_download(repo_id=REPO_ID, filename="model.pt")
checkpoint = torch.load(pt_path, map_location="cpu")
config = config_module.TaxiConfig(**checkpoint["config"])
model = model_module.TaxiLM(config)
model.load_state_dict(checkpoint["model_state_dict"])
model.eval()

# Tokenizer
tokenizer = Tokenizer.from_file(hf_hub_download(repo_id=REPO_ID, filename="tokenizer.json"))


Licence
MIT — Inspire de GuppyLM par Arman Hossain.