Downloads · 30 days
14
4% of all-time downloads
Novaciano/La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF
La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF is a machine learning model from Novaciano. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for transformers. The card lists the license as apache-2.0.
Este modelo se convirtió al formato GGUF desde Novaciano/LaMejorMezcla-3.2-1B utilizando llama.cpp a través del espacio GGUF-my-repo de ggml.ai. Consulta la tarjeta del modelo original para obtener más detalles sobre…
Downloads · 30 days
14
4% of all-time downloads
All-time downloads
380
Public
Repo size
1.6 GB
Likes
2
Public
Click a slice to open those files.
.gguf1.6 GB · 100%
From the Hugging Face model README
Este modelo se convirtió al formato GGUF desde Novaciano/La_Mejor_Mezcla-3.2-1B utilizando llama.cpp a través del espacio GGUF-my-repo de ggml.ai.
Consulta la tarjeta del modelo original para obtener más detalles sobre el modelo.
Esta es una mezcla de modelos de lenguaje pre-entrenados creado a partir de mergekit.
Fue creado a partir de los que considero los mejores modelos que he usado de base para mis anteriores creaciones. Cada uno destaca en lo suyo:
Este modelo ha sido mezclado usando el método de mezcla Model Stock usando bunnycore/FuseChat-3.2-1B-Creative-RP como base.
Los siguientes modelos han sido incluidos en la mezcla:
Instalar llama.cpp a través de brew (funciona en Mac y Linux)
brew install llama.cpp
Invoque el servidor llama.cpp o la CLI.
llama-cli --hf-repo Novaciano/La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF --hf-file la_mejor_mezcla-3.2-1b-q8_0.gguf -p "The meaning to life and the universe is"
llama-server --hf-repo Novaciano/La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF --hf-file la_mejor_mezcla-3.2-1b-q8_0.gguf -c 2048
Nota: También puedes usar este punto de control directamente a través de los pasos de uso que se enumeran en el repositorio Llama.cpp.
Paso 1: Clona llama.cpp desde GitHub.
git clone https://github.com/ggerganov/llama.cpp
Paso 2: Vaya a la carpeta llama.cpp y compílela con el indicador LLAMA_CURL=1 junto con otros indicadores específicos del hardware (por ejemplo: LLAMA_CUDA=1 para GPU Nvidia en Linux).
cd llama.cpp && LLAMA_CURL=1 make
Paso 3: Ejecutar la inferencia a través del binario principal.
./llama-cli --hf-repo Novaciano/La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF --hf-file la_mejor_mezcla-3.2-1b-q8_0.gguf -p "The meaning to life and the universe is"
o
./llama-server --hf-repo Novaciano/La_Mejor_Mezcla-3.2-1B-Q8_0-GGUF --hf-file la_mejor_mezcla-3.2-1b-q8_0.gguf -c 2048