Neve-Cascade-4-1.2B-GGUF

<div align="center"> <img src="https://cdn-uploads.huggingface.co/production/uploads/68a3ba234a7dfca33d72eee2/uEgq1cKh6eWYsyWKbcqch.png" width="50%"> </div> <h1 align="center">Neve-Cascade-4-1.2B-GGUF</h1> <div align="center"> <a href="https://github.com/NeveIA"> <img src="https://cdn-uploads.huggingface.co/production/uploads/68a3ba234a7dfca33d72eee2/KQa7-ajynUAhTS-kxNtYT.png" width="20%" alt="NeveAI GitHub"> </a> </div>

Introdução

O Neve Cascade 4 é um modelo de linguagem de última geração focado em baixo consumo para hardware limitado. Esta versão em formato GGUF foi otimizada pela NeveAI para oferecer o equilíbrio ideal entre precisão lógica e eficiência computacional.

---

Destaques do Modelo

Este modelo foi desenvolvido para uso geral e execução eficiente de tarefas textuais, focando em:

• Conversação e Seguimento de Instruções: Otimizado para diálogos, perguntas e respostas, extração de informações, RAG e execução de instruções gerais.
• Arquitetura Leve e Eficiente: Projetado para inferência rápida em CPUs, dispositivos móveis e computadores com recursos limitados, permitindo execução local com baixo consumo de memória.
• Contexto Estendido e Suporte Multilíngue: Suporte a até 32K tokens e treinamento direcionado para inglês, árabe, chinês, francês, alemão, japonês, coreano e espanhol.
• Uso de Ferramentas: Compatível com chamadas de funções, permitindo integração com ferramentas, agentes e fluxos automatizados.

Benchmark de Performance

O Neve Cascade 4 apresenta desempenho competitivo em benchmarks de conhecimento, seguimento de instruções, matemática, multilingualidade e uso de ferramentas:

---

Detalhes da Arquitetura

• Arquitetura: Modelo denso e exclusivamente textual baseado na arquitetura híbrida LFM2.5, combinando blocos convolucionais LIV com blocos de Grouped-Query Attention.
• Parâmetros: Aproximadamente 1,17 bilhão de parâmetros distribuídos em 16 camadas, sendo 10 blocos convolucionais LIV com dupla ativação e 6 blocos GQA.
• Contexto: Até 32.768 tokens de contexto.
• Entrada: Suporte exclusivamente a texto, com chamadas de funções e uso de ferramentas integrados ao formato de conversação.
• Treinamento: Pré-treinamento estendido em aproximadamente 28 trilhões de tokens, seguido por ajuste supervisionado, alinhamento por preferências e aprendizado por reforço em múltiplas etapas.

Como utilizar (GGUF)

Este modelo é compatível com llama.cpp, Ollama, LM Studio e outras ferramentas que suportam o formato GGUF. Foco direcionado ao uso do modelo na plataforma autoral da organização NeveAI

Licença

Este repositório e os pesos do modelo estão licenciados sob a Licença Apache 2.0.

Contato

Se tiver qualquer dúvida, por favor, levante um issue ou entre em contato conosco em NeveIA.