Downloads · 30 days
19
8% of all-time downloads
keitokei1994/Llama-3-ELYZA-hermes-2x8B
Llama-3-ELYZA-hermes-2x8B is a text generation model from keitokei1994. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as llama3.
このモデルは、MergeKitツールを使用して作成されたMixture of Experts (MoE) 言語モデルです。
Downloads · 30 days
19
8% of all-time downloads
All-time downloads
247
Public
Parameters
13.7B
27.3 GB on disk
Likes
1
Public
Click a slice to open those files.
.safetensors27.3 GB · 100%
From the Hugging Face model README
このモデルは、MergeKitツールを使用して作成されたMixture of Experts (MoE) 言語モデルです。
gguf版は こちら 。
このMoEモデルは、Llama-3-ELYZA-JP-8Bの日本語能力とHermes-2-Theta-Llama-3-8Bの特性を組み合わせることで、より強力で多機能な言語モデルを目指しています。
Q4_K_M量子化モデルであれば、RTX3060 12GBでフルロード可能です。
筆者はWSL2やGoogle Colaboratotry Proでの作成後、Llama.cppとLMstudioにて動作確認を行っています。
This model is a Mixture of Experts (MoE) language model created using the MergeKit tool.
The gguf version can be found here.
This MoE model aims to create a more powerful and versatile language model by combining the Japanese language capabilities of Llama-3-ELYZA-JP-8B with the characteristics of Hermes-2-Theta-Llama-3-8B.
If using the Q4_K_M quantized model, it can be fully loaded on an RTX3060 12GB.
The author has created the model using WSL2 and Google Colaboratory Pro, and has tested it using Llama.cpp and LMstudio.