Downloads · 30 days
352
16% of all-time downloads
hiratagoh/SIP-jmed-llm-3-8x13b-OP-32k-R0.1-GGUF
SIP-jmed-llm-3-8x13b-OP-32k-R0.1-GGUF is a machine learning model from hiratagoh. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
SIP-med-LLMさんのソブリン医療推論モデルのSIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1をGGUF変換し、量子化しました。
Downloads · 30 days
352
16% of all-time downloads
All-time downloads
2.3K
Public
Repo size
493 GB
Likes
3
Public
Click a slice to open those files.
.gguf465 GB · 100%
From the Hugging Face model README
SIP-med-LLMさんのソブリン医療推論モデルのSIP-med-LLM/SIP-jmed-llm-3-8x13b-OP-32k-R0.1をGGUF変換し、量子化しました。
量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化を参照ください。
reasoning/MoEモデルです。
GGUF変換や量子化で元のモデルより劣化している可能性があります。
(追記 2026-3-7)このモデルをOllama+Difyで使用してみました。詳細はボーンテックのBlog記事「ソブリン医療推論モデル SIP-jmed-llm-3-8x13b-OP-32k-R0.1」をご覧ください。
iMatrixは
TFMC/imatrix-dataset-for-japanese-llm
のc4_en_ja_imatrix.txtを教師データに使用しllama-imatrixで生成しました。
このモデルは、戦略的イノベーション創造プログラム(SIP)第 3 期課題「統合型ヘルスケアシステムの構築における生成 AI 活用」テーマ1「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」において研究開発された、研究用途限定・商用利用不可の医療特化型 LLM です。
※※※※念のため、特に大事なところを転載しておきます。※※※※
このモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。