GGUF
Japanese
conversational

SIP-jmed-llm-3-13b-OP-32k-R0.1

SIP-med-LLMさんのソブリン医療推論のSIP-med-LLM/SIP-jmed-llm-3-13b-OP-32k-R0.1をGGUF変換し、量子化しました。

reasoning/denseモデルです。

量子化の手順はSIP-jmed-llm-2-8x13b-OP-instructのGGUF変換と量子化に記載しています。

GGUF変換や量子化で元のモデルより劣化している可能性があります。

iMatrix生成

iMatrixは TFMC/imatrix-dataset-for-japanese-llmc4_en_ja_imatrix.txtを教師データに使用しllama-imatrixで生成しました。

詳細は元モデルのモデルカードを

このモデルは、戦略的イノベーション創造プログラム(SIP)第 3 期課題「統合型ヘルスケアシステムの構築における生成 AI 活用」テーマ1「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」において研究開発された、研究用途限定・商用利用不可の医療特化型 LLM です。

元モデルの詳細はモデルカードを参照ください。

※※※※念のため、特に大事なところを転載しておきます。※※※※

使用目的と制限事項

このモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。

制限事項

  • 本モデルは研究開発段階のプロトタイプであり、実臨床における安全性・有効性の検証は十分に行われていません。
  • 開発者は、本プログラムに関し、その正確性、完全性、最新性、および品質など、いかなる保証も行わず、利用者が本プログラムを利用したこと、利用できなかったことにより生じた一切の損害について責任を負いません。
  • 医療行為(診断、治療方針の決定、健康への助言など)に直接適用することは推奨されません。あくまで医療専門家による適切な判断の補助となる情報提供ツールとしての利用可能性を探る研究段階にあります。
  • 公開しているモデルを活用して「具体的な製品」を開発される場合、その製品が医療機器プログラムとして薬機法の規制対象となる可能性があることにご留意ください。

Downloads last month
48
GGUF
Model size
14B params
Architecture
llama
Hardware compatibility
Log In to add your hardware

4-bit

5-bit

6-bit

8-bit

16-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF

Quantized
(1)
this model

Dataset used to train hiratagoh/SIP-jmed-llm-3-13b-OP-32k-R0.1-GGUF