---
language:
- en
- ja
library_name: transformers
pipeline_tag: text-generation
license:
- llama3.1
- gemma
model_type: llama
datasets:
- TFMC/imatrix-dataset-for-japanese-llm
base_model:
- tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.5
---

# Llama-3.1-Swallow-8B-Instruct-v0.5-gguf - Built with Llama

このモデルは、[Llama-3.1-Swallow-8B-Instruct-v0.5](https://huggingface.co/tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.5)をOllamaで利用できるようにgguf形式に変換して量子化を行ったものです。

量子化は、imatrixを利用して行いました。imatrixの生成のデータセットは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を利用しました。

imatrixを利用した量子化については、[llama.cpp/examples/imatrix](https://github.com/ggml-org/llama.cpp/blob/master/examples/imatrix/README.md)をご覧ください。

## License

[META LLAMA 3.1 COMMUNITY LICENSE](https://www.llama.com/llama3_1/license/) and [Gemma Terms of Use](https://ai.google.dev/gemma/terms)

上記のLlama-3.1-Swallow-8B-Instruct-v0.5のライセンスに従いご利用ください。本モデルを利用して発生した如何なる不利益や損害について、作成者は責任を負わないものとします。