MiniCPM5-1B NekoQA v2 LoRA (GGUF)

DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRAllama.cpp 可用 GGUF 格式

训练数据(neko30k)

本 LoRA 由 neko30k 数据集微调而来:

项目 说明
数据集名称 neko30k(NekoQA-30K)
Hugging Face liumindmind/NekoQA-30K
样本量 30,834 条猫娘 QA 对话

格式信息

  • 格式:F16 LoRA adapter
  • 大小:~22 MB(336 tensors)
  • 转换工具:llama.cpp convert_lora_to_gguf.py
  • Base config:openbmb/MiniCPM5-1B

llama-server 用法

llama-server \
  -m MiniCPM5-1B-Q8_0.gguf \
  --lora adapter_model.f16.gguf \
  --jinja --no-webui

MiniCPM Desk Pet

将此 .gguf 放入桌宠的 adapters/ 目录即可在 Settings → MiniCPM → 人格 LoRA 中选择。

PEFT 原始权重

如需 Transformers / PEFT 推理或继续训练,请使用 PEFT 版本:

DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA

Downloads last month
253
GGUF
Model size
11.2M params
Architecture
llama
Hardware compatibility
Log In to add your hardware

16-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA-GGUF

Adapter
(1)
this model

Dataset used to train DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA-GGUF