---
language:
  - zh
  - en
license: apache-2.0
base_model: Qwen/Qwen2.5-0.5B  # 必须声明基座模型！
tags:
  - text-generation
  - dialogue
  - lora
  - fine-tuned
---

# test_1023

基于 [Qwen2.5-0.5B](https://huggingface.co/Qwen/Qwen2.5-0.5B) 使用LoRA微调的对话生成模型。

## 模型描述
- **基座模型**: Qwen2.5-0.5B
- **微调方法**: LoRA (rank=64)
- **训练数据**: 自定义对话数据集
- **适用任务**: 开放域对话、客服问答等

## 使用方法
python
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("thdddd/test_1023")
tokenizer = AutoTokenizer.from_pretrained("thdddd/test_1023")
input_text = "你好，能推荐北京的美食吗？"
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(​**​inputs, max_length=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

## 训练参数
| 参数          | 值       |
|---------------|---------|
| 学习率        | 2e-5    |
| 训练轮数      | 3       |
| LoRA Rank     | 64      |
| 批大小        | 8       |

## 许可证
Apache-2.0（与基座模型保持一致）