Upload README.md with huggingface_hub
Browse files
README.md
CHANGED
|
@@ -108,6 +108,17 @@ model = model.merge_and_unload()
|
|
| 108 |
```
|
| 109 |
|
| 110 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 111 |
### llama.cpp Server (Docker) — การใช้งานแบบ Multi-LoRA Stacking 🔥
|
| 112 |
|
| 113 |
🌐 **สแต็ก LoRA หลายตัวพร้อมกัน** — รวมโมเดลพื้นฐานแบบ uncensored + Opus reasoning LoRA + Kimi style LoRA เข้าด้วยกันในเซิร์ฟเวอร์เดียวที่เข้ากันได้กับ OpenAI API:
|
|
|
|
| 108 |
```
|
| 109 |
|
| 110 |
|
| 111 |
+
|
| 112 |
+
> ⚠️ **Prerequisite:** The Docker command below uses the **Opus reasoning adapter** from lordx64.
|
| 113 |
+
> Download it first:
|
| 114 |
+
> ```bash
|
| 115 |
+
> wget https://huggingface.co/lordx64/Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled/resolve/main/adapter_model.safetensors
|
| 116 |
+
> # Or use the GGUF version for llama.cpp:
|
| 117 |
+
> # Convert with: python3 llama.cpp/convert_lora_to_gguf.py /path/to/opus-adapter
|
| 118 |
+
> ```
|
| 119 |
+
> Or use only the Kimi adapter without Opus: `--lora-scaled /models/qwen3.6-35b-opus-to-kimi-lora.gguf:1.0`
|
| 120 |
+
|
| 121 |
+
|
| 122 |
### llama.cpp Server (Docker) — การใช้งานแบบ Multi-LoRA Stacking 🔥
|
| 123 |
|
| 124 |
🌐 **สแต็ก LoRA หลายตัวพร้อมกัน** — รวมโมเดลพื้นฐานแบบ uncensored + Opus reasoning LoRA + Kimi style LoRA เข้าด้วยกันในเซิร์ฟเวอร์เดียวที่เข้ากันได้กับ OpenAI API:
|