--- base_model: Qwen/Qwen3.8-27B library_name: peft license: apache-2.0 language: - es - pt - en pipeline_tag: text-generation tags: - lora - sft - tool-calling - agents - b2b - napsix - mato extra_gated_prompt: >- Mato V1.0 es un modelo de Napsix. Al pedir acceso aceptás: (1) usarlo de forma lícita y no dañina; (2) no suplantar la marca Napsix/Mato ni presentar versiones modificadas como oficiales; (3) acreditar "powered by Mato V1.0 — Napsix" cuando lo integres en un producto o servicio. extra_gated_fields: Nombre: text Empresa u organización: text Acepto los términos de uso: checkbox --- # 🧠 Mato V1.0 — el modelo insignia de Napsix **Mato es el asistente de IA entrenado en casa por [Napsix](https://www.napsix.com/mato)** — una plataforma B2B agéntica donde los agentes corren solos: investigan, escriben, operan herramientas y producen resultados (documentos, planillas, tableros, formularios, sitios). Este repositorio contiene el **adapter LoRA** (SFT) sobre `Qwen/Qwen3.8-27B`. En producción se sirve como LoRA sobre el checkpoint FP8 del base, con **MTP speculative decoding** y **256k de contexto**, en GPUs spot de Daytona. > [!TIP] > **¿Querés probarlo ya, gratis y sin clonar nada?** > Mato está incluido en el **AI Gateway de Napsix** (API OpenAI-compatible): > `https://www.napsix.com/api/gateway/v1` · modelo `napsix/mato-v1.0` > → [Crear una API key](https://www.napsix.com/dashboard/ai-gateway) · > [Quickstart en 2 minutos](https://www.napsix.com/gateway) ## ✨ Qué puede hacer - **Tool calling nativo** en el formato XML de Qwen (parser `qwen3_xml` de vLLM): llamadas correctas, argumentos válidos y recuperación ante fallos. - **Voz XIA**: español neutro profesional (también portugués e inglés), directo y conciso, sin relleno ni muletillas. - **Conocimiento de las superficies de Napsix**: XIA, Agentes, Espacios (Rooms, Projects, Inbox, CRM, Napsix Mail), Resultados (Docs, Sheets, Dashboards, Forms, Sitios) y Conexiones (1000+ apps, WhatsApp, MCP, APIs). - **Conducta de producto**: no inventa datos; pide clarificación (`ask_clarification`) cuando la tarea es ambigua; escala en vez de prometer lo que no puede. - **Heredado del base Qwen3.8-27B**: contexto 256k, visión y multilingüismo. ## 📖 La historia (por qué existe Mato) Napsix cree en **eficiencia, no en fuerza bruta**: cada tarea va al modelo del tamaño correcto. Pero el asistente de la casa necesitaba tres cosas que ningún modelo externo daba juntas: **control del protocolo de herramientas**, **privacidad de los datos del producto** y **costo predecible**. Entonces lo entrenamos: 1. **F0–F1 · Dataset**: trazas reales de la plataforma (anonimizadas) + destilación con un teacher in-family (`qwen3.8-max`) → conversaciones con el chat template real de Qwen y tool-calls verificables. 2. **F2 · Entrenamiento**: QLoRA (NF4, r=32, all-linear) en 1×H100 spot, con checkpoints y **resume real ante evictions**. 3. **F3 · Evaluación**: suite de tool-calling + judge LLM — mejora clara de comportamiento sin regresión en herramientas. 4. **F4 · Deploy**: LoRA servido en producción (FP8 + MTP + 256k) con el **mismo slug** `napsix/mato-v1.0` y rollback de un comando. 5. **Loop**: el corpus crece con la plataforma; un pipeline semanal propone re-entrenamientos con aprobación humana. **Mato V1.0 está sirviendo en producción desde el 2026-09-17.** ## 🚀 Cómo usarlo ### Opción A — API (recomendada, gratis) ```bash curl https://www.napsix.com/api/gateway/v1/chat/completions \ -H "Authorization: Bearer nsx_live_TU_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"napsix/mato-v1.0","messages":[{"role":"user","content":"Hola Mato"}]}' ``` También es drop-in con el SDK de OpenAI: cambiá `baseURL` y listo ([docs](https://www.napsix.com/gateway)). ### Opción B — local (transformers + peft) ```python from transformers import AutoModelForCausalLM, AutoTokenizer from peft import PeftModel base = AutoModelForCausalLM.from_pretrained( "Qwen/Qwen3.8-27B", torch_dtype="bfloat16", device_map="auto" ) tok = AutoTokenizer.from_pretrained("german-gimenez/mato-v1.0-sft") model = PeftModel.from_pretrained(base, "german-gimenez/mato-v1.0-sft") ``` ### Opción C — vLLM (producción) ```bash vllm serve Qwen/Qwen3.8-27B-FP8 \ --enable-lora --max-lora-rank 32 \ --lora-modules mato-tuned=german-gimenez/mato-v1.0-sft \ --tool-call-parser qwen3_xml --enable-auto-tool-choice ``` ## 📊 Ficha técnica | | | |---|---| | Base | `Qwen/Qwen3.8-27B` (Apache-2.0) | | Adapter | LoRA all-linear · r=32 · alpha=64 · 233M params (0.86%) | | Entrenamiento | QLoRA NF4, seq 4096, 6 epochs, 1×H100 spot | | Eval (judge LLM) | comportamiento: **6–2–1** vs base · tool-calling: sin regresión | | Serving | FP8 + LoRA + MTP + 256k · 3 réplicas spot auto-gestionadas | | Idiomas | Español (neutro B2B) · Portugués · Inglés | ## 🔗 Links - 🌐 **Mato** — https://www.napsix.com/mato - ⚡ **Gateway API (gratis)** — https://www.napsix.com/gateway - 🔑 **Tu API key** — https://www.napsix.com/dashboard/ai-gateway - 👩💻 **Developers** — https://www.napsix.com/developers - 📈 **Status** — https://www.napsix.com/status ## ⚖️ Uso y licencia - Licencia: **Apache-2.0** (heredada del base). Atribución a Napsix y a Qwen Team apreciada. - Mato está pensado para asistentes B2B legítimos. No usar para spam, desinformación, suplantación de identidad ni contenido dañino. - "Mato" es una marca de Napsix. Si construís sobre Mato, aclará que es un modelo de Napsix (ej. "powered by Mato V1.0 — Napsix"). --- ## 🇬🇧 About (English) **Mato V1.0** is Napsix's in-house assistant model: a LoRA SFT adapter over `Qwen/Qwen3.8-27B`, trained on real (anonymized) product traces distilled with an in-family teacher. It excels at **tool calling**, the **XIA brand voice** (neutral professional Spanish, Portuguese, English) and Napsix product knowledge — grounded, concise and honest. Serving: FP8 + LoRA + MTP + 256k on spot H100s. **Try it free via our OpenAI-compatible gateway:** `https://www.napsix.com/api/gateway/v1` (model `napsix/mato-v1.0`) — https://www.napsix.com/mato Mato V1.0 by Napsix — https://www.napsix.com/mato