"docs: corregir codificación variables, flujo preprocesamiento completo, transformaciones EXEROFT1/_FRUTSUM/_VEGESUM y tipos float64"

README.md

@@ -49,17 +49,18 @@ versión preprocesada del fichero original en formato SAS `.xpt`, reducida a las
 | Columnas totales | 23 (22 variables de entrada + 1 variable objetivo) |
 | Variable objetivo | `DIABETE3` — riesgo de diabetes |
 | Formato | CSV con cabecera |
-| Codificación | Valores enteros según codebook original del CDC |
+| Tipos de datos | `float64` — todos los valores numéricos, incluidos los enteros del codebook CDC |
 
 ### Variable objetivo
 
-| Valor | Significado |
+| Valor en CSV | Significado |
 |---|---|
 | `1.0` | Riesgo de diabetes (clase positiva) |
 | `3.0` | Sin riesgo de diabetes (clase negativa) |
 
-> Codificación original del CDC — no recodificada a 0/1 para preservar la trazabilidad
-> con el codebook del BRFSS 2015.
+> El BRFSS original incluye valores adicionales (2=solo durante embarazo, 4=prediabetes,
+> 7=NS/NC, 9=Se negó) que fueron filtrados durante el preprocesamiento, conservando
+> únicamente los casos con diagnóstico confirmado o negación explícita.
 
 ### Distribución de clases
 
@@ -75,20 +76,22 @@ versión preprocesada del fichero original en formato SAS `.xpt`, reducida a las
 
 ## Variables de entrada (22 columnas)
 
-### Variables nominales
+> **Convención de codificación original CDC:**
+> - Variables binarias: `1 = Sí`, `2 = No`
+> - Valores `7` (NS/NC) y `9` (Se negó) del BRFSS original fueron sustituidos
+>   por `-1` en el CSV tras el preprocesamiento. El pipeline sklearn reemplaza
+>   los `-1` por `NaN` antes de la imputación en inferencia.
 
-| Variable | Descripción | Rango |
-|---|---|---|
-| `BPHIGH4` | Diagnóstico de presión arterial alta | 1–4 |
-| `_RACE` | Raza / etnia | 1–8 |
-
-### Variables binarias (1=Sí, 2=No en codificación CDC → transformadas a 0/1 en el pipeline)
+### Variables binarias
 
 | Variable | Descripción |
 |---|---|
-| `BPMEDS` | Toma medicación para tensión arterial |
+| `BPMEDS` | Toma medicación para la tensión arterial |
 | `BLOODCHO` | Se ha revisado el colesterol alguna vez |
-| `HAVARTH3` | Diagnóstico de artritis / reumatismo / gota |
+| `HAVARTH3` | Diagnóstico de artritis / reumatismo / gota / lupus / fibromialgia |
+| `ADDEPEV2` | Diagnóstico de trastorno depresivo |
+| `SMOKE100` | Ha fumado más de 100 cigarrillos en su vida |
+| `SEX` | Sexo (1=Masculino, 2=Femenino) |
 | `QLACTLM2` | Limitación en actividades por problemas de salud |
 | `USEEQUIP` | Usa equipo especial (bastón, silla de ruedas...) |
 | `BLIND` | Ceguera o dificultad grave de visión |
@@ -96,47 +99,60 @@ versión preprocesada del fichero original en formato SAS `.xpt`, reducida a las
 | `DIFFWALK` | Dificultad para caminar o subir escaleras |
 | `DIFFALON` | Dificultad para hacer recados solo |
 | `DIFFDRES` | Dificultad para vestirse o bañarse |
-| `SMOKE100` | Ha fumado más de 100 cigarrillos en su vida |
-| `ADDEPEV2` | Diagnóstico de depresión |
-| `SEX` | Sexo |
 
-### Variables ordinales
+### Variables nominales y ordinales
 
-| Variable | Descripción | Rango |
+| Variable | Descripción | Valores posibles |
 |---|---|---|
-| `GENHLTH` | Estado general de salud (1=Excelente → 5=Malo) | 1–5 |
-| `_PACAT1` | Categoría de actividad física (1=Muy activo → 4=Inactivo) | 1–4 |
-| `_AGEG5YR` | Grupo de edad en intervalos de 5 años (1=18–24 → 13=80+) | 1–13 |
-| `_BMI5CAT` | Categoría de IMC (1=Bajo peso → 4=Obesidad) | 1–4 |
+| `BPHIGH4` | Diagnóstico de presión arterial alta | 1=Sí · 2=Sí, solo embarazo · 3=No · 4=Borderline/prehipertensión |
+| `_RACE` | Raza / etnia | 1=Blanco · 2=Negro · 3=Indígena americano · 4=Asiático · 5=Nativo Hawái/Pacífico · 6=Otra · 7=Multirracial · 8=Hispano |
+| `GENHLTH` | Estado general de salud | 1=Excelente · 2=Muy bueno · 3=Bueno · 4=Regular · 5=Malo |
+| `_AGEG5YR` | Grupo de edad (intervalos de 5 años) | 1=18–24 · 2=25–29 · ... · 12=75–79 · 13=80 o más |
+| `_BMI5CAT` | Categoría de IMC | 1=Bajo peso · 2=Peso normal · 3=Sobrepeso · 4=Obesidad |
+| `_PACAT1` | Categoría de actividad física | 1=Muy activo · 2=Activo · 3=Insuficientemente activo · 4=Inactivo |
 
 ### Variables numéricas continuas
 
-| Variable | Descripción | Rango observado (P1–P99) |
+| Variable | Descripción | Rango en CSV (P1–P99) |
 |---|---|---|
 | `EXEROFT1` | Frecuencia de ejercicio semanal (veces/semana) | 0.47–14.0 |
 | `_FRUTSUM` | Consumo diario de frutas (porciones/día) | 0.0–5.07 |
 | `_VEGESUM` | Consumo diario de verduras (porciones/día) | 0.17–7.0 |
 
-> Los valores extremos fuera del rango P1–P99 son errores de entrada del cuestionario
-> original. El pipeline de entrenamiento aplica capping en percentiles 1–99
-> (`cap_outliers_numeric`) antes del entrenamiento.
+> **Nota sobre `EXEROFT1`:** el BRFSS original codifica la frecuencia como 101–199
+> (veces/semana) y 201–299 (veces/mes). Durante el preprocesamiento
+> (`data_preprocessing.ipynb`) se transformaron a una escala homogénea de
+> veces/semana — por eso el CSV contiene valores decimales como 0.47 (≈2 veces/mes)
+> en lugar de los códigos originales.
 
 ---
 
 ## Preprocesamiento aplicado
 
-El dataset es el resultado de aplicar las siguientes transformaciones al fichero
-original BRFSS 2015 (formato `.xpt` SAS):
-
-1. **Conversión de formato** — `.xpt` → `.csv` mediante `transform_xpt_to_csv.py`
-2. **Selección de columnas** — reducción a las 23 columnas relevantes para el problema
-3. **Filtrado de valores inválidos** — los valores `-1` (no respuesta / no aplicable)
-   se mantienen en el dataset y son tratados como nulos por el pipeline en inferencia
-4. **Sin imputación en el dataset** — la imputación (moda / mediana) se realiza
-   dentro del pipeline sklearn para evitar data leakage
-
-El fichero `cleaned_dataset.csv` contiene los datos en su codificación original del
-CDC, sin recodificación de la variable objetivo ni de las variables de entrada.
+Todo el preprocesamiento se realizó en `data_preprocessing.ipynb`. El CSV resultante
+**no contiene NaN** — los valores faltantes fueron tratados antes de la exportación.
+
+1. **Conversión de formato** — `.xpt` SAS → `.csv` (`transform_xpt_to_csv.ipynb`)
+2. **Selección de columnas** — reducción a las 23 columnas relevantes
+3. **Filtrado `DIABETE3`** — conservados solo valores `1` y `3`; excluidos `2`, `4`, `7` y `9`
+4. **Transformación `EXEROFT1`** — códigos originales (101–199 veces/semana,
+   201–299 veces/mes) convertidos a escala homogénea de veces/semana
+5. **Transformación `_FRUTSUM` y `_VEGESUM`** — el BRFSS almacena estas variables
+   como raciones×100 (enteros sin decimales); divididas entre 100 para obtener
+   porciones reales por día
+6. **Eliminación de registros con NaN estructurales** — registros con datos
+   faltantes reales eliminados con `dropna()` antes de la imputación
+7. **Sustitución de valores inválidos** — valores `7`, `9` (NS/NC / Se negó),
+   `14` (`_AGEG5YR`) y `777`/`999` (`EXEROFT1`) reemplazados por `NaN`
+   y posteriormente imputados:
+   - `BPMEDS`: imputación clínica → `2` (No), bajo la hipótesis de que
+     sin diagnóstico de hipertensión no hay medicación
+   - Variables categóricas (17 columnas): `NaN` → `-1`
+   - `EXEROFT1`: `NaN` → mediana
+
+> El pipeline sklearn del modelo aplica una imputación adicional independiente
+> durante la inferencia (moda / mediana), diseñada para tratar entradas nuevas
+> en producción — es independiente del preprocesamiento del dataset.
 
 ---
 
@@ -149,14 +165,12 @@ df = pd.read_csv(
     "hf://datasets/Jesusrodriguezf90/brfss2015-diabetes-detection/cleaned_dataset.csv"
 )
 
-print(df.shape)           # (257709, 23)
-print(df["DIABETE3"].value_counts())  # 3.0: 229318 / 1.0: 28391
+print(df.shape)                        # (257709, 23)
+print(df["DIABETE3"].value_counts())   # 3.0: 229318 / 1.0: 28391
 
-# Variables de entrada
+# Variables de entrada y variable objetivo
 X = df.drop(columns=["DIABETE3"])
-
-# Variable objetivo — recodificar a 0/1 para entrenamiento
-y = (df["DIABETE3"] == 1).astype(int)
+y = (df["DIABETE3"] == 1).astype(int)  # recodificar a 0/1 para entrenamiento
 ```
 
 ---
@@ -167,10 +181,9 @@ y = (df["DIABETE3"] == 1).astype(int)
 - Población exclusivamente estadounidense adulta (≥18 años) — puede no generalizar
   a otras poblaciones sin recalibración
 - Año de recogida: 2015 — los patrones de salud pueden haber cambiado desde entonces
-- No incluye datos biométricos objetivos (glucemia, HbA1c) — el riesgo se estima
-  únicamente a partir de variables autorreportadas
-- Los valores extremos en `EXEROFT1`, `_FRUTSUM` y `_VEGESUM` (>P99) son
-  errores de entrada del cuestionario original, no valores reales
+- No incluye datos biométricos objetivos (glucemia, HbA1c)
+- Los valores extremos en variables numéricas (>P99) son errores de entrada del
+  cuestionario original, no valores reales
 
 ---