Unidad 6

Inferencia Causal III: Causal Machine Learning & EconML

Diapositiva 1 / 12
Cátedra de Métodos Cuantitativos • Clase 14

Inferencia Causal III: Causal Machine Learning & EconML

Efectos heterogéneos de tratamiento (CATE), Meta-Learners (S/T/X), Double Machine Learning (DML) y Causal Forests.

Heterogeneidad CATE Double Machine Learning Causal Forests EconML
Usa las flechas ← → o haz clic para avanzar

Objetivos Estratégicos de la Sesión

Hoja de ruta para la frontera entre Machine Learning moderno e inferencia causal.

Hoja de Ruta
1

Del ATE Global al CATE Individual

Comprender por qué los promedios poblacionales ocultan respuestas dispares y formalizar la heterogeneidad condicional.

2

Arquitectura de Meta-Learners

Dominar el funcionamiento de S-Learner, T-Learner y el algoritmo X-Learner para datos desbalanceados.

3

Double Machine Learning (DML)

Eliminar el sesgo de regularización del ML mediante ortogonalización de Frisch-Waugh-Lovell y cross-fitting.

4

Causal Forests & Policy Learning

Entrenar bosques adaptados para maximizar la divergencia de efectos y optimizar la asignación de recursos con EconML.

Implementación práctica en el notebook 04_causal_machine_learning_econml.ipynb.

1. Del Efecto Medio (ATE) a la Heterogeneidad (CATE)

Por qué tratar a todos por igual destruye el valor económico de las intervenciones.

Personalización

La Falacia del Promedio:

Un ATE de cero ($\text{ATE} = 0$) suele interpretarse como 'el tratamiento no funciona'. Sin embargo, puede ocurrir que en jóvenes el efecto sea $+50$ y en adultos mayores sea $-50$.

  • Definición Formal de CATE: $\tau(x) = \mathbb{E}[Y(1) - Y(0) \mid X = x]$.
  • Medicina de Precisión: Aplicar quimioterapia agresiva únicamente a pacientes cuyo perfil genético responda positivamente.
  • Marketing de Precisión: Otorgar descuentos exclusivamente a clientes 'persuadibles' (*Persuadables*), evitando subsidiar a clientes seguros (*Sure Things*) o irritar a clientes reactivos (*Do Not Disturb*).
$$\tau(x) = \mathbb{E}[Y(1) \mid X=x] - \mathbb{E}[Y(0) \mid X=x]$$

Efecto de Tratamiento Promedio Condicional (CATE)

segmentacion_uplift.py Matriz de Segmentos
1. Persuadibles (τ > 0):
Compran SOLO si reciben el descuento -> ENFOCAR CAMPAÑA
2. Orgánicos (τ = 0):
Compran siempre con o sin descuento -> No gastar presupuesto
3. Reactivos (τ < 0):
El mensaje promocional los molesta y cancelan -> Evitar contacto

El Causal ML cuantifica exactamente en qué categoría cae cada cliente individual.

2. Meta-Learners Básicos: S-Learner vs T-Learner

Estrategias intuitivas reutilizando algoritmos de regresión tradicionales.

Meta-Algoritmos

S-Learner (Single Model)

Un Solo Modelo

Entrena un único modelo predictivo $\mu(X, D)$ incorporando el tratamiento $D$ como una columna más.

  • ▪ Predicción: $\hat{\tau}(x) = \hat{\mu}(x, 1) - \hat{\mu}(x, 0)$.
  • ▪ Sencillo de entrenar y aprovecha todo el dataset.
  • ▪ Falla Grave: Regularizadores como Lasso o árboles profundos tienden a ignorar $D$ si $p$ es grande, sesgando $\hat{\tau} \to 0$.
$$\hat{\mu} = \text{Model}(X, D) \implies \hat{\tau}(x) = \hat{\mu}(x, 1) - \hat{\mu}(x, 0)$$
Alerta: Subestima severamente los efectos de tratamiento heterogéneos.

T-Learner (Two Models)

Dos Modelos Separados

Fuerza la estimación dividiendo los datos en tratados y controles, entrenando un modelo independiente para cada uno.

  • ▪ Modelo 1: $\hat{\mu}_1(X)$ entrenado solo con tratados ($D=1$).
  • ▪ Modelo 0: $\hat{\mu}_0(X)$ entrenado solo con controles ($D=0$).
  • ▪ Predicción: $\hat{\tau}(x) = \hat{\mu}_1(x) - \hat{\mu}_0(x)$.
  • ▪ Falla: Si hay pocos tratados ($N_1 \ll N_0$), $\hat{\mu}_1$ sobreajustará mientras $\hat{\mu}_0$ subajustará.
$$\hat{\tau}(x) = \hat{\mu}_1(x) - \hat{\mu}_0(x)$$
Vulnerable a tamaños de muestra desbalanceados entre tratamientos.

3. El X-Learner: La Solución ante Desbalance Muestral

El algoritmo en 3 etapas de Künzel et al. para experimentos en entornos productivos reales.

Estado del Arte
X-LEARNER

Crossover Causal

Diseñado específicamente para casos donde la proporción de tratados es pequeña (ej. 1% a 5% de la base total).

Mecánica en Tres Pasos:

Etapa 1: Modelos Base Separados

Entrena $\hat{\mu}_0(X)$ con controles y $\hat{\mu}_1(X)$ con tratados (idéntico al T-Learner inicial).

Etapa 2: Imputación de Efectos Contrafácticos Cruzados

Calcula el efecto individual imputado para los tratados: $D_{1, i} = Y_{1, i} - \hat{\mu}_0(X_i)$, y para los controles: $D_{0, j} = \hat{\mu}_1(X_j) - Y_{0, j}$. Luego entrena dos segundos modelos $\hat{\tau}_1(X)$ y $\hat{\tau}_0(X)$ para predecir estos efectos imputados.

Etapa 3: Ponderación Óptima por Propensity Score

Combina ambas estimaciones mediante el propensity score: $\hat{\tau}(x) = e(x) \hat{\tau}_0(x) + (1 - e(x)) \hat{\tau}_1(x)$, maximizando la eficiencia estadística.

4. Double Machine Learning (Orthogonal ML)

Eliminación del sesgo de regularización mediante ortogonalización.

Econometría Moderna

El Avance de Chernozhukov et al.:

Si usamos ML no lineal para controlar cientos de covariables $W$, los errores de aproximación y regularización de esas variables secundarias se filtran y sesgan fatalmente el parámetro causal de interés.

  • Mecanismo de Ortogonalización: Se predicen por separado $Y$ a partir de $W$ (obteniendo el residuo $\tilde{Y} = Y - \hat{Y}$) y $D$ a partir de $W$ (obteniendo $\tilde{D} = D - \hat{D}$).
  • Regresión sobre Residuos: El efecto causal se obtiene relacionando $\tilde{Y}$ contra $\tilde{D}$, eliminando el efecto de las variables de confusión.
  • Cross-Fitting (K-Folds): Garantiza independencia estricta entre los modelos entrenados y los residuos evaluados.
$$(Y - \hat{m}(W)) = \tau(X) (D - \hat{e}(W)) + \epsilon \implies \tilde{Y} = \tau(X) \tilde{D} + \epsilon$$

Ecuación Ortogonal de Frisch-Waugh-Lovell adaptada a ML

econml_dml.py Cross-Fitting
from econml.dml import LinearDML
from lightgbm import LGBMRegressor, LGBMClassifier
# Modelos de nuisance flexibles
est = LinearDML(model_y=LGBMRegressor(),
                 model_t=LGBMClassifier(),
                 cv=5)
est.fit(Y, T, X=X, W=W)
te_pred = est.effect(X_test)
# Inferencia asintótica normal válida N(0, 1)

DML combina cualquier algoritmo de ML moderno con intervalos de confianza e inferencia formal insesgada.

5. Causal Forests: Bosques Adaptados a Causalidad

La extensión no paramétrica de Athey & Wager para estimación individual.

Algoritmo Insignia
CAUSAL FOREST

Partición por Divergencia

Árboles modificados cuyo objetivo es maximizar la diferencia de efectos de tratamiento entre hojas.

Innovaciones Fundamentales:

1. Criterio de División Causal

En lugar de minimizar impureza de Gini o MSE sobre $Y$, divide buscando que el efecto causal de la rama izquierda sea lo más diferente posible del de la rama derecha: $\max (\hat{\tau}_L - \hat{\tau}_R)^2$.

2. Honestidad Asintótica (Honest Trees)

Cada árbol utiliza una mitad de la muestra para definir la estructura de cortes y la otra mitad para estimar los efectos dentro de las hojas, garantizando que los intervalos de confianza sean matemáticamente exactos.

3. Estimación No Paramétrica de CATE

No asume ninguna forma funcional para $\tau(x)$; puede descubrir geometrías arbitrarias y segmentaciones complejas de clientes.

6. Comparativa de Métodos en la Suite EconML

Selección del estimador según el objetivo de negocio y la estructura de datos.

Selección de Algoritmos
Estimador EconML Mecanismo Teórico Ventaja Principal Cuándo Utilizarlo
X-Learner Meta-Learner de 3 etapas con crossover. Rendimiento óptimo con tratamiento minoritario (desbalance). Campañas de marketing donde menos del 10% recibe incentivo.
LinearDML Ortogonalización de residuos con cross-fitting. Inferencia formal rigurosa e intervalos de confianza estándar. Cuando se exige un reporte con p-valores e intervalos formales.
CausalForestDML Bosques honestos sobre residuos ortogonales. Captura relaciones no lineales arbitrarias en el CATE. Descubrimiento libre de patrones de heterogeneidad en big data.
PolicyTree / DROPO Árboles de asignación óptima de decisiones. Genera reglas de negocio explícitas (ej. 'Tratar si edad > 30'). Despliegue de políticas automatizadas en producción.
EconML (Microsoft Research) integra todas estas familias bajo una interfaz consistente compatible con Scikit-Learn.

7. Laboratorio Visual: Descubrimiento de Efectos Heterogéneos

Observa cómo el estimador CATE aprende el impacto personalizado del tratamiento a lo largo del perfil de covariable X.

Simulador en Vivo

Cátedra de Heterogeneidad Causal:

El tratamiento tiene un efecto positivo en perfiles jóvenes (X bajo) y negativo en perfiles senior (X alto).
ATE Global: +0.10 (Nulo)
Rango CATE: [-4.2, +4.8]
Tratar a toda la población da ganancia cero; tratar solo a quienes tienen $\tau(x) > 0$ genera un ROI extraordinario.
Curva CATE Estimada τ(x) CausalForestDML
― CATE Positivo (Tratar) ― CATE Negativo (No Tratar) Línea Cero τ = 0

8. Evaluación de Modelos Causales: Curvas Uplift y Qini

Cómo medir el rendimiento de un modelo cuando el resultado contrafáctico nunca se observa.

Métricas Causales

Curva Uplift y Coeficiente Qini

Métrica Canónica

Ordena a los clientes de mayor a menor $\hat{\tau}_i$ predicho y traza la ganancia incremental real acumulada frente a controles.

  • ▪ Evalúa si el modelo identifica efectivamente a quienes más se benefician de la intervención.
  • ▪ Curva aleatoria (diagonal): estrategia sin personalización.
  • ▪ Área bajo la curva Qini (Qini Score): cuantifica el valor económico adicional de la personalización.
$$Q(n) = Y_1(n) - Y_0(n) \frac{N_1(n)}{N_0(n)}$$
Permite fijar el presupuesto de campaña exactamente en el punto de máxima ganancia neta.

Policy Learning (Árboles de Decisión de Política)

Reglas Operativas

Convierte los efectos CATE continuos en una regla de negocio discreta determinística con costos de intervención.

  • ▪ Tratar si y solo si: $\hat{\tau}(x) > \text{CostoUnitario}$.
  • ▪ Los algoritmos de `econml.policy` generan árboles parsimoniosos de 2 o 3 niveles para ejecución en bases de datos SQL o sistemas de CRM.
  • ▪ Alineación total entre ciencia de datos y rentabilidad operativa.
$$\pi^*(x) = \mathbb{I}(\tau(x) - c > 0)$$
Cierre perfecto: de la inferencia matemática al impacto directo en el balance de la empresa.

9. Protocolo de Calidad para Modelos de Causal ML

Buenas prácticas recomendadas para el ciclo de vida del modelo causal.

Mejores Prácticas
CML QA

Auditoría de Causal ML

Tres comprobaciones obligatorias antes de poner modelos de Causal ML en producción.

Protocolo Metodológico:

1. Chequeo de Soporte Común (Positivity)

Verificar que para cada subgrupo $X=x$, la probabilidad de recibir tratamiento esté acotada lejos de 0 y 1 ($0.05 \le e(x) \le 0.95$). La falta de soporte común invalida la extrapolación.

2. Uso Obligatorio de Cross-Fitting en DML

Asegurar que los modelos de nuisance (predictores de $Y$ y de $T$) se entrenen en pliegues cruzados para blindar el estimador contra el sesgo de sobreajuste.

3. Validación por Uplift con Grupo de Control A/B

Validar periódicamente la política personalizada contra un 5% de la población sometida a asignación puramente aleatoria para monitorear el decaimiento causal (*causal drift*).

¡A Programar en Jupyter Notebooks!

Validación Computacional en Entorno Jupyter Notebooks (Semana 14)

Laboratorio Hands-On

Meta-Learners X-Learner

04_causal_machine_learning_econml.ipynb

Implementación de XLearner sobre datos de retención fuertemente desbalanceados.

Descargar Notebook (.ipynb)

Double Machine Learning

04_causal_machine_learning_econml.ipynb

Estimación ortogonal con LinearDML y modelos base LightGBM / Scikit-Learn.

Descargar Notebook (.ipynb)

Causal Forests con EconML

04_causal_machine_learning_econml.ipynb

Ajuste de CausalForestDML y extracción de efectos individuales heterogéneos CATE.

Descargar Notebook (.ipynb)

Curvas Uplift & Policy Trees

04_causal_machine_learning_econml.ipynb

Evaluación con curvas Qini y traducción a árboles de decisión de política óptima.

Descargar Notebook (.ipynb)
Práctica Guiada (Profesor proyectando)

45 min: El profesor guía la estimación de CATE con EconML, la comparación de Meta-Learners y la formulación del Double Machine Learning.

Trabajo Autónomo (Alumnos en parejas)

75 min: Los estudiantes resuelven los problemas de la Guía 6 (Problemas 9 a 12), optimizando la asignación de una campaña de marketing personalizada mediante Causal Forests.

Bibliografía y Lecturas Asignadas para la Clase
[2] Causal AI: Analysis and modeling in Python

Ness, Robert O. (2025)

Capítulo 6 (Causal Machine Learning, Double/Debiased ML y Causal Forests)

[3] Causal Inference and Discovery in Python

Molak, Aleksander (2023)

Capítulos 7 a 10 (Heterogeneous Treatment Effects, EconML y DoWhy)

¿Dudas sobre la ventaja de estimar CATE frente a ATE o cómo funciona la ortogonalización en DML?