Ejercicios: Esperanza condicional y predicción

1. Dos variables discretas tienen conjunta $p(1; 1) = 0{,}0357$ · $p(1; 2) = 0{,}2143$ · $p(1; 4) = 0{,}1071$ · $p(4; 1) = 0{,}2143$ · $p(4; 2) = 0{,}2857$ · $p(4; 4) = 0{,}1429$ . Calculá $E[X \mid Y = 4]$ .

Ver solución

1. Escribimos la definición. $E[X \mid Y = y] = \sum_x x \cdot p(x \mid y)$ , con la distribución condicional de $X$ dado ese valor de $Y$ .

2. Calculamos la marginal del condicionante. $p_Y(4) = 0{,}1071 + 0{,}1429 = 0{,}25$ : es el nuevo total.

3. Calculamos la condicional. $p(1 \mid 4) = \dfrac{0{,}1071}{0{,}25} \approx 0{,}4286$ · $p(4 \mid 4) = \dfrac{0{,}1429}{0{,}25} \approx 0{,}5714$

4. Verificamos que sume uno. $0{,}4286 + 0{,}5714 = 1$

5. Calculamos la esperanza condicional. $E[X \mid Y = 4] = 1 \cdot 0{,}4286 + 4 \cdot 0{,}5714 \approx 2{,}7143$

6. Lo que hay que notar. Este número vale solo para ese valor de $Y$ . Para otro valor daría otro resultado: la esperanza condicional no es un número sino una función de $Y$ .

Respuesta: $E[X \mid Y = 4] = 2{,}7143$

2. Dos variables discretas tienen conjunta $p(1; 1) = 0{,}0588$ · $p(1; 2) = 0{,}2941$ · $p(1; 4) = 0{,}0588$ · $p(3; 1) = 0{,}1176$ · $p(3; 2) = 0{,}2353$ · $p(3; 4) = 0{,}2353$ . Verificá la ley de la esperanza total calculando $E[X]$ de dos formas.

Ver solución

1. Calculamos $E[X]$ con la marginal. $p_X(1) = 0{,}4118$ · $p_X(3) = 0{,}5882$ , así que $E[X] = 1 \cdot 0{,}4118 + 3 \cdot 0{,}5882 \approx 2{,}1765$ .

2. Calculamos las esperanzas condicionales. $E[X \mid Y = 1] = 2{,}3333$ · $E[X \mid Y = 2] = 1{,}8889$ · $E[X \mid Y = 4] = 2{,}6$

3. Escribimos la marginal de $Y$ . $p_Y(1) = 0{,}1765$ · $p_Y(2) = 0{,}5294$ · $p_Y(4) = 0{,}2941$

4. Aplicamos la ley de la esperanza total. $E[X] = E\big[E[X \mid Y]\big] = \sum_y E[X \mid Y = y] \cdot p_Y(y)$ : $2{,}3333 \cdot 0{,}1765 + 1{,}8889 \cdot 0{,}5294 + 2{,}6 \cdot 0{,}2941 \approx 2{,}1765$ .

5. Comparamos. Los dos caminos dan $2{,}1765$ .

6. Para qué sirve la ley. Permite calcular una esperanza difícil partiéndola en casos: se resuelve dentro de cada caso y después se promedia pesando por la probabilidad de cada uno.

Respuesta: $E[X] = 2{,}1765$ por los dos caminos

3. Con la conjunta $p(3; 0) = 0{,}0476$ · $p(3; 2) = 0{,}2857$ · $p(3; 4) = 0{,}0952$ · $p(4; 0) = 0{,}0952$ · $p(4; 2) = 0{,}2857$ · $p(4; 4) = 0{,}1905$ , compará el error cuadrático medio de predecir $X$ con la constante $E[X]$ y con la esperanza condicional $E[X \mid Y]$ .

Ver solución

1. Calculamos el predictor constante. $E[X] = 3{,}5714$ : el mejor número fijo posible si no se mira $Y$ .

2. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X])^{2} = 0{,}2449$ , que es la varianza de $X$ .

3. Calculamos el predictor condicional. $E[X \mid Y = 0] = 3{,}6667$ · $E[X \mid Y = 2] = 3{,}5$ · $E[X \mid Y = 4] = 3{,}6667$ : para cada valor observado de $Y$ se predice un número distinto.

4. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X \mid Y = y])^{2} = 0{,}2381$

5. Comparamos. $0{,}2381 \leq 0{,}2449$ : usar la información de $Y$ reduce el error en $0{,}0068$ .

6. El resultado general. Bajo error cuadrático medio, la esperanza condicional es el mejor predictor posible: ninguna función de $Y$ predice mejor, ni siquiera la mejor recta.

Respuesta: Con la constante el error es $0{,}2449$ y con la esperanza condicional $0{,}2381$

4. Dos variables independientes tienen marginales $p_X(1) = 0{,}7$ , $p_X(2) = 0{,}3$ y $p_Y(0) = 0{,}5$ , $p_Y(1) = 0{,}2$ , $p_Y(3) = 0{,}3$ . Calculá $E[X \mid Y = y]$ para cada valor de $Y$ y explicá el resultado.

Ver solución

1. Armamos la conjunta usando la independencia. $p(x; y) = p_X(x) \cdot p_Y(y)$ en cada celda: $p(1; 0) = 0{,}35$ · $p(1; 1) = 0{,}14$ · $p(1; 3) = 0{,}21$ · $p(2; 0) = 0{,}15$ · $p(2; 1) = 0{,}06$ · $p(2; 3) = 0{,}09$ .

2. Calculamos una condicional. $p(1 \mid 0) = \dfrac{p_X(1) \cdot p_Y(0)}{p_Y(0)} = 0{,}7$ : la marginal de $Y$ se cancela.

3. Vemos que pasa lo mismo con todas. $p(x \mid y) = p_X(x)$ para cualquier par, porque la conjunta es un producto.

4. Calculamos las esperanzas condicionales. $E[X \mid Y = y] = 1 \cdot 0{,}7 + 2 \cdot 0{,}3 = 1{,}3$ para los tres valores de $Y$ .

5. Interpretamos. La esperanza condicional es constante e igual a $E[X] = 1{,}3$ . Conocer $Y$ no cambia en nada la predicción de $X$ , que es exactamente lo que significa la independencia.

6. La consecuencia sobre la predicción. Si las variables son independientes, el mejor predictor de $X$ a partir de $Y$ es la constante $E[X]$ : $Y$ no aporta ninguna información.

Respuesta: $E[X \mid Y = y] = 1{,}3$ para todo $y$ , igual a $E[X]$ : la independencia hace que $Y$ no aporte nada

5. Dos variables discretas tienen conjunta $p(1; 0) = 0{,}2414$ · $p(1; 3) = 0{,}1034$ · $p(1; 4) = 0{,}069$ · $p(2; 0) = 0{,}2069$ · $p(2; 3) = 0{,}2069$ · $p(2; 4) = 0{,}1724$ . Calculá $E[X \mid Y = 4]$ .

Ver solución

1. Escribimos la definición. $E[X \mid Y = y] = \sum_x x \cdot p(x \mid y)$ , con la distribución condicional de $X$ dado ese valor de $Y$ .

2. Calculamos la marginal del condicionante. $p_Y(4) = 0{,}069 + 0{,}1724 = 0{,}2414$ : es el nuevo total.

3. Calculamos la condicional. $p(1 \mid 4) = \dfrac{0{,}069}{0{,}2414} \approx 0{,}2857$ · $p(2 \mid 4) = \dfrac{0{,}1724}{0{,}2414} \approx 0{,}7143$

4. Verificamos que sume uno. $0{,}2857 + 0{,}7143 = 1$

5. Calculamos la esperanza condicional. $E[X \mid Y = 4] = 1 \cdot 0{,}2857 + 2 \cdot 0{,}7143 = 1{,}7143$

6. Lo que hay que notar. Este número vale solo para ese valor de $Y$ . Para otro valor daría otro resultado: la esperanza condicional no es un número sino una función de $Y$ .

Respuesta: $E[X \mid Y = 4] = 1{,}7143$

6. Dos variables discretas tienen conjunta $p(1; 0) = 0{,}1111$ · $p(1; 2) = 0{,}1667$ · $p(1; 4) = 0{,}1667$ · $p(3; 0) = 0{,}1944$ · $p(3; 2) = 0{,}1944$ · $p(3; 4) = 0{,}1667$ . Verificá la ley de la esperanza total calculando $E[X]$ de dos formas.

Ver solución

1. Calculamos $E[X]$ con la marginal. $p_X(1) = 0{,}4444$ · $p_X(3) = 0{,}5556$ , así que $E[X] = 1 \cdot 0{,}4444 + 3 \cdot 0{,}5556 \approx 2{,}1111$ .

2. Calculamos las esperanzas condicionales. $E[X \mid Y = 0] = 2{,}2727$ · $E[X \mid Y = 2] = 2{,}0769$ · $E[X \mid Y = 4] = 2$

3. Escribimos la marginal de $Y$ . $p_Y(0) = 0{,}3056$ · $p_Y(2) = 0{,}3611$ · $p_Y(4) = 0{,}3333$

4. Aplicamos la ley de la esperanza total. $E[X] = E\big[E[X \mid Y]\big] = \sum_y E[X \mid Y = y] \cdot p_Y(y)$ : $2{,}2727 \cdot 0{,}3056 + 2{,}0769 \cdot 0{,}3611 + 2 \cdot 0{,}3333 \approx 2{,}1111$ .

5. Comparamos. Los dos caminos dan $2{,}1111$ .

6. Para qué sirve la ley. Permite calcular una esperanza difícil partiéndola en casos: se resuelve dentro de cada caso y después se promedia pesando por la probabilidad de cada uno.

Respuesta: $E[X] = 2{,}1111$ por los dos caminos

7. Con la conjunta $p(0; 0) = 0{,}2069$ · $p(0; 1) = 0{,}1724$ · $p(0; 4) = 0{,}2069$ · $p(4; 0) = 0{,}1379$ · $p(4; 1) = 0{,}1724$ · $p(4; 4) = 0{,}1034$ , compará el error cuadrático medio de predecir $X$ con la constante $E[X]$ y con la esperanza condicional $E[X \mid Y]$ .

Ver solución

1. Calculamos el predictor constante. $E[X] = 1{,}6552$ : el mejor número fijo posible si no se mira $Y$ .

2. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X])^{2} = 3{,}8811$ , que es la varianza de $X$ .

3. Calculamos el predictor condicional. $E[X \mid Y = 0] = 1{,}6$ · $E[X \mid Y = 1] = 2$ · $E[X \mid Y = 4] = 1{,}3333$ : para cada valor observado de $Y$ se predice un número distinto.

4. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X \mid Y = y])^{2} = 3{,}8069$

5. Comparamos. $3{,}8069 \leq 3{,}8811$ : usar la información de $Y$ reduce el error en $0{,}0742$ .

6. El resultado general. Bajo error cuadrático medio, la esperanza condicional es el mejor predictor posible: ninguna función de $Y$ predice mejor, ni siquiera la mejor recta.

Respuesta: Con la constante el error es $3{,}8811$ y con la esperanza condicional $3{,}8069$

8. Dos variables independientes tienen marginales $p_X(0) = 0{,}5$ , $p_X(1) = 0{,}5$ y $p_Y(1) = 0{,}5$ , $p_Y(2) = 0{,}3$ , $p_Y(3) = 0{,}2$ . Calculá $E[X \mid Y = y]$ para cada valor de $Y$ y explicá el resultado.

Ver solución

1. Armamos la conjunta usando la independencia. $p(x; y) = p_X(x) \cdot p_Y(y)$ en cada celda: $p(0; 1) = 0{,}25$ · $p(0; 2) = 0{,}15$ · $p(0; 3) = 0{,}1$ · $p(1; 1) = 0{,}25$ · $p(1; 2) = 0{,}15$ · $p(1; 3) = 0{,}1$ .

2. Calculamos una condicional. $p(0 \mid 1) = \dfrac{p_X(0) \cdot p_Y(1)}{p_Y(1)} = 0{,}5$ : la marginal de $Y$ se cancela.

3. Vemos que pasa lo mismo con todas. $p(x \mid y) = p_X(x)$ para cualquier par, porque la conjunta es un producto.

4. Calculamos las esperanzas condicionales. $E[X \mid Y = y] = 0 \cdot 0{,}5 + 1 \cdot 0{,}5 = 0{,}5$ para los tres valores de $Y$ .

5. Interpretamos. La esperanza condicional es constante e igual a $E[X] = 0{,}5$ . Conocer $Y$ no cambia en nada la predicción de $X$ , que es exactamente lo que significa la independencia.

6. La consecuencia sobre la predicción. Si las variables son independientes, el mejor predictor de $X$ a partir de $Y$ es la constante $E[X]$ : $Y$ no aporta ninguna información.

Respuesta: $E[X \mid Y = y] = 0{,}5$ para todo $y$ , igual a $E[X]$ : la independencia hace que $Y$ no aporte nada

9. Dos variables discretas tienen conjunta $p(1; 0) = 0{,}1429$ · $p(1; 3) = 0{,}381$ · $p(1; 4) = 0{,}0476$ · $p(3; 0) = 0{,}1905$ · $p(3; 3) = 0{,}1905$ · $p(3; 4) = 0{,}0476$ . Calculá $E[X \mid Y = 3]$ .

Ver solución

1. Escribimos la definición. $E[X \mid Y = y] = \sum_x x \cdot p(x \mid y)$ , con la distribución condicional de $X$ dado ese valor de $Y$ .

2. Calculamos la marginal del condicionante. $p_Y(3) = 0{,}381 + 0{,}1905 \approx 0{,}5714$ : es el nuevo total.

3. Calculamos la condicional. $p(1 \mid 3) = \dfrac{0{,}381}{0{,}5714} \approx 0{,}6667$ · $p(3 \mid 3) = \dfrac{0{,}1905}{0{,}5714} \approx 0{,}3333$

4. Verificamos que sume uno. $0{,}6667 + 0{,}3333 = 1$

5. Calculamos la esperanza condicional. $E[X \mid Y = 3] = 1 \cdot 0{,}6667 + 3 \cdot 0{,}3333 \approx 1{,}6667$

6. Lo que hay que notar. Este número vale solo para ese valor de $Y$ . Para otro valor daría otro resultado: la esperanza condicional no es un número sino una función de $Y$ .

Respuesta: $E[X \mid Y = 3] = 1{,}6667$

10. Dos variables discretas tienen conjunta $p(0; 1) = 0{,}0714$ · $p(0; 2) = 0{,}1071$ · $p(0; 4) = 0{,}2143$ · $p(2; 1) = 0{,}25$ · $p(2; 2) = 0{,}1429$ · $p(2; 4) = 0{,}2143$ . Verificá la ley de la esperanza total calculando $E[X]$ de dos formas.

Ver solución

1. Calculamos $E[X]$ con la marginal. $p_X(0) = 0{,}3929$ · $p_X(2) = 0{,}6071$ , así que $E[X] = 0 \cdot 0{,}3929 + 2 \cdot 0{,}6071 \approx 1{,}2143$ .

2. Calculamos las esperanzas condicionales. $E[X \mid Y = 1] = 1{,}5556$ · $E[X \mid Y = 2] = 1{,}1429$ · $E[X \mid Y = 4] = 1$

3. Escribimos la marginal de $Y$ . $p_Y(1) = 0{,}3214$ · $p_Y(2) = 0{,}25$ · $p_Y(4) = 0{,}4286$

4. Aplicamos la ley de la esperanza total. $E[X] = E\big[E[X \mid Y]\big] = \sum_y E[X \mid Y = y] \cdot p_Y(y)$ : $1{,}5556 \cdot 0{,}3214 + 1{,}1429 \cdot 0{,}25 + 1 \cdot 0{,}4286 \approx 1{,}2143$ .

5. Comparamos. Los dos caminos dan $1{,}2143$ .

6. Para qué sirve la ley. Permite calcular una esperanza difícil partiéndola en casos: se resuelve dentro de cada caso y después se promedia pesando por la probabilidad de cada uno.

Respuesta: $E[X] = 1{,}2143$ por los dos caminos

11. Con la conjunta $p(0; 2) = 0{,}1935$ · $p(0; 3) = 0{,}129$ · $p(0; 4) = 0{,}129$ · $p(3; 2) = 0{,}1613$ · $p(3; 3) = 0{,}1613$ · $p(3; 4) = 0{,}2258$ , compará el error cuadrático medio de predecir $X$ con la constante $E[X]$ y con la esperanza condicional $E[X \mid Y]$ .

Ver solución

1. Calculamos el predictor constante. $E[X] = 1{,}6452$ : el mejor número fijo posible si no se mira $Y$ .

2. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X])^{2} = 2{,}2289$ , que es la varianza de $X$ .

3. Calculamos el predictor condicional. $E[X \mid Y = 2] = 1{,}3636$ · $E[X \mid Y = 3] = 1{,}6667$ · $E[X \mid Y = 4] = 1{,}9091$ : para cada valor observado de $Y$ se predice un número distinto.

4. Calculamos su error cuadrático medio. $ECM = \sum p(x; y) (x - E[X \mid Y = y])^{2} = 2{,}176$

5. Comparamos. $2{,}176 \leq 2{,}2289$ : usar la información de $Y$ reduce el error en $0{,}053$ .

6. El resultado general. Bajo error cuadrático medio, la esperanza condicional es el mejor predictor posible: ninguna función de $Y$ predice mejor, ni siquiera la mejor recta.

Respuesta: Con la constante el error es $2{,}2289$ y con la esperanza condicional $2{,}176$

12. Dos variables independientes tienen marginales $p_X(2) = 0{,}7$ , $p_X(4) = 0{,}3$ y $p_Y(1) = 0{,}4$ , $p_Y(2) = 0{,}5$ , $p_Y(4) = 0{,}1$ . Calculá $E[X \mid Y = y]$ para cada valor de $Y$ y explicá el resultado.

Ver solución

1. Armamos la conjunta usando la independencia. $p(x; y) = p_X(x) \cdot p_Y(y)$ en cada celda: $p(2; 1) = 0{,}28$ · $p(2; 2) = 0{,}35$ · $p(2; 4) = 0{,}07$ · $p(4; 1) = 0{,}12$ · $p(4; 2) = 0{,}15$ · $p(4; 4) = 0{,}03$ .

2. Calculamos una condicional. $p(2 \mid 1) = \dfrac{p_X(2) \cdot p_Y(1)}{p_Y(1)} = 0{,}7$ : la marginal de $Y$ se cancela.

3. Vemos que pasa lo mismo con todas. $p(x \mid y) = p_X(x)$ para cualquier par, porque la conjunta es un producto.

4. Calculamos las esperanzas condicionales. $E[X \mid Y = y] = 2 \cdot 0{,}7 + 4 \cdot 0{,}3 = 2{,}6$ para los tres valores de $Y$ .

5. Interpretamos. La esperanza condicional es constante e igual a $E[X] = 2{,}6$ . Conocer $Y$ no cambia en nada la predicción de $X$ , que es exactamente lo que significa la independencia.

6. La consecuencia sobre la predicción. Si las variables son independientes, el mejor predictor de $X$ a partir de $Y$ es la constante $E[X]$ : $Y$ no aporta ninguna información.

Respuesta: $E[X \mid Y = y] = 2{,}6$ para todo $y$ , igual a $E[X]$ : la independencia hace que $Y$ no aporte nada