Lo primero es asignarle un modelo a la variable aleatoria $X$.
Recordando la interpretación de la variable aleatoria geométrica, sabemos que $X$ sigue una distribución geométrica
$$ X \sim Geo(p) $$
donde $p \in (0,1)$ es la probabilidad de éxito. Como el dado es justo, entonces la probabilidad de éxito (que salga un 5) es $\frac{1}{6}$. Entonces
$$ X \sim Geo\left(\frac{1}{6}\right) $$
<aside> 💡 Hay una pequeña diferencia a la distribución geométrica, pues en este caso también estamos contando el éxito (no únicamente los fracasos). Por lo que la función de probabilidad queda
$\mathbb{P}(X=x) = (1-p)^{x-1} p$
</aside>
Por otro lado, notemos que sabemos que ocurre $Y=2$, es decir, se necesitaron dos tiros para que el dado resultada en 6. Lo anterior significa que el primer tiro no resultó en 6 pero el segundo sí.
De lo anterior podemos concluir que el número 5 puede ocurrir en el primer lanzamiento (con probabilidad $\frac{1}{5} = 0.2$ pues descartamos la cara con número 6, pues esta no sale en el primer lanzamiento), o después del segundo lanzamiento (con probabilidad $1-0.2 = 0.8$)
Usando la definición de esperanza condicional,
$$ \mathbb{E}(X|Y=2) = \sum _x x\mathbb{P}(X=x | Y=2) $$
Note que el evento $Y=2$ divide nuestro problema en 2 situaciones:
Entonces
$$ \begin{align*}\mathbb{E}(X|Y=2) &= \sum _x x\mathbb{P}(X=x | Y=2) \\ &= \mathbb{P}(X=1 |Y=2) + \sum _{x=3} ^{\infty}x\mathbb{P}(X=x)\end{align*} $$
Note que en la suma ya no escribimos ‘Dado Y=2’ porque ya estamos usando esa información para separar la suma. Además no aparece el sumando para $x=2$ pues su probabilidad es cero (pues en el segundo lazamiento sale el número 6).
La ecuación anterior es equivalente a
$$ \begin{align*}\mathbb{E}(X|Y=2) &= \sum _x x\mathbb{P}(X=x | Y=2) \\ &= \mathbb{P}(X=1 |Y=2) + \sum _{x=3} ^{\infty}x\mathbb{P}(X=x) \\ &=\mathbb{P}(X=1 |Y=2) +\mathbb{E}(X|X\geq 3) \mathbb{P}(X\geq3)\end{align*} $$
Para calcular $\mathbb{E}(X|X\geq3)$ note (y recuerde que la v.a toma valores desde 1) que,
$$ \begin{align*}\mathbb{E}(X|X\geq3) &= \mathbb{E}(2+X) \\ &= 2 + \mathbb{E}(X) \\ &=2 + \frac{1}{p} \\ &= 8 \end{align*} $$