La región R es el primer cuadrante del plano, que no tiene límites. Entonces
$$\begin{aligned} \iint_Rxye^{-x^2-y^2}dA &= \lim\limits_{(b, d) \to (\infin, \infin)}\int_{x=0}^{x=b}\bigg(\int_{y=0}^{y=d}xye^{-x^2-y^2}dy\bigg)dx = \lim\limits_{(b, d) \to (\infin, \infin)}\int_{y=0}^{y=d}\bigg(\int_{x=0}^{x=b}xye^{-x^2-y^2}dx\bigg)dy\\ &= \lim\limits_{(b, d) \to (\infin, \infin)}\frac14\big(1 - e^{-b^2}\big)\big(1 - e^{-d^2}\big) = \frac14 \end{aligned}$$Así, $\iint_Rxye^{-x^2-y^2}dA$ es convergente y el valor es $\frac14$