Para definir la transformación lineal $F:{\mathbb{R}}^3\to {\mathbb{R}}^{2\times 2}$ cumpliendo las condiciones dadas, sigamos estos pasos:

Paso 1: Entender la condición del núcleo

La condición $\mathrm{Nu}(F)=\mathrm{gen}\{(1,1,0)\}$ significa que el espacio nulo de $F$ está generado por el vector $(1,1,0)$, es decir, si $F(x,y,z)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)$, entonces necesariamente $(x,y,z)$ debe ser un múltiplo de $(1,1,0)$. En términos de dimensión, esto implica que $\dim (\mathrm{Nu}(F))=1$, por lo que, por el Teorema de las dimensiones, la imagen tiene dimensión $\dim (\mathrm{Im}(F))=3-1=2$.

Paso 2: Entender la condición sobre la imagen

La segunda condición indica que la imagen de $F$ está contenida en el espacio de matrices simétricas de ${\mathbb{R}}^{2\times 2}$. Esto significa que cualquier matriz $F(x,y,z)$ debe cumplir $A=A^T$, lo que restringe su forma a: $$F(x,y,z)=\left(\begin{array}{cc}a& b\\ b& d\end{array}\right)$$ para ciertos coeficientes $a,b,d$ que dependen de $x,y,z$.

Paso 3: Determinar la transformación mediante una base del dominio

Por el Teorema Fundamental de las Transformaciones Lineales (TFTL), una transformación lineal queda completamente determinada si conocemos en qué se transforman los vectores de una base del dominio.
Tomemos la base de ${\mathbb{R}}^3$: $$B=\{(1,1,0),(1,0,0),(1,1,1)\}$$ y definamos $F$ de acuerdo con las condiciones dadas:

1. Queremos que $(1,1,0)$ se transforme en la matriz: $$F(1,1,0)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)$$
2. Queremos que $(1,0,0)$ se transforme en la matriz: $$F(1,0,0)=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)$$
3. Queremos que $(1,1,1)$ se transforme en la matriz:$$F(1,1,1)=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$$

Paso 4: Expresión general de la transformación

Dado que $F$ es lineal, podemos expresar su acción sobre un vector genérico $(x,y,z)$ escribiéndolo como combinación lineal de vectores de la base: $$(x,y,z)=\alpha (1,1,0)+\beta (1,0,0)+\gamma (1,1,1)$$ Resolvemos el sistema: $$\{\begin{array}{c}\alpha +\beta +\gamma =x\\ \alpha +\gamma =y\\ \gamma =z\end{array}\Rightarrow \begin{array}{c}\alpha =y-z\\ \beta =x-y\\ \gamma =z\end{array}$$ Ahora reeemplazamos los coeficientes en función de las componentes del vector genérico del dominio y aplicamos la transformación: $$F(x,y,z)=(y-z)F(1,1,0)+(x-y)F(1,0,0)+zF(1,1,1)$$ Sustituyendo los valores obtenidos: $$F(x,y,z)=(y-z)\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)+(x-y)\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)+z\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$$ $$F(x,y,z)=\left(\begin{array}{cc}x-y& z\\ z& 0\end{array}\right)$$

Paso 5: Verificación de las condiciones

1. Núcleo:
Buscamos $(x,y,z)$ tal que: $$\left(\begin{array}{cc}x-y& z\\ z& 0\end{array}\right)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)$$ Esto implica el sistema: $$x-y=0,z=0$$ De donde se obtiene $x=y,z=0$; lo que confirma que $\mathrm{Nu}(F)$ está generado por $(1,1,0)$.

2. Imagen:
Todas las matrices generadas por $F$ son simétricas, pues verifican $A=A^T$, cumpliendo la segunda condición.

Conclusión

Una transformación lineal $F:{\mathbb{R}}^3\to {\mathbb{R}}^{2\times 2}$ que cumple con las condiciones dadas es: $$F(x,y,z)=\left(\begin{array}{cc}x-y& z\\ z& 0\end{array}\right).$$