Para que λ=3 sea autovalor doble y la matriz M sea diagonalizable, debemos garantizar que:

1)   El polinomio característico tenga (3−λ) como factor doble.
2)   La dimensión del autoespacio asociado a λ=3 sea 2, es decir, su multiplicidad geométrica debe ser 2.

Paso 1:   Cálculo del polinomio característico

El polinomio característico de M se obtiene resolviendo: det(M−λI)=0. Restamos λI: M−λI=(1−λ232a−λb003−λ) El determinante se obtiene expandiendo por la tercera columna: det(M−λI)=(3−λ)det(1−λ22a−λ) Calculamos el determinante de la submatriz 2×2: |1−λ22a−λ|=(1−λ)(a−λ)−(2)(2)=(1−λ)(a−λ)−4 Sustituyéndolo en la expresión del determinante: det(M−λI)=(3−λ)[(1−λ)(a−λ)−4] Queremos que λ=3 sea raíz doble. Para lograrlo, el polinomio característico debe tener la forma: (3−λ)2(λ−λ2) Comparando con nuestra expresión, expandimos: (3−λ)[(1−λ)(a−λ)−4]=(3−λ)2(λ−λ2) Para que (3−λ) aparezca como factor cuadrado, el término entre corchetes debe ser proporcional a 3−λ, es decir: (1−λ)(a−λ)−4=k(3−λ) Para hallar a, evaluamos en λ=3, lo que debe anular el término entre corchetes: (1−3)(a−3)−4=0 (−2)(a−3)−4=0 −2a+6−4=0 −2a+2=0 a=1

Paso 2:   Condición para la diagonalización

Para que M sea diagonalizable, el autoespacio asociado a λ=3 debe tener dimensión 2. Esto se cumple si el rango de M−3I es 1 (porque una matriz de orden 3 con un autovalor de multiplicidad 2 y otra raíz simple debe tener un núcleo de dimensión 2). Sustituyendo a=1: M−3I=(−2232−2b000) Para que la dimensión del núcleo sea 2, una de las filas debe ser combinación lineal de las otras. La segunda fila debe ser un múltiplo de la primera: (2,−2,b)=k(−2,2,3) Igualando componentes:

1)   2=−2k⇒k=−1.
2)   −2=2k=−2 (se cumple).
3)   b=3k=−3.
Por lo tanto, a=1 y b=−3 garantizan que λ=3 sea autovalor doble y que M sea diagonalizable.