Diagonalización y potencia iterada

Matemática · Lección 10

L3 Derivación Fase F1 Libro MML §4.4 Prereqs Eigenvalores · Producto interno

Objetivo

Al terminar esta lección se puede:

  1. Definir qué significa que una matriz sea diagonalizable y demostrar que equivale a tener una base de eigenvectores.
  2. Demostrar que eigenvectores de eigenvalores distintos son linealmente independientes, y que en una matriz simétrica son además perpendiculares.
  3. Demostrar que A^k = PD^kP^{-1} y usarlo para calcular potencias, sucesiones recurrentes y límites sin multiplicar matrices.
  4. Demostrar por qué la potencia iterada converge al eigenvector dominante, a qué velocidad, y cuándo deja de servir.

De dónde viene

  • Matemática 9: los eigenvalores y eigenvectores, el polinomio característico y el hecho de que una matriz simétrica los tenga reales. Esta lección los organiza en una factorización.
  • Matemática 4 y 5: el producto interno y la ortogonalidad, que son lo que hace especial al caso simétrico.
  • Matemática 3: la independencia lineal, que es exactamente la condición que decide si una matriz es diagonalizable.

Para qué sirve después

  • Matemática 11: la descomposición en valores singulares hace lo mismo para matrices que no son cuadradas, y se construye diagonalizando A^\top A.
  • Matemática 12: una forma cuadrática es definida positiva exactamente cuando todos los eigenvalores lo son, y eso se ve en la diagonalización.
  • Estadística 12: los ejes de una elipse de covarianza son los eigenvectores de \Sigma, y el análisis de componentes principales es esta factorización aplicada a una matriz de covarianza.
  • Cadenas de Markov: la distribución límite es el eigenvector dominante de la matriz de transición, y la velocidad de convergencia es la razón entre el primero y el segundo eigenvalor.

Notación

Símbolo Se lee Significado
A A Matriz cuadrada n\times n
\lambda_i lambda sub i Los eigenvalores, ordenados de mayor a menor en valor absoluto
q_i cu sub i Los eigenvectores, normalizados a norma 1
P pe La matriz cuyas columnas son los eigenvectores
D, \Lambda de, lambda La matriz diagonal de los eigenvalores
Q cu mayúscula P cuando sus columnas son ortonormales, que ocurre si A es simétrica
v^\top A v cociente de Rayleigh Con \|v\|=1, la estimación del eigenvalor asociada a la dirección v

1. Escribir la matriz en su propia base

Definición 10.1 (diagonalizable). A es diagonalizable si existen una matriz invertible P y una diagonal D con A = P\,D\,P^{-1}.

Proposición 10.2 (qué son P y D). A es diagonalizable si y solo si tiene n eigenvectores linealmente independientes. En tal caso se puede tomar P con esos eigenvectores por columnas y D con los eigenvalores correspondientes en la diagonal.

Demostración. Supóngase A=PDP^{-1} con D=\operatorname{diag}(\lambda_1,\dots,\lambda_n). Multiplicando por P a la derecha, AP = PD. La columna j de esa igualdad dice A\,P_{:,j} = \lambda_j\,P_{:,j}, porque multiplicar P por una matriz diagonal escala cada columna. Es decir, cada columna de P es un eigenvector con eigenvalor \lambda_j; y las columnas son independientes porque P es invertible.

Recíprocamente, si hay n eigenvectores independientes q_1,\dots,q_n con eigenvalores \lambda_1,\dots,\lambda_n, constrúyase P con ellos por columnas. Es invertible por tener columnas independientes (lección 3), y AP=PD por la misma cuenta leída al revés, de donde A=PDP^{-1}. ∎

Conviene leer la definición como un cambio de base: P^{-1} traduce las coordenadas usuales a la base de eigenvectores, D estira cada eje por su eigenvalor, y P traduce de vuelta. En su propia base, la matriz solo estira ejes, y todo lo difícil desaparece.

Proposición 10.3 (eigenvalores distintos bastan). Eigenvectores asociados a eigenvalores distintos dos a dos son linealmente independientes. En particular, si A tiene n eigenvalores distintos, es diagonalizable.

Demostración. Por inducción sobre el número de vectores. Con uno es cierto, porque un eigenvector es no nulo por definición. Supóngase cierto para m-1 y sea c_1q_1+\dots+c_mq_m = 0 \tag{$\ast$} con los \lambda_i distintos. Aplicando A a (\ast) se obtiene \sum_i c_i\lambda_iq_i=0; multiplicando (\ast) por \lambda_m y restando, \sum_{i=1}^{m-1} c_i(\lambda_i-\lambda_m)\,q_i = 0. Por hipótesis de inducción los m-1 primeros son independientes, así que c_i(\lambda_i-\lambda_m)=0 para i<m; y como \lambda_i\ne\lambda_m, resulta c_i=0. Sustituyendo en (\ast) queda c_mq_m=0 con q_m\ne0, luego c_m=0. ∎

La condición es suficiente pero no necesaria, y el caso que falla conviene tenerlo a mano: la matriz \begin{pmatrix}2&1\\0&2\end{pmatrix} tiene el eigenvalor 2 repetido y un solo eigenvector independiente, así que no hay base que la diagonalice. La celda de más abajo lo comprueba mirando el rango de su matriz de eigenvectores.

Proposición 10.4 (el caso simétrico). Si A es simétrica, eigenvectores de eigenvalores distintos son ortogonales, y se puede elegir P ortogonal: A = Q\Lambda Q^\top con Q^\top Q=I.

Demostración. Sean Au=\lambda u y Av=\mu v con \lambda\ne\mu. Usando la simetría de A para mover la matriz de un lado a otro del producto interno, \lambda\,\langle u,v\rangle = \langle Au, v\rangle = u^\top A^\top v = u^\top A v = \langle u, Av\rangle = \mu\,\langle u,v\rangle, de donde (\lambda-\mu)\langle u,v\rangle = 0 y, al ser \lambda\ne\mu, \langle u,v\rangle=0. Que los eigenvalores sean reales y que exista una base ortonormal completa incluso con eigenvalores repetidos es el teorema espectral, enunciado en la lección 9 y no demostrado aquí. Con Q ortonormal, Q^{-1}=Q^\top —Proposición 7.2—, y la Definición 10.1 se escribe A=Q\Lambda Q^\top. ∎

2. Potencias: lo que la factorización sirve para calcular

Proposición 10.5 (potencias). Si A=PDP^{-1}, entonces para todo k\ge1 A^k = P\,D^k\,P^{-1}, \qquad D^k = \operatorname{diag}(\lambda_1^k,\dots,\lambda_n^k).

Demostración. Por inducción: A^1=PDP^{-1}, y si A^k=PD^kP^{-1} entonces A^{k+1} = A\,A^{k} = PDP^{-1}\,PD^kP^{-1} = P\,D\,\underbrace{P^{-1}P}_{I}\,D^kP^{-1} = P\,D^{k+1}P^{-1}. Elevar una matriz diagonal es elevar cada entrada, porque el producto de diagonales multiplica entrada a entrada. ∎

Multiplicar cien veces una matriz cuesta cien productos; con la factorización cuesta elevar n números a la centésima. Y, más importante que el ahorro: la fórmula dice qué pasa cuando k crece, porque cada eigenvalor entra elevado a k y los que tienen módulo menor se apagan.

3. La potencia iterada

Si el objetivo no es la matriz entera sino solo su dirección dominante, ni siquiera hace falta calcular eigenvalores: basta multiplicar y renormalizar.

Proposición 10.6 (convergencia de la potencia iterada). Sea A diagonalizable con eigenvalores ordenados |\lambda_1|>|\lambda_2|\ge\dots\ge|\lambda_n| y eigenvectores q_1,\dots,q_n. Sea v_0 un vector cuya coordenada en q_1 no sea nula, y defínase v_{k+1}=Av_k/\|Av_k\|. Entonces v_k converge a \pm q_1, el error se comporta como \Big\|v_k \mp q_1\Big\| = O\!\left(\left|\frac{\lambda_2}{\lambda_1}\right|^{k}\right), y el cociente de Rayleigh v_k^\top A v_k converge a \lambda_1.

Demostración. Escríbase v_0 en la base de eigenvectores, v_0=\sum_i c_iq_i con c_1\ne0 por hipótesis. Por la Proposición 10.5, A^kv_0 = \sum_i c_i\lambda_i^k q_i = \lambda_1^k\left(c_1q_1 + \sum_{i\ge2} c_i\Big(\frac{\lambda_i}{\lambda_1}\Big)^{k} q_i\right). Cada factor (\lambda_i/\lambda_1)^k tiende a cero porque |\lambda_i|<|\lambda_1|, y el mayor de ellos es |\lambda_2/\lambda_1|^k, que domina la suma. Normalizar elimina el factor \lambda_1^k y deja un vector que difiere de q_1/\|q_1\| en un término de ese orden; el signo depende del de \lambda_1^k, y por eso la convergencia es a q_1 salvo signo. Para el cociente de Rayleigh, con v_k\to\pm q_1 y por continuidad, v_k^\top A v_k \longrightarrow q_1^\top A q_1 = \lambda_1\,q_1^\top q_1 = \lambda_1. ∎

Las dos hipótesis son las que se rompen en la práctica. Si c_1=0 —el vector inicial no tiene nada del eigenvector dominante— el método converge a otra dirección; en punto flotante suele salvarse solo, porque el redondeo introduce una componente minúscula que acaba creciendo. Y si |\lambda_2|\approx|\lambda_1|, la razón se acerca a uno y la convergencia se vuelve inútilmente lenta: el visual lo muestra con la segunda matriz.

La última columna de la tabla es la Proposición 10.6 medida: al dividir el error entre |\lambda_2/\lambda_1|^k el cociente se estabiliza en torno a 0{,}75, de modo que el error no cae solo «rápido», cae exactamente a ese ritmo geométrico.

4. Dos aplicaciones que caben en una línea

La primera es una sucesión recurrente. Escribiendo \binom{F_{n+1}}{F_n} = A\binom{F_n}{F_{n-1}} con A=\begin{pmatrix}1&1\\1&0\end{pmatrix}, la sucesión de Fibonacci es una potencia de matriz, y la Proposición 10.5 da su fórmula cerrada.

Los eigenvalores de esa matriz son la razón áurea y su conjugado, y por eso el cociente entre términos consecutivos converge a \varphi: es la Proposición 10.6 con |\lambda_2/\lambda_1| = 0{,}382. La fórmula cerrada reproduce los enteros de la sucesión con error de redondeo de orden 10^{-12}.

La segunda aplicación es el caso simétrico, donde la factorización se vuelve ortogonal y ya no hay ninguna inversa que calcular.

Las tres comprobaciones del caso simétrico —ortonormalidad de Q, la factorización Q\Lambda Q^\top y la inversa igual a la traspuesta— salen exactas, y la última parte muestra la matriz que no se puede diagonalizar: su matriz de eigenvectores tiene rango 1 en vez de 2.

Ejercicios

Ejercicio 1 — Una cadena de Markov y su distribución límite

Una matriz de transición tiene siempre el eigenvalor 1, y su eigenvector asociado —normalizado para sumar uno— es la distribución límite. Comprobarlo, y medir la velocidad de convergencia con la razón entre el primer y el segundo eigenvalor.

Ejercicio 2 — Cuándo la potencia iterada se atasca

Construir dos matrices simétricas con los mismos eigenvectores y eigenvalores \{5, 2\} y \{5, 4.9\}, aplicar la potencia iterada a las dos desde el mismo punto y contar cuántos pasos hace falta para bajar de un error de 10^{-6}.

Reto

En proyectos/notebooks/F1-retos.ipynb, sección Mat 10:

  1. Escribir potencia_iterada(A, tol) que devuelva el eigenvalor y el eigenvector dominantes con el cociente de Rayleigh, contando iteraciones. Añadir deflación: restar \lambda_1q_1q_1^\top a la matriz simétrica y repetir para obtener el segundo par. Comprobar los dos contra np.linalg.eigh en cien matrices aleatorias.
  2. Tomar una matriz de transición de cinco estados y graficar la distancia a la distribución límite en escala logarítmica contra k. Comprobar que la pendiente es \log|\lambda_2|, y explicar con eso qué significa el tiempo de mezcla de una cadena.
  3. Construir una matriz 2\times2 no diagonalizable y aplicarle la potencia iterada. ¿Converge? ¿A qué? Después perturbarla con ruido de 10^{-9} y repetir: explicar por qué en punto flotante «casi nunca» se ve una matriz no diagonalizable, y qué peligro esconde eso.

Del libro

Mathematics for Machine Learning trata este material en §4.4 Eigendecomposition and Diagonalization, después de los eigenvalores de §4.2 que cubrió la lección 9. El libro tiene copyright y no es descargable desde el entorno en que se escribió esta página, así que se cita número y título y no se le atribuye ninguna frase.

Preguntas para leer §4.4 con lápiz:

  1. MML enuncia la diagonalización para matrices con base de eigenvectores y trata aparte el caso simétrico. ¿Qué gana exactamente el caso simétrico, según la Proposición 10.4, y por qué eso importa para el cálculo?
  2. El libro relaciona el determinante y la traza con los eigenvalores. Comprobar con la Proposición 10.5 que \det(A^k)=(\det A)^k y que la traza de A^k es la suma de los \lambda_i^k.
  3. §4.4 menciona que la diagonalización no siempre existe. ¿Qué condición de la Proposición 10.2 falla en \begin{pmatrix}2&1\\0&2\end{pmatrix}, y qué factorización se usa en su lugar?

Para el Cerebro

Nota nueva en 10-Conceptos/diagonalizacion.md, enlazada a [[eigenvector]], [[base-y-coordenadas]] y [[matriz-de-covarianza]]. La Proposición 10.6 conviene rehacerla a mano: es escribir el vector en la base propia y sacar factor común \lambda_1^k, y de esas dos líneas sale toda la teoría de convergencia de los métodos iterativos.

¿Qué significa que A sea diagonalizable?::Que se escriba A = P D P⁻¹ con D diagonal
¿Qué son P y D?::Las columnas de P son eigenvectores independientes y D tiene sus eigenvalores
¿Cuándo es diagonalizable una matriz?::Exactamente cuando tiene n eigenvectores linealmente independientes
¿Bastan eigenvalores distintos?::Sí, son suficientes pero no necesarios: garantizan independencia (Proposición 10.3)
¿Qué pasa con [[2,1],[0,2]]?::Eigenvalor 2 doble con un solo eigenvector: no es diagonalizable
¿Qué gana el caso simétrico?::Eigenvectores ortogonales, así que P se toma ortogonal y P⁻¹ = Pᵀ
¿Cuánto vale A^k?::P D^k P⁻¹, y D^k eleva cada eigenvalor a k
¿Por qué converge la potencia iterada?::Porque al escribir v en la base propia, cada coordenada se multiplica por λᵢ^k y la dominante se impone
¿A qué velocidad converge?::El error cae como |λ₂/λ₁|^k
¿Qué dos hipótesis necesita?::Que |λ₁| > |λ₂| y que el vector inicial tenga componente no nula en q₁
¿Qué es el cociente de Rayleigh?::vᵀAv con ‖v‖ = 1; converge al eigenvalor dominante
¿Qué es la distribución límite de una cadena de Markov?::El eigenvector del eigenvalor 1, normalizado para sumar uno

Fuentes

Lo que esta página demuestra sola. Las Proposiciones 10.2, 10.3, 10.5 y 10.6 y la parte de ortogonalidad de la 10.4 se demuestran aquí, a partir de la definición de eigenvector de la lección 9 y de la independencia lineal de la lección 3. Se comprueban además numéricamente: A=PDP^{-1} y AP=PD; que A^{12} por multiplicación repetida y por PD^{12}P^{-1} coinciden; la tasa de convergencia de la potencia iterada, con el error dividido entre |\lambda_2/\lambda_1|^k estabilizándose; Fibonacci con la razón áurea como eigenvalor y su fórmula cerrada; el caso simétrico con Q^\top Q=I; y una matriz no diagonalizable detectada por el rango de su matriz de eigenvectores. Los dos visuales se contrastaron antes de publicarse: 3 matrices × 180 direcciones iniciales para el primero, y 3 matrices × 15 potencias para el segundo.

Lo que se usa de otras lecciones sin repetir. Eigenvalores, eigenvectores y polinomio característico son la lección 9. La independencia lineal y el rango, la lección 3. Que una matriz de columnas ortonormales cumple Q^{-1}=Q^\top es la Proposición 7.2.

Lo que se enuncia sin demostrar. El teorema espectral completo: que una matriz simétrica real tiene siempre una base ortonormal de eigenvectores, incluso con eigenvalores repetidos. Aquí se demuestra solo que eigenvectores de eigenvalores distintos son ortogonales; el caso repetido necesita un argumento de inducción sobre subespacios invariantes que este plan no ha visto. Queda usado en la Proposición 10.4 y declarado aquí.

Lo que viene de los libros.

  • Mathematics for Machine Learning (Deisenroth, Faisal & Ong, Cambridge University Press, 2020), §4.4 Eigendecomposition and Diagonalization — citada por número y título, sin transcribir texto.

Lo que es mío, no del libro. La Proposición 10.6 con la cota explícita |\lambda_2/\lambda_1|^k y su comprobación numérica dividiendo el error entre esa cantidad; la lectura de la diagonalización como cambio de base —traducir, estirar, traducir de vuelta—; y el hilo que une la potencia iterada con la distribución límite de una cadena de Markov y con el análisis de componentes principales de Estadística 12.

Índices verificados el 12-09-2026 contra el índice publicado del PDF oficial.

→ Siguiente: Descomposición en valores singulares