En geometría el Teorema de la rotación de Euler dice que, en un espacio tridimensional, cualquier movimiento de un sólido rígido que mantenga un punto constante, también debe dejar constante un eje completo. Esto también quiere decir que cualquier composición de rotaciones sobre un sólido rígido con ejes arbitrarios es equivalente a una sola rotación sobre un nuevo eje, llamado polo de Euler. Al ser la combinación de rotaciones otra rotación, el conjunto de las operaciones de rotación tiene una estructura algebraica conocida como grupo. En concreto al grupo de rotaciones se le conoce como "grupo especial ortogonal de dimensión 4" o SO(4)

El teorema toma su nombre de Leonhard Euler, que lo demostró en 1775 con un argumento geométrico. La extensión de este concepto a la cinemática da el concepto de Eje instantáneo de rotación.

En términos de álgebra lineal, esto también quiere decir que el producto de dos matrices de rotación es también una matriz de rotación y que todas ellas tienen un único autovalor real que debe ser la unidad.

Euler enuncia su teorema de la siguiente forma:^[1]​

Theorema. Quomodocunque sphaera circa centrum suum conuertatur, semper assignari potest diameter, cuius directio in situ translato conueniat cum situ initiali.

que en traducción libre sería:

Rotando una esfera de forma arbitraria alrededor de su centro, siempre es posible encontrar un diámetro cuya posición tras la rotación es igual que la inicial.

Para probar esto Euler primero toma un círculo máximo de la esfera fija y el círculo máximo correspondiente tras la rotación en la esfera rotada. Estos dos círculos se intersecan en dos puntos opuestos. Se escoge uno cualquiera A. Este punto está en el círculo inicial luego es transportado a otro punto a del segundo círculo. Pero también, A está en el círculo transportado, y por tanto corresponde a un punto α en el círculo inicial. En este punto, nótese que el arco aA debe ser igual al arco Aα.

Ahora Euler necesita un punto O en la superficie de la esfera situado de forma simétrica respecto de a y A. Si tal punto existe debe cumplir:

• las distancias OA y Oa son iguales; los arcos Oa y OA también;
• los arcos OA y Oa deben estar igualmente inclinados hacia los círculos y los arcos OAa y OAα deben ser iguales.

Euler define dos planos:

• el de simetría del ángulo αAa (que pasa por el centro C de la esfera), y
• el de simetría del arco Aa (que también pasa por C).

Proposición. Estos dos planos se intersecan en un diámetro de la esfera, el cual permanece fijo tras el movimiento.

Dem. Los planos se intersecan en un diámetro porque ambos pasan por el centro de la esfera. Sea O cualquiera de los puntos (hay dos) de corte del diámetro con la superficie de la esfera. Como αA se mueve a Aa y los triángulos tienen los mismos ángulos, el triángulo OαA se convierte en el triángulo OAa. Por tanto O debe permanecer fijo tras el movimiento. Lo mismo para el centro de la esfera y el punto antípoda de O.

Una demostración matricial es posible teniendo en cuenta que una rotación se representa por una matriz ortogonal, es decir, una tal que:

${\displaystyle \mathbf {R} ^{\mathrm {T} }\mathbf {R} =\mathbf {R} \mathbf {R} ^{\mathrm {T} }=\mathbf {E} ,}$

donde E es la identidad y T indica la traspuesta. Una matriz ortogonal tiene determinante ±1, siendo el +1 el característico de las de rotaciones.

${\displaystyle 1=\det(\mathbf {E} )=\det(\mathbf {R} ^{\mathrm {T} }\mathbf {R} )=\det(\mathbf {R} ^{\mathrm {T} })\det(\mathbf {R} )=\det(\mathbf {R} )^{2}\quad \Longrightarrow \quad \det(\mathbf {R} )=\pm 1.}$

La matriz de rotación R tiene al menos un autovector n con autovalor λ = 1.

${\displaystyle \det(-\mathbf {R} )=(-1)^{3}\det(\mathbf {R} )=-\det(\mathbf {R} )\quad {\hbox{and}}\quad \det(\mathbf {R} ^{-1})=1,}$

tenemos

${\displaystyle {\begin{aligned}\det(\mathbf {R} -\mathbf {E} )=&\det {\big (}(\mathbf {R} -\mathbf {E} )^{\mathrm {T} }{\big )}=\det {\big (}(\mathbf {R} ^{\mathrm {T} }-\mathbf {E} ){\big )}=\det {\big (}(\mathbf {R} ^{-1}-\mathbf {E} ){\big )}=\det {\big (}-\mathbf {R} ^{-1}(\mathbf {R} -\mathbf {E} ){\big )}\\=&-\det(\mathbf {R} ^{-1})\;\det(\mathbf {R} -\mathbf {E} )=-\det(\mathbf {R} -\mathbf {E} )\quad \Longrightarrow \quad \det(\mathbf {R} -\mathbf {E} )=0\end{aligned}}}$

luego λ = 1 es raíz de la ecuación

${\displaystyle \det(\mathbf {R} -\lambda \mathbf {E} )=0\quad {\hbox{for}}\quad \lambda =1.}$

Habrá al menos un vector n, para el que

${\displaystyle (\mathbf {R} -\mathbf {E} )\mathbf {n} =\mathbf {0} \quad \Longleftrightarrow \quad \mathbf {R} \mathbf {n} =\mathbf {n} }$

La línea dada por el espacio de todos los autovectores del autovalor 1 es el eje de Euler. Este teorema solo es válido cuando la dimensión del espacio real considerado es mayor estrictamente que 2 (es bastante evidente que la dimensión ha de cumplir la condición anterior porque en el plano bidimensional no queda ningún eje invariante bajo rotaciones).

La prueba algebraica de que esto no puede darse en el plano bidimensional es la siguiente: si consideramos la matriz por antonomasia de SO(2), la matriz de rotación, y le aplicamos la ecuación que iguala a 0 el polinomio característico de la transformación, tenemos que:

${\displaystyle \det(R)=\sin ^{2}{\theta }+\cos ^{2}{\theta }-2\cos {\theta }+1=0\Rightarrow 1-\cos {\theta }=0\Rightarrow \theta =0}$

Esta conclusión nos informa del hecho que no existe ninguna rotación (solamente la nula -que puede no considerarse rotación desde el punto de vista del movimiento-) tal que un autovalor de la matriz sea la unidad. Esto prueba que el teorema de rotación de Euler no tiene análogo en el plano, como cabía esperar.