Az ortogonális transzformáció az euklideszi tér lineáris transzformációja, amely megőrzi a vektorok hosszát vagy (ekvivalens) pontszorzatát. Ez azt jelenti, hogy bármely két vektorra az egyenlőség
ahol a háromszög zárójelek jelölik a skaláris szorzatot a térben .
Az euklideszi sík esetében minden helyes ortogonális transzformáció valamilyen szögön át történő elforgatás , és a mátrixa bármely ortonormális alapon a következő alakú
A nem megfelelő ortogonális transzformáció mátrixának alakja van
Szimmetrikus, sajátértékei 1 és -1, ezért involúció. Megfelelő ortonormális alapon a nem megfelelő ortogonális transzformációs mátrix alakja a következő
vagyis valamilyen vonalról való reflexió. A megfelelő ortogonális transzformáció két tükrözés eredménye:
A háromdimenziós térben minden helyes ortogonális transzformáció egy tengely körüli elforgatás, a nem megfelelő pedig egy tengely körüli elforgatás és egy merőleges síkban történő visszaverődés kompozíciója.
A következő általános tétel érvényesül:
Egy euklideszi dimenziós tér minden ortogonális transzformációjára érvényes a következő bővítés ahol az és az összes alterek páronként merőlegesek és a transzformáció invariáns alterei , és:
|
A transzformációs mátrix szempontjából ez a tétel a következőképpen fogalmazható meg:
Bármely ortogonális transzformációhoz létezik egy olyan ortonormális alap, amelyben a mátrixa blokk-átlós alakú: ahol a forgatási mátrix (lásd a fenti képletet), az egyesek száma megegyezik az altér méretével, a mínusz egyesek száma pedig az altér dimenziójával . |
Az ortogonális transzformációs mátrixnak ezt a jelölését néha kanonizálásnak nevezik.