Az ortogonális mátrix egy valós elemekkel rendelkező négyzetmátrix , amelynek a transzponált mátrixszal való szorzása megegyezik az azonosságmátrixszal [1] :
vagy ennek megfelelő inverz mátrixa (amely szükségszerűen létezik) egyenlő a transzponált mátrixszal:
Az ortogonális mátrix komplex analógja az egységes mátrix .
A determinánssal rendelkező ortogonális mátrixot speciális ortogonálisnak nevezzük .
Más szóval, egy sor saját magával való pontszorzata 1, bármely másik soré pedig 0. Ugyanez igaz az oszlopokra is.