In algebra lineare, il sottospazio ortogonale realizza il concetto di ortogonalità per sottospazi di uno spazio vettoriale munito di un prodotto scalare. Quando il prodotto scalare è definito positivo, il sottospazio ortogonale è spesso chiamato anche complemento ortogonale.
Sia uno spazio vettoriale su un campo munito di un prodotto scalare o di una forma hermitiana . Sia un sottospazio vettoriale di . Il sottospazio ortogonale di è l'insieme dei vettori ortogonali a tutti i vettori di :
Dove due vettori di sono detti ortogonali se e solo se .
Si dimostra facilmente che l'insieme , munito della somma e del prodotto mutuati da , è un sottospazio vettoriale di ; si dimostra inoltre che, se è il sottospazio generato dai vettori di , allora:
Il sottospazio ortogonale è un sottospazio vettoriale di . La sua dimensione non è fissata generalmente, ma vale la disuguaglianza:
Se il prodotto scalare o la forma hermitiana è non degenere, vale l'uguaglianza:
Infine, se e è un prodotto scalare definito positivo, oppure se e è una forma hermitiana definita positiva, lo spazio ed il suo ortogonale sono in somma diretta:
Questo è il caso ad esempio in ogni spazio euclideo o spazio di Hilbert. Lo stesso risultato vale se è definito negativo. Per questo motivo, se è definito positivo o negativo il sottospazio ortogonale è chiamato anche complemento ortogonale.
Valgono le relazioni seguenti per ogni coppia e di sottospazi di :
Se è non degenere, vale:
Il radicale di è definito come il sottospazio formato dai vettori che sono ortogonali a qualsiasi vettore di :
Un prodotto scalare (o forma hermitiana) è non degenere quando il radicale è il sottospazio banale (consta cioè del solo elemento zero).