Il problema di Wahba, originariamente formulato da Grace Wahba nel 1965, consiste nel determinare una matrice di rotazione (ovvero una matrice del gruppo ortogonale speciale) che meglio approssima la trasformazione fra due sistemi di coordinate a partire da due insiemi di osservazioni vettoriali. Un tipico esempio di applicazione consiste nel determinare l'assetto di un velivolo o satellite artificiale a partire da osservazioni ottenute da diversi sensori (che possono includere GNSS, giroscopio, magnetometro, accelerometro, etc.).
Tra le soluzioni al problema, vi sono il metodo q di Davenport, l'algoritmo QUEST, e diversi metodi basati sulla decomposizione ai valori singolari (SVD).
Il problema di Wahba è correlato al problema di Procuste ortogonale, con la differenza che quest'ultimo ammette come soluzioni matrici ortogonali che non rappresentano necessariamente rotazioni.
La funzione costo ottimizzata nel problema di Wahba con osservazioni è
dove è il k-esimo vettore osservato nel sistema di coordinate di riferimento, è il k-esimo vettore osservato nel sistema di coordinate solidali, è una matrice di rotazione tra i due sistemi di coordinate, e è un insieme di pesi.
È possibile risolvere il problema di Wahba tramite decomposizione ai valori singolari. Tale metodo è tuttavia usato meno comunemente rispetto ad altre soluzioni per via del suo costo computazionale. Definendo una matrice come
è possibile fattorizzare nella sua decomposizione ai valori singolari
La soluzione al problema di Wahba si ottiene come
dove