In matematica, un operatore di classe traccia o operatore nucleare è un operatore compatto per il quale può essere definita una traccia. I termini "operatore di classe traccia" e "operatore nucleare" sono generalmente equivalenti, nonostante alcuni autori utilizzino il primo termine per identificare gli operatori nucleari definiti su uno spazio di Hilbert, riservando il secondo per gli operatori definiti su un più generale spazio di Banach.
Nel seguito, è uno spazio di Hilbert complesso, con antilineare nella prima variabile e lineare nella seconda. Sia un operatore lineare e positivo, ovvero tale che
Data una base ortonormale di , si definisce la traccia di il numero
Nel caso in cui non sia separabile, tale somma va intesa come il limite di un net. Si dimostra che tale somma è indipendente dalla scelta della base.
L'operatore è detto di classe traccia se la traccia del suo modulo è finita, ovvero se:
La traccia di un operatore può essere scritta in modo equivalente come:
Se ha dimensione finita, ogni operatore è di classe traccia e la precedente somma è equivalente alla definizione di traccia di una matrice.
Se un operatore positivo (e quindi autoaggiunto) è di classe traccia allora
In particolare un operatore di classe traccia è limitato, in quanto la norma di coincide con quella di .
Inoltre, un operatore autoaggiunto è di classe traccia se e solo se lo sono la sua parte positiva e negativa .