In matematica, un operatore di Hilbert-Schmidt, il cui nome è dovuto a David Hilbert e Erhard Schmidt, è un operatore limitato su uno spazio di Hilbert per il quale una data norma, detta norma di Hilbert–Schmidt, è finita.
Sia uno spazio di Hilbert complesso, con antilineare nella prima variabile e lineare nella seconda. Un operatore limitato è un operatore di Hilbert-Schmidt se è finita la traccia del modulo quadro, ovvero se
In modo equivalente, poiché , si può definire la norma di Hilbert–Schmidt come la radice quadrata di
e dire che è un operatore di Hilbert-Schmidt se tale norma è finita. L'insieme è una qualunque base ortonormale di , mentre è la norma di . Inoltre, si verifica che
dove
La norma di Hilbert-Schmidt è un caso particolare della norma di Schatten p-esima
In uno spazio euclideo di dimensione finita è anche detta norma di Frobenius.
Il prodotto interno tra due operatori di Hilbert–Schmidt e è definito nel seguente modo
Tale forma hermitiana induce la norma di Hilbert-Schmidt sopra descritta, e rende la classe degli operatori di Hilbert-Schmidt uno spazio di Hilbert.