Die Selbergsche Zetafunktion ist eine Funktion aus dem mathematischen Gebiet der harmonischen Analysis. Sie wird verwendet, um den Zusammenhang zwischen den Eigenwerten des Laplace-Operators und dem Längenspektrum einer hyperbolischen Fläche zu untersuchen.
Es sei eine hyperbolische Fläche oder Orbifaltigkeit. Für eine einfache geschlossene Geodäte bezeichne ihre Länge. Die Selbergsche Zetafunktion wird durch meromorphe Fortsetzung der für durch
gegebenen Funktion definiert.
Die Nullstellen der Selbergschen Zetafunktion sind diejenigen Zahlen , die die Gleichung
für einen der Eigenwerte
des Laplace-Operators auf erfüllen.
Für hat man die Identität
Dabei bezeichnet den Mayerschen Transferoperator auf dem Raum der Funktionen, die auf der offenen Kreisscheibe mit Mittelpunkt und Radius holomorph und auf ihrem Rand stetig sind. Er ist definiert durch