In der Theorie der dynamischen Systeme bezeichnet man eine unter einem Fluss invariante Menge als hyperbolische Menge, wenn der Fluss entlang dieser Menge in einigen Richtungen kontrahierend und in anderen Richtungen expandierend wirkt. Dieses Verhalten ist typisch für chaotische dynamische Systeme.
Definition für diskrete dynamische Systeme
Sei ein Diffeomorphismus einer kompakten glatten Mannigfaltigkeit und sein Differential.
Eine -invariante Teilmenge ist eine hyperbolische Menge, wenn die Einschränkung des Tangentialbündels auf sich als Whitney-Summe zweier -invarianter Unterbündel und zerlegen lässt, so dass (für eine geeignete Riemannsche Metrik) die Einschränkung von auf eine Kontraktion und die Einschränkung von auf eine Expansion ist. Das heißt,
und mit ihr Differential. Den Orbit eines Punktes bezeichnen wir mit
.
Eine unter allen invariante Teilmenge ist eine hyperbolische Menge, wenn die Einschränkung des Tangentialbündels auf sich als Whitney-Summe zweier -invarianter Unterbündel und und des Tangentialbündels der jeweiligen Orbiten zerlegen lässt, so dass (für eine geeignete Riemannsche Metrik) die Einschränkung von auf eine Kontraktion und die Einschränkung von auf eine Expansion ist. Das heißt,
für alle ,
and für alle
und es gibt Konstanten so dass
für alle und
und
für alle und .
Stabile und instabile Bündel, stabile und instabile Mannigfaltigkeiten
Die durch die Definition einer hyperbolischen Menge gegebenen Bündel und heißen stabiles und instabiles Bündel, ihre Integralmannigfaltigkeiten heißen stabile und instabile Mannigfaltigkeiten.
Eduard Zehnder: Lectures on dynamical systems. Hamiltonian vector fields and symplectic capacities. EMS Textbooks in Mathematics. European Mathematical Society (EMS), Zürich, 2010. ISBN 978-3-03719-081-4
Ken Palmer: Shadowing in dynamical systems. Theory and applications. Mathematics and its Applications, 501. Kluwer Academic Publishers, Dordrecht, 2000. ISBN 0-7923-6179-2
Zbigniew Nitecki: Differentiable dynamics. An introduction to the orbit structure of diffeomorphisms. The M.I.T. Press, Cambridge, Mass.-London, 1971.
Dmitri Anosov: Dynamical systems in the 1960s: the hyperbolic revolution. Mathematical events of the twentieth century, 1–17, Springer, Berlin, 2006.