In der Theorie der dynamischen Systeme bezeichnet man eine unter einem Fluss invariante Menge als hyperbolische Menge, wenn der Fluss entlang dieser Menge in einigen Richtungen kontrahierend und in anderen Richtungen expandierend wirkt. Dieses Verhalten ist typisch für chaotische dynamische Systeme.
Sei ein Diffeomorphismus einer kompakten glatten Mannigfaltigkeit und sein Differential. Eine -invariante Teilmenge ist eine hyperbolische Menge, wenn die Einschränkung des Tangentialbündels auf sich als Whitney-Summe zweier -invarianter Unterbündel und zerlegen lässt, so dass (für eine geeignete Riemannsche Metrik) die Einschränkung von auf eine Kontraktion und die Einschränkung von auf eine Expansion ist. Das heißt,
und es gibt Konstanten so dass
und
Sei
ein Fluss auf einer kompakten glatten Mannigfaltigkeit . Für bezeichnen wir mit die Abbildung
und mit ihr Differential. Den Orbit eines Punktes bezeichnen wir mit
Eine unter allen invariante Teilmenge ist eine hyperbolische Menge, wenn die Einschränkung des Tangentialbündels auf sich als Whitney-Summe zweier -invarianter Unterbündel und und des Tangentialbündels der jeweiligen Orbiten zerlegen lässt, so dass (für eine geeignete Riemannsche Metrik) die Einschränkung von auf eine Kontraktion und die Einschränkung von auf eine Expansion ist. Das heißt,
und es gibt Konstanten so dass
und
Die durch die Definition einer hyperbolischen Menge gegebenen Bündel und heißen stabiles und instabiles Bündel, ihre Integralmannigfaltigkeiten heißen stabile und instabile Mannigfaltigkeiten.
Falls ist, spricht man von einem Anosov-Fluss bzw. Anosov-Diffeomorphismus. Allgemeiner werden in der Theorie der dynamischen Systeme häufig Axiom-A-Flüsse bzw. Axiom-A-Diffeomorphismen betrachtet.