Runge-Kutta-Verfahren

Einige Runge-Kutta-Verfahren im Vergleich.

Die nach Carl Runge und Martin Wilhelm Kutta benannten s-stufigen Runge-Kutta-Verfahren sind Einschrittverfahren zur näherungsweisen Lösung von Anfangswertproblemen in der numerischen Mathematik. Wenn von dem Runge-Kutta-Verfahren gesprochen wird, ist in der Regel das klassische Runge-Kutta-Verfahren gemeint; dieses bildet jedoch nur einen Spezialfall dieser Familie von Verfahren.

Allgemeine Formulierung

Gegeben sei ein Anfangswertproblem:

y′(t)=f(t,y(t)),y(t0)=y0,y:ℝ→ℝd

mit exakter Lösung y(t). Die exakte Lösung kann im Allgemeinen nicht oder nicht effizient angegeben werden, weshalb man sich mit einer Näherung yn an diskreten Stellen tn begnügt. Es gibt verschiedene Methoden zur Berechnung dieser Näherung, zum Beispiel Einschrittverfahren, wie diese Runge-Kutta-Verfahren, oder Mehrschrittverfahren.

Die s-stufigen Runge-Kutta-Verfahren sind Einschrittverfahren, die durch Ausdrücke der folgenden Art gegeben sind:

yn+1=yn+h∑j=1sbjkj.

Dabei bezeichnet h die Schrittweite zwischen den aufeinanderfolgenden Stützstellen tn und tn+1. Die Koeffizienten bj definieren das jeweilige Verfahren und können als Gewichte der Quadraturformel für das Integral ∫tntn+1f(t,y(t))dt interpretiert werden. Die Größen kj bezeichnet man als Zwischenschritte, sie entsprechen Auswertungen der rechten Seite f an bestimmten Knoten:

kj=f(tn+hcj,yn+h∑l=1sajlkl),j=1,...,s.

Die cj und ajl sind weitere für das Verfahren charakteristische Koeffizienten und können als Knoten und Gewichte der Quadraturformeln zur Berechnung der kj verstanden werden.

Ein allgemeines Runge-Kutta-Verfahren ist implizit, es müssen also zur Bestimmung der kj (lineare oder nichtlineare, je nach Aufbau von f) Gleichungssysteme gelöst werden, weil in der Formel für kj sowohl links wie auch rechts alle k. vorkommen. Gilt aber ajl=0 für alle l≥j, dann ist das Verfahren explizit, d. h. man muss kein Gleichungssystem lösen: Denn dann kann man jedes kj aus den vorher bestimmten kl mit l<j ermitteln.

Die Steuerung der Schrittweite h ist von besonderem Interesse. Man kann sich leicht vorstellen, dass die Funktion in Bereichen, in denen nur geringe Änderungen zwischen yn+1 und yn vorliegen, mit weniger Rechenschritten auskommt als in solchen, in denen schnelle Änderungen vorliegen.

Beispiel

Ein Beispiel ist das dreistufige Runge-Kutta-Verfahren: yn+1=yn+h⋅(16k1+46k2+16k3) mit den Zwischenstufen

k1=f(tn,yn)
k2=f(tn+h2,yn+h2k1)
k3=f(tn+h,yn−hk1+2hk2)

Butcher-Tableau

Man kann die charakteristischen Koeffizienten cj, bj, ajl übersichtlich im Runge-Kutta-Tableau (auch Butcher-Schema, -Tableau oder engl. Butcher array genannt) anordnen. Hierbei ist die Matrix A bei einem expliziten Verfahren eine strikte untere Dreiecksmatrix (Nilpotente Dreiecksmatrix).

𝐜A𝐛𝐓=c1a11a12…a1sc2a21a22…a2s⋮⋮⋮⋱⋮csas1as2…assb1b2…bs,  c=[c1⋮cj⋮cs],b=[b1⋮bj⋮bs],A=[a11…a1l…a1s⋮⋱⋮⋱⋮aj1…ajl…ajs⋮⋱⋮⋱⋮as1…asl…ass].

Konsistenzordnung und Konvergenzordnung

Eine wichtige Eigenschaft zum Vergleich von Verfahren ist die Konsistenzordnung, die auf dem Begriff des lokalen Diskretisierungsfehlers τ=yn+1−y(tn+1) beruht. Dabei ist yn+1 die numerische Lösung nach einem Schritt und y(tn+1) die exakte Lösung. Ein Einschrittverfahren heißt konsistent von der Ordnung p (hat Konsistenzordnung p), falls für den lokalen Diskretisierungsfehler gilt:

τ≤𝒪(hp+1) (Zur Notation siehe Landau-Symbole).

Die Konsistenzordnung kann durch Taylorentwicklung von τ oder der exakten und numerischen Lösung bestimmt werden. Allgemein gilt:

Konsistenzordnung p und Stabilität ⇒ Konvergenzordnung p

Bei Einschrittverfahren wie den Runge-Kutta-Verfahren gilt sogar, sofern f und die Verfahrensvorschrift Lipschitz-stetig sind:

Konsistenzordnung p ⇒ Konvergenzordnung p

Aus der Konsistenzbedingung (z. B. soll das Verfahren Ordnung 4 haben) ergeben sich Konsistenzgleichungen (engl. conditions) für die Koeffizienten des Runge-Kutta-Verfahrens. Die Gleichungen und ihre Anzahl können mit Hilfe von Taylorentwicklung oder der Theorie der Butcher-Bäume ermittelt werden. Mit zunehmender Ordnung wächst die Zahl der zu lösenden nicht-linearen Konsistenzgleichungen schnell an. Das Aufstellen der Konsistenzgleichungen ist bereits nicht einfach, kann jedoch mit Hilfe der Butcher-Bäume von Computeralgebrasystemen erledigt werden. Das Lösen ist allerdings noch schwieriger und bedarf Erfahrung und Fingerspitzengefühl, um „gute“ Koeffizienten zu erhalten.

Ein explizites s-stufiges Runge-Kutta-Verfahren hat höchstens Konvergenzordnung s, ein implizites dagegen bis zu 2s.

Um die Genauigkeit eines Ergebnisses zu verbessern, gibt es zwei Möglichkeiten:

  1. Man kann die Schrittweite verkleinern, das heißt, man erhöht die Anzahl der Diskretisierungspunkte.
  2. Man kann Verfahren höherer Konvergenzordnung wählen.

Welche Strategie die bessere ist, hängt von der konkreten Problemstellung ab, die Erhöhung der Konvergenzordnung ist allerdings nur bis zu einer bestimmten Grenze sinnvoll, da wegen der Butcher-Schranken die Stufenzahl s schneller wächst als die Ordnung p. Für s≥5 existiert beispielsweise kein explizites s-stufiges Runge-Kutta-Verfahren der Konvergenzordnung q=s. Basierend auf Resultaten von Butcher ergibt sich folgende Übersicht über die maximal erreichbare Konvergenzordnung q bei gegebener Anzahl der Stufen s:

Mit gegebener Stufenzahl maximal erreichbare Konvergenzordnung eines expliziten Runge-Kutta-Verfahrens
Anzahl Stufen s123456789
maximale Ordnung q123445667

Ein explizites Runge-Kutta-Verfahren der Ordnung p benötigt immer mindestens s≥p Stufen. Diese untere Schranke an s ist für 1≤p≤4 größtmöglich, wie unten aufgeführte Beispiele klassischer Verfahren zeigen. Ist p≥5, dann benötigt man s≥p+1, und diese Schranke ist für 5≤p≤6 scharf (siehe z. B. das Verfahren von Kutta-Nyström von 5. Ordnung unter Beispiele und weitere von Butcher angegebene Verfahren der Ordnung 6). Ab p≥7 folgt sogar s≥p+2, und diese Schranke ist für p=7 scharf (siehe z. B. das neunstufige Verfahren von Butcher unter Beispiele). Ab p≥8 folgt noch schärfer s≥p+3, und diese untere Schranke an s ist zumindest für p=8 scharf. Dazu wurden bereits 1970 von Curtis und 1972 von Cooper und Verner explizite Verfahren von Konvergenzordnung p=8 mit s=11 Stufen konstruiert. Für die kleinstmögliche Stufenzahl gilt also:

Minimal notwendige Anzahl an Stufen eines expliziten Runge-Kutta-Verfahrens von vorgegebener Konvergenzordnung
Konvergenzordnung p12345678
minimale Stufenanzahl s123467911

Nach Butcher ist für p∈{9,10} die optimale Anzahl an Stufen eines expliziten Runge-Kutta-Verfahrens mit Konvergenzordnung p aktuell (Publikationsjahr 2016) unbekannt. Für p=10 gab Ernst Hairer 1978 ein explizites Verfahren mit s=17 Stufen an, d. h., die minimale Stufenanzahl liegt für p=10 im Bereich p+3=13≤s≤17.

Implizite Runge-Kutta-Verfahren

Explizite Verfahren haben den Vorteil, dass die Stufen durch sukzessives Einsetzen berechenbar sind, beim impliziten Verfahren muss dagegen je nach Form der rechten Seite f∈ℝd ein lineares oder nichtlineares Gleichungssystem mit s⋅d Unbekannten gelöst werden, was pro Zeitschritt einen wesentlich höheren Aufwand darstellt. Der Grund, warum implizite Verfahren überhaupt in Betracht gezogen werden, ist, dass explizite Runge-Kutta-Verfahren stets ein beschränktes Stabilitätsgebiet haben, während implizite Runge-Kutta-Verfahren für praktisch beliebig hohe Ordnungen A-stabil sein können und damit Einschränkungen an den Zeitschritt nur aufgrund von Genauigkeitsüberlegungen und nicht aufgrund von Stabilitätsbeschränkungen notwendig sind. Dies ist insbesondere bei steifen Anfangswertproblemen und differentiell-algebraischen Gleichungen interessant.

Die maximale Ordnung eines s-stufigen Runge-Kutta-Verfahrens ist 2s. Diese wird ausschließlich durch die Gauß-Legendre-Verfahren erzielt, bei denen die Quadraturformeln zur Konstruktion des Runge-Kutta-Verfahren den Gauß-Legendre-Formeln entsprechen. Ordnung 2s−1 wird etwa mittels Radau-Formeln erzielt, die Runge-Kutta-Verfahren heißen dann Radau-Verfahren, während Ordnung 2s−2 über Lobatto-Formeln erzielt wird, die Verfahren heißen dann Lobatto-Verfahren.

Um die Lösung eines Gleichungssystems mit s⋅d Unbekannten zu umgehen, werden häufig Diagonal Implizite Runge-Kutta-Verfahren (kurz DIRK) genutzt. Dabei hat die Matrix A im Butcher-Array Dreieckform, alle Einträge rechts oberhalb der Diagonalen sind also Null. Dies entkoppelt das große Gleichungssystem in eine Sequenz von s Gleichungssystemen. Ist darüber hinaus der Koeffizient auf der Diagonalen konstant, spricht man von einem SDIRK-Verfahren (für singly diagonal). Sind die Koeffizienten in der letzten Zeile von A identisch mit denen des Vektors b, so wird etwas Aufwand gespart, insbesondere sind die Verfahren dann aber auch L-stabil. Diese Vereinfachung geschieht auf Kosten der maximalen Ordnung: s-stufige DIRK-Verfahren haben maximal Ordnung s+1, wobei dieses Maximum nicht für beliebige Stufen erreicht werden kann. Die in der Praxis verwandten Verfahren haben in der Regel Ordnung s oder weniger.

Als Alternative zu DIRK-Verfahren haben sich noch die linear impliziten Verfahren etabliert, insbesondere die Rosenbrock-Wanner-Verfahren, bei denen die nichtlinearen Gleichungen durch lineare angenähert werden.

Schrittweitensteuerung: Eingebettete Verfahren

Wenn Probleme in der numerischen Approximation gefunden werden, wie zum Beispiel zusätzliche dissipative Effekte, kann die Schrittweite hi auch automatisch an Schätzungen der lokalen Fehler ϵ angepasst werden:

Beim Runge-Kutta-Verfahren kann der lokale Fehler ϵ durch den Vergleich zweier verschiedener Sätze an Koeffizienten bj und b̂j unterschiedlicher Ordnung abgeschätzt werden. Die Differenz der Vorhersagen mit den unterschiedlichen Koeffizienten

yn+1−ŷn+1=hi∑j=1s(bj−b̂j)kj

verwendet die bereits berechneten Zwischenschritte kj wieder und wird zur Schätzung des lokalen Fehlers ϵ verwendet. Die Schrittweite hi wird entsprechend diesem lokalen Fehler ϵ angepasst. Das führt je nach Algorithmus zur Wiederholung der Berechnung mit kleinerer Schrittweite.

Die Bestimmung einer neuen Schrittweite aus dem Fehlerschätzer kann über verschiedene Schrittweitensteuerungen erfolgen. Die bekanntesten eingebetteten Verfahren sind das Runge-Kutta-Fehlberg-Verfahren sowie die Dormand-Prince-Formeln(DOPRI).

Geschichte

Die ersten Runge-Kutta-Verfahren wurden um 1900 von Karl Heun, Martin Wilhelm Kutta, und Carl Runge entwickelt. In den 1960ern entwickelte John C. Butcher mit den vereinfachenden Bedingungen und dem Butcher-Tableau Werkzeuge, um (insbesondere explizite) Verfahren höherer Ordnung zu entwickeln. Durch Arbeiten bis in die 1970er Jahre wurde klar, dass gewisse der bis dahin entwickelten expliziten Verfahren von bis zu 7. Ordnung die kleinstmögliche Anzahl an Stufen aufwiesen. Ergebnisse von Butcher zeigten, dass dabei für p≥7 mindestens p+2 Stufen notwendig waren. Für die Ordnung 8 wurden zu Beginn der 1970er Jahre von Curtis und Cooper und Verner Verfahren mit 11 Stufen vorgestellt, wobei die optimale Stufenanzahl solcher Verfahren noch 1978 mit 10 oder 11 unklar war. Curtis veröffentlichte 1975 ein Verfahren der Ordnung 10 mit 18 Stufen. Ernst Hairer verbesserte dieses Ergebnis 1978 durch ein Verfahren 10. Ordnung mit nur 17 Stufen, wie Butcher schreibt, „using an ingenious combination of various simplifying assumptions“. Die Optimalität der Stufenanzahl 17 ist für diesen Fall noch heute unbekannt (Publikationsjahr 2016); die Optimalität der Verfahren 8. Ordnung von Curtis und Cooper—Verner in Bezug auf die Stufenanzahl wurde hingegen 1985 von Butcher schließlich bestätigt. 2006 wurde, basierend auf Hairers 17-stufigem Verfahren, von Ono ein 25-stufiges Verfahren der Ordnung 12 publiziert.

Beispiele

Das explizite Euler-Verfahren (Ordnung 1):

01

Das implizite Euler-Verfahren (Ordnung 1):

111

Das Heun-Verfahren (Ordnung 2):

0111212

Das Runge-Kutta-Verfahren der Ordnung 2, auch verbesserte Polygonzugmethode:

0121201

Das implizite Trapez-Verfahren der Ordnung 2:

0112121212

Das Runge-Kutta-Verfahren der Ordnung 3 (vgl. Simpsonregel), auch Methode von Kutta dritter Ordnung:

012121−12164616

Das stark stabilitätserhaltende Runge-Kutta-Verfahren der Ordnung 3 (SSP-RK3):

011121414161623

Das Heun-Verfahren 3. Ordnung:

013132302314034

Das klassische Runge-Kutta-Verfahren (Ordnung 4):

0121212012100116131316

Das Verfahren von Kutta 4. Ordnung (vgl. 3/8-Regel):

0131323−13111−1118383818

Das sechsstufige Verfahren von Kutta-Nyström der Ordnung 5 (die Anzahl der Stufen ist für diese Ordnung optimal):

0131325425625114−315423227109−508188145225122521587502319201251920−2764125192

Bei Butcher findet man auch das folgende explizite neunstufige Verfahren der Ordnung 7 (weniger Stufen sind nach einer Arbeit von Butcher aus dem Jahr 1965 zur Erreichung dieser Ordnung nicht möglich):

01616130131218038211148133101501331−56133123−4042430−1702740241701106481701672466240101242343−1917616807−519091680710532401051540096539−181520384−40524644911441−113320−19522327294033584−72951210291408211600032105177156162899202432560168077488077144011270

Literatur

Einzelnachweise

  1. John C. Butcher: On the attainable order of Runge-Kutta methods. In: Mathematics of Computation. Bd. 19, Nr. 91, 1965, S. 408–417. doi:10.1090/S0025-5718-1965-0179943-X
    1. 1 2 3 Theorem 1, S. 410
    2. 1 2 3 Theorem 2, S. 410
  2. John C. Butcher: Numerical Methods for Ordinary Differential Equations. 3. Auflage. John Wiley & Sons Ltd., Chichester 2016, ISBN 978-1-119-12150-3
    1. 1 2 3 Theorem 324B, S. 201
    2. ↑ Theorem 324A, S. 200
    3. 1 2 3 4 S. 202, 1. Absatz
    4. 1 2 S. 205
    5. ↑ S. 208
    6. 1 2 S. 209
    7. 1 2 3 4 5 S. 210
    8. ↑ S. 185
    9. ↑ S. 193, c₂=1
    10. ↑ S. 193, c₂=½
    11. ↑ S. 194
    12. ↑ S. 193
  3. Hans Rudolf Schwarz: Numerische Mathematik. 2., durchgesehene Auflage. B. G. Teubner, Stuttgart 1988, ISBN 3-519-12960-4
    1. ↑ Tab. 9.5, S. 380
    2. ↑ S. 359 (9.4)
    3. ↑ S. 371 (9.37)
    4. ↑ S. 367 (9.29)
    5. ↑ S. 368 (9.33)
    6. ↑ S. 375 (9.47)
    7. ↑ S. 375 (9.46)
    8. ↑ S. 379 (9.52)
    9. ↑ S. 379 (9.53)
  4. John C. Butcher: The non-existence of ten stage eighth order explicit Runge-Kutta methods. In: BIT Numerical Mathematics. Bd. 25, Nr. 3, 1985, S. 521–540. doi:10.1007/BF01935372
    1. ↑ Theorem, S. 521
    2. 1 2 Corollary, S. 521
    3. ↑ S. 521
  5. ↑ Alan R. Curtis: An eighth order Runge-Kutta process with eleven function evaluations per step. In: Numerische Mathematik. Bd. 16, Nr. 3, 1970, S. 268–277. doi:10.1007/BF02219778
    1. ↑ S. 274—276
  6. ↑ G. J. Cooper, James H. Verner: Some explicit Runge-Kutta methods of high order. In: SIAM Journal on Numerical Analysis. Bd. 9, Nr. 3, 1972, S. 389–405.
    1. ↑ Tab. 1, S. 404
  7. Ernst Hairer: A Runge-Kutta method of order 10. In: Journal of the Institute of Mathematics and its Applications. Bd. 21, Nr. 1, 1978, S. 47–59.
    1. 1 2 S. 48, 2. Absatz; Tab. 3, S. 57—58
    2. ↑ S. 47
  8. 1 2 Robert Collyer, Frank Womack: Double-well Forced Oscillator. In: www.phys.lsu.edu. Abgerufen am 23. Februar 2024 (englisch).
  9. ↑ K. Heun: Neue Methoden zur approximativen Integration der Differentialgleichungen einer unabhängigen Veränderlichen, Z. Math. Phys., Band 45, 1900, S. 23–38 (Heun-Verfahren)
  10. ↑ W. Kutta: Beitrag zur näherungsweisen Integration totaler Differentialgleichungen, Z. Math. Phys., Band 46, 1901, S. 435–453
  11. ↑ C. Runge: Über die numerische Auflösung von Differentialgleichungen, Math. Annalen, Band 46, 1895, S. 167–178, Online
  12. ↑ John C. Butcher: An order bound for Runge-Kutta methods. In: SIAM Journal on Numerical Analysis. Bd. 12, 1975, S. 304—315. doi:10.1137/0712025
  13. ↑ A. R. Curtis: High-order explicit Runge-Kutta formulae, their uses, and limitations. In: Journal of the Institute of Mathematics and its Applications. Bd. 16, Nr. 1, 1975, S. 35–55.
  14. ↑ Hiroshi Ono: On the 25 stage 12th order explicit Runge–Kutta method. In: Journal of the Japanese Society of Applied Mathematics. Bd. 16, Nr. 3, 2006, S. 177—186. doi:10.11540/jsiamt.16.3_177
  15. ↑ Chi-Wang Shu, Stanley Osher: Efficient implementation of essentially non-oscillatory shock-capturing schemes. In: Journal of Computational Physics. Band 77, Nr. 2, 1. August 1988, ISSN 0021-9991, S. 439–471, doi:10.1016/0021-9991(88)90177-5 (sciencedirect.com [abgerufen am 18. Oktober 2026]).