Cook-Abstand

In der Statistik, insbesondere in der Regressionsdiagnostik, ist der Cook-Abstand, die Cook-Maßzahl, oder auch Cook’sche Distanz genannt, die wichtigste Maßzahl zur Bestimmung sogenannter einflussreicher Beobachtungen, wenn eine Kleinste-Quadrate-Regression durchgeführt wurde. Der Cook-Abstand ist nach dem amerikanischen Statistiker R. Dennis Cook benannt, der das Konzept 1977 vorstellte.

Definition

Datenpunkte mit großen Residuen (Ausreißern) und/oder großen „Hebelwerten“ könnten das Ergebnis und die Präzision einer Regression beeinflussen. Der Cook-Abstand misst den Effekt der Auslassung einer gegebenen Beobachtung. Datenpunkte mit einem großen Cook-Abstand sollte man bei der Datenanalyse näher betrachten. Es sei das multiple lineare Regressionsmodell in Vektor-Matrix-Form:

𝐲n×1=𝐗n×p𝜷p×1+𝜺n×1,

wobei der Störgrößenvektor einer mehrdimensionalen Normalverteilung folgt 𝜺∼𝒩(𝟎,σ2𝐈) und 𝜷=(β0β1,…,βk)⊤ der Vektor der Regressionskoeffizienten ist (hierbei ist p=k+1 die Anzahl der zu schätzenden unbekannten Parameter und k die Anzahl der erklärenden Variablen), und 𝐗 die Datenmatrix. Der Kleinste-Quadrate-Schätzvektor lautet dann 𝜷̂=(𝐗⊤𝐗)−1𝐗⊤𝐲, woraus folgt, dass sich der Schätzvektor der abhängigen Variablen wie folgt ergibt:

𝐲̂=𝐗𝜷̂=𝐗(𝐗⊤𝐗)−1𝐗⊤⏟=𝐏𝐲=𝐏𝐲,

wobei 𝐏≡𝐗(𝐗⊤𝐗)−1𝐗⊤ die Prädiktionsmatrix darstellt. Das ite Diagonalelement von 𝐏 ist gegeben durch pii≡𝐱i⊤(𝐗⊤𝐗)−1𝐱i, wobei 𝐱i⊤ die i-te Zeile der Datenmatrix 𝐗 ist. Die Werte werden auch als „Hebelwerte“ der iten Beobachtung bezeichnet. Um den Einfluss eines Punktes (yi,𝐱i⊤) zu formalisieren betrachtet man den Effekt der Auslassung des Punktes auf 𝜷 und 𝐲̂=𝐗𝜷̂. Der Schätzer von 𝜷, der dadurch gewonnen wird, dass die ite Beobachtung (yi,𝐱i⊤) ausgelassen wird, ist gegeben durch 𝜷̂(i)=(𝐗(i)⊤𝐗(i))−1𝐗(i)⊤𝐲(i). Man kann 𝜷̂(i) mit 𝜷̂ mittels dem Cook-Abstand vergleichen, der definiert ist durch:

Di=(𝜷̂(i)−𝜷̂)⊤(𝐗⊤𝐗)(𝜷̂(i)−𝜷̂)(k+1)s2=(𝐗𝜷̂(i)−𝐗𝜷̂)⊤(𝐗𝜷̂(i)−𝐗𝜷̂)(k+1)s2=(𝐲̂(i)−𝐲̂)⊤(𝐲̂(i)−𝐲̂)(k+1)s2,

wobei s2 die erwartungstreue Schätzung der Varianz der Störgrößen darstellt. Das Maß Di ist proportional zum gewöhnlichen euklidischen Abstand zwischen 𝐲̂(i) und 𝐲̂. Daher ist Di groß, wenn die Beobachtung (yi,𝐱i⊤) eine substantiellen Einfluss auf sowohl 𝜷̂, als auch 𝐲̂ hat.

Eine numerisch einfachere Darstellung von Di ist gegeben durch:

Di=ti2k+1(pii1−pii),

wobei ti die studentisierten Residuen ti=ε^is(i)21−pii  darstellen.

Erkennen von stark einflussreichen Beobachtungen

Es gibt unterschiedliche Ansätze zur Bestimmung der Grenzen, was stark einflussreiche Beobachtungen sein sollen. Es wurde die einfache Daumenregel Di>1 vorgeschlagen. Andere Autoren haben Di>4/n vorgeschlagen, wobei n die Anzahl der Beobachtungen ist.

Siehe auch