Lineare Regression einfach erklärt: Steigung, Achsenabschnitt und R²

Die lineare Regression beschreibt, wie sich eine Variable verändert, wenn sich eine andere verändert, und nutzt diesen Zusammenhang für Vorhersagen. Während die Korrelation nur sagt, wie stark zwei Variablen zusammenhängen, gibt die Regression eine Gleichung an. In der Statistik II und später in der Bachelorarbeit ist sie eines der wichtigsten Verfahren.

Die Regressionsgleichung

Bei der einfachen linearen Regression lautet die Vorhersage:

ŷ = b₀ + b₁ · x

• ŷ ist der vorhergesagte Wert des Kriteriums.
• b₀ ist der Achsenabschnitt: der vorhergesagte Wert, wenn x null ist.
• b₁ ist die Steigung: um wie viel sich ŷ verändert, wenn x um eine Einheit steigt.

Die Gerade wird nach der Methode der kleinsten Quadrate bestimmt. Sie liegt so, dass die Summe der quadrierten Abweichungen zwischen beobachteten und vorhergesagten Werten minimal ist. Diese Abweichungen heißen Residuen.

Ein Rechenbeispiel

Angenommen, die Regression von Klausurpunkten auf Lernstunden ergibt b₀ = 20 und b₁ = 1,5. Dann lautet die Gleichung ŷ = 20 + 1,5 · x.

• Wer 10 Stunden lernt, erhält eine Vorhersage von 20 + 1,5 · 10 = 35 Punkten.
• Jede zusätzliche Lernstunde geht mit 1,5 Punkten mehr einher.
• Der Achsenabschnitt von 20 Punkten beschreibt die Vorhersage für null Lernstunden.

Vorsicht bei Vorhersagen weit außerhalb des beobachteten Bereichs. Wenn in den Daten niemand mehr als 30 Stunden gelernt hat, ist eine Vorhersage für 100 Stunden nicht sinnvoll.

Was R² bedeutet

Das Bestimmtheitsmaß R² gibt an, welcher Anteil der Varianz im Kriterium durch das Modell erklärt wird. Ein R² von .25 heißt: 25 % der Unterschiede in den Klausurpunkten lassen sich durch die Lernstunden vorhersagen. Bei der einfachen Regression ist R² gleich dem Quadrat der Korrelation r.

Unstandardisiert und standardisiert

Der unstandardisierte Koeffizient b ist in den Originaleinheiten angegeben, im Beispiel Punkte pro Stunde. Der standardisierte Koeffizient β gibt die Veränderung in Standardabweichungen an. Er eignet sich, um Prädiktoren mit unterschiedlichen Maßeinheiten zu vergleichen. Bei einem einzigen Prädiktor entspricht β der Korrelation.

Voraussetzungen

1. Linearität: Der Zusammenhang lässt sich durch eine Gerade beschreiben. Prüfe das im Streudiagramm.
2. Unabhängigkeit der Residuen: Die Messwerte stammen von unabhängigen Personen.
3. Homoskedastizität: Die Streuung der Residuen ist über alle Werte von x etwa gleich.
4. Normalverteilung der Residuen: wichtig für Signifikanztests, vor allem bei kleinen Stichproben.

Ausblick: multiple Regression

In der multiplen Regression gehen mehrere Prädiktoren gleichzeitig ein, etwa Lernstunden und Prüfungsangst. Jeder Koeffizient beschreibt dann den Effekt eines Prädiktors, wenn die anderen konstant gehalten werden. Hohe Korrelationen zwischen den Prädiktoren, die sogenannte Multikollinearität, machen die Koeffizienten instabil.

Weiterlernen

Korrelation, Regression und Hypothesentests sind im Skript Statistik I & II mit Übungsaufgaben erklärt. Im Prüfungspaket Statistik & Methoden bekommst du es zusammen mit Forschungsmethoden und Testtheorie. Wie du Ergebnisse mit Effektstärken berichtest, zeigt der Artikel Effektstärken in der Psychologie.

Häufige Fragen

Was ist der Unterschied zwischen Korrelation und Regression?

Die Korrelation beschreibt Stärke und Richtung eines Zusammenhangs und ist symmetrisch. Die Regression unterscheidet Prädiktor und Kriterium und liefert eine Vorhersagegleichung.

Kann R² negativ sein?

Das normale R² liegt zwischen 0 und 1. Das korrigierte R², das die Zahl der Prädiktoren berücksichtigt, kann bei sehr schlechten Modellen leicht negativ werden.

Beweist eine signifikante Regression einen kausalen Effekt?

Nein. Ohne experimentelle Manipulation zeigt sie nur einen Vorhersagezusammenhang. Drittvariablen können den Zusammenhang erklären.