Regressionsparameter
Regressionsparameter, auch Regressionskoeffizienten oder Regressionsgewichte genannt, sind die Parameter einer Regressionsgleichung. In einem linearen Regressionsmodell beschreiben die Koeffizienten der Regressoren, wie sich der bedingte Erwartungswert der abhängigen Variablen bei einer Änderung des jeweiligen Regressors verändert, wenn die übrigen Regressoren konstant gehalten werden.[1.1][2]
Bei einer multiplen linearen Regression kann es sinnvoll sein, neben den unstandardisierten auch standardisierte Regressionskoeffizienten zu betrachten. Sie ermöglichen insbesondere den Vergleich von Regressoren, die in unterschiedlichen Einheiten gemessen werden.[1.2][3]
Interpretation des Absolutglieds und der Steigung
[Bearbeiten | Quelltext bearbeiten]Gegeben sei das multiple lineare Modell
beziehungsweise in Matrixschreibweise
Den Parameter bezeichnet man als Niveauparameter, Achsenabschnitt, Absolutglied, Regressionskonstante oder kurz Konstante (englisch intercept). Die Parameter nennt man Steigungsparameter oder Steigungskoeffizienten (englisch slope coefficients). Die sind Störgrößen.[2]
Die sind unbekannte Parameter der Grundgesamtheit. Sie werden anhand einer Stichprobe geschätzt; für die Schätzwerte werden beispielsweise oder verwendet. Bei der Methode der kleinsten Quadrate werden die Koeffizienten so bestimmt, dass die Summe der quadrierten Residuen minimiert wird.[2]
Man unterscheidet bei der Interpretation der Regressionskoeffizienten unter anderem danach, ob die Variablen in ihrer ursprünglichen Form oder transformiert in das Modell eingehen.
Level-Level-Transformation
[Bearbeiten | Quelltext bearbeiten]Sind die abhängige und die erklärenden Variablen untransformiert, gilt
Damit gilt für den Niveauparameter
und für die Steigungsparameter
Der Niveauparameter gibt somit den erwarteten Wert der abhängigen Variable an, wenn alle Regressoren den Wert null annehmen. Diese Interpretation ist inhaltlich allerdings nur sinnvoll, wenn der Wert null für die betreffenden Regressoren eine sinnvolle Ausprägung darstellt.[4]
Für den jeweiligen Steigungsparameter gilt: Erhöht sich ceteris paribus um eine Einheit, verändert sich der bedingte Erwartungswert von um Einheiten.[1.3][2]
Log-Log-Transformation
[Bearbeiten | Quelltext bearbeiten]Werden sowohl die abhängige Variable als auch die betrachteten erklärenden Variablen logarithmiert, kann ein Log-Log-Modell beispielsweise in der Form
geschrieben werden. Die logarithmierten Variablen müssen dabei positive Werte annehmen.
Der Steigungsparameter lässt sich in einem solchen Modell als Elastizität interpretieren: Eine Erhöhung von um ein Prozent ist ceteris paribus mit einer Änderung von um ungefähr Prozent verbunden.[5]
Standardisierte Regressionskoeffizienten
[Bearbeiten | Quelltext bearbeiten]Standardisierte Regressionskoeffizienten, auch Beta-Gewichte genannt, ergeben sich aus einer linearen Regression, bei der die abhängige und die metrischen unabhängigen Variablen standardisiert werden. Dadurch sind die Koeffizienten nicht mehr von den ursprünglichen Maßeinheiten der Variablen abhängig.[1.2][3]
Bortz und Schuster bezeichnen die standardisierten Stichprobenkoeffizienten mit , um sie von den mit bezeichneten Parametern der Grundgesamtheit zu unterscheiden.[1.4]
Ein standardisierter Regressionskoeffizient kann aus dem unstandardisierten Regressionskoeffizienten berechnet werden als
wobei der unstandardisierte Regressionskoeffizient, die Standardabweichung des jeweiligen Regressors und die Standardabweichung der abhängigen Variable ist.[1.4][3]
Ein standardisierter Koeffizient von beispielsweise bedeutet, dass eine Erhöhung des betreffenden Regressors um eine Standardabweichung bei konstant gehaltenen übrigen Regressoren mit einer Erhöhung der abhängigen Variable um Standardabweichungen verbunden ist. Da standardisierte Koeffizienten keine Maßeinheit besitzen, lassen sich die Größen verschiedener Koeffizienten innerhalb eines Modells leichter miteinander vergleichen.[1.5][6]
Der Betrag eines standardisierten Regressionskoeffizienten ist dabei nicht auf eins begrenzt.[1.4] Ein Koeffizient außerhalb des Intervalls von −1 bis 1 ist daher für sich genommen kein Nachweis für Multikollinearität. Diese wird vielmehr anhand der Abhängigkeiten zwischen den Regressoren beziehungsweise daraus abgeleiteten Größen wie der Toleranz untersucht.[1.6]
Auch die Interpretation standardisierter Koeffizienten als Maß für die relative Bedeutung einzelner Regressoren ist mit Vorsicht vorzunehmen. Ihre Größe hängt unter anderem von den Verteilungen der Regressoren in der untersuchten Stichprobe ab.[1.7][6]
Beispiel
[Bearbeiten | Quelltext bearbeiten]Bortz und Schuster erläutern die multiple Regression anhand einer fiktiven Untersuchung zum Zusammenhang zwischen dem Body-Mass-Index (BMI), der Intensität eines Trainingsprogramms und der Qualität der Ernährung. Die Trainingsintensität wird dabei durch den täglichen Energieverbrauch in Einheiten von 100 Kilojoule gemessen, die Ernährungsqualität durch ein Expertenrating auf einer Skala von 1 bis 10.[1.3]
Für die Trainingsintensität ergibt sich bei konstant gehaltener Ernährungsqualität ein unstandardisierter Regressionskoeffizient von . Für die Ernährungsqualität beträgt der Koeffizient bei konstanter Trainingsintensität .[1.8]
| Regressor | Unstandardisiert |
Standardfehler | Standardisiert |
|---|---|---|---|
| Konstante | 30,2 | – | – |
| Trainingsintensität | −0,750 | 0,281 | −0,454 |
| Ernährungsqualität | −1,032 | 0,294 | −0,597 |
Die unstandardisierten Koeffizienten beziehen sich auf die ursprünglichen Maßeinheiten. So bedeutet in diesem Beispiel, dass eine Erhöhung der Trainingsintensität um eine Einheit – entsprechend einem zusätzlichen Energieverbrauch von 100 Kilojoule pro Tag – bei unveränderter Ernährungsqualität mit einer Verringerung des vorhergesagten BMI um 0,75 Punkte verbunden ist.[1.8]
Für die Trainingsintensität ergibt sich aus , und der standardisierte Koeffizient
Für die Ernährungsqualität ergibt sich entsprechend aus den angegebenen Werten gerundet .[1.10]
Die standardisierten Werte sind hinsichtlich ihrer Größenordnung besser vergleichbar als die unstandardisierten Koeffizienten. Aus einem größeren Beta-Gewicht kann jedoch nicht ohne Weiteres auf eine entsprechend größere inhaltliche Bedeutung des Regressors geschlossen werden.[1.7][6]
Einzelnachweise
[Bearbeiten | Quelltext bearbeiten]-
Jürgen Bortz, Christof Schuster: Statistik für Human- und Sozialwissenschaftler. 7., vollständig überarbeitete und erweiterte Auflage. Springer, Berlin, Heidelberg 2010, ISBN 978-3-642-12769-4, doi:10.1007/978-3-642-12770-0.
- ↑ S. 342–346.
- 1 2 S. 345–346.
- 1 2 S. 343–344.
- 1 2 3 S. 346.
- ↑ S. 346 und 356–357.
- ↑ S. 354–356.
- 1 2 S. 356–357.
- 1 2 S. 344.
- ↑ S. 343–350.
- ↑ S. 343–346. Im Fließtext auf S. 346 wird für B₂ abweichend der Wert −0,579 angegeben; aus Gleichung (21.12) und den dort angegebenen Werten ergibt sich gerundet −0,597.
- 1 2 3 4 Christoph Hanck, Martin Arnold, Alexander Gerber, Martin Schmelzer: The Multiple Regression Model. In: Introduction to Econometrics with R. Abgerufen am 17. August 2026 (englisch).
- ↑ Chester Ismay, Albert Y. Kim: Basic Regression. In: Statistical Inference via Data Science: A ModernDive into R and the Tidyverse. Abgerufen am 17. August 2026 (englisch).
- ↑ Alexander Holmes, Barbara Illowsky, Susan Dean: Interpretation of Regression Coefficients: Elasticity and Logarithmic Transformation. In: Introductory Business Statistics 2e. OpenStax, abgerufen am 17. August 2026 (englisch).
- 1 2 3 James Scott: Regression. In: Data Science in R: A Gentle Introduction. Abgerufen am 17. August 2026 (englisch).