Theorie: Lineare Regression


Inhaltsverzeichnis:




Bestimmung der Regressionsgeraden

 Gegenstand: eine Messgrösse y, die von einem veränderlichen äusseren Parameter x abhängt.
Einfachster Fall: Lineare Abhängigkeit    y = + ßx.

Praktische Aufgabe:
Ausgehend von N Messungen, d.h. N Wertepaaren

   x1 , y1
   x2 , y2
    .
    .
    .
   xN , yN

die beste Interpolationsgerade ermitteln, d.h., die Gerade, für
welche die Abweichungen der Interpolationswerte Yi = a + bxi
von den gemessenen Werten yi minimal werden.
Anwendung des Prinzips der kleinsten Quadrate:            ergibt die nachstehenden Ausdrücke für a und b.



Formelsammlung:

 Zum Auswerten berechnet man:
— arithmetisches Mittel
— Fehlerquadratsummen
— Fehlerproduktsumme
— Steigung der Geraden

Der "Schwerpunkt" (, ) liegt auf der Regressionsgeraden. Damit wird die Geradengleichung zu     (Y – ) = b(x – )    oder    Y = – b + bx.
Der Achsenabschnitt (bei x = 0) ist damit    .

a und b sind die besten unvoreingenommenen Schätzungen der wahren Werte und ß.

Es wird vorausgesetzt, dass x fehlerfrei ist, und dass die y-Messfehlerquellen überall gleich (d.h., x-unabhängig) sind.

Sonst gelten völlig andere Auswertungsverfahren.



Anmerkung.
Bei dem hier beschriebenen Verfahren handelt es sich, genau bezeichnet, um die "Regression von y nach x", mit fehlerfreiem, variablem Parameter x als Abszisse. Ebenso gut könnte man aus den N Zahlenpaaren (xi, yi) eine "Regression von x nach y" rechnen.
Überzeugen Sie sich selber an einem Beispiel, dass die beiden Regressionsgeraden wesentlich verschieden sind.

Regression von y nach x:    
Regression von x nach y:                Zusammenhang:     bb' = r2 (Beweis s. FAQs)
Schnittpunkt

Nur der Korrelationskoeffizient r, als ein in x und y symmetrischer Ausdruck, ist für beide Regressionstypen eine gemeinsame gültige Richtgrösse.
Bestimmen Sie daher aus dem jeweiligen Zusammenhang, wie herum Sie die lineare Regression ansetzen.


Bestimmung der Regressionskoeffizienten a und b
Problemstellung: a und b bestimmen, so dass für die Punkte der Interpolationsgeraden    Y = a+bx :   Yi = a+bxi  
die Fehlerquadratsumme zu einem Minimum wird.
Praktisches Vorgehen: Am Minimum verschwinden die partiellen Ableitungen und ergeben ein lineares Gleichungssystem in den zwei Unbekannten a und b:
( 1 )
( 2 )

Aus (1 ) folgt  

bzw.

d.h., der Schwerpunkt liegt auf der Geraden.

Aus ( 2 ) folgt:


    

Damit sind a und b bestimmt und können aus den oben definierten Grössen berechnet werden: