lehrkraefte:ks:ffstat2324

Ziele

  • Jede/r kann eine (multivariate) Regression (mit standardisierten Regressoren) mit R durchführen
  • Jede/r kann Variablen standardisieren und diese als Regressoren verwenden.

Aufträge

  • Ks zuhören und mitdenken
  • Lektion 08 nochmals durcharbeiten.
  • Alter in Tagen oder Jahren als Spalte hinzufügen.
  • Regression in R durchführen:
    • Univariate Regression
    • Univariate Regression mit standardisierten ($Z$-transformierten) Regressoren
    • Multivariate Regression
    • Multivariate Regression mit standardisierten ($Z$-transformierten) Regressoren
  • Koeffizienten der paarweise beiden (mit und ohne Standardisierung) Regressionen vergleichen. Was bedeuten die Koeffizienten?

Hilfestellung R

alter.R
setwd("C:/Users/Simon.Knaus/git/ffstat/")
cardata <- read.table("bmw_data.csv",header = T,sep=";")
head(cardata) # Erste Zeilen (6) anzeigen
names(cardata)
cardata$agedays <-strptime("01.06.2024",format = "%d.%m.%Y")-strptime(paste("01.",cardata$inverkehrsetzung,sep=""),format = "%d.%m.%Y")
standardisieren.R
#enweder mit sd() und mean()
#oder ?scale Hilfe nachlesen.
cardata$spreis <- #standardisierter Preis, z.B.
multreg.R
#Old Example, one Regressors
model1 <- lm(preis~kilometer,data=cardata)
model1 
summary(model1)
 
model2 <- lm(preis~kilometer+agedays,data=cardata)
model2
summary(model2)

Ziele

  • Jeder/r weiss, wie das Histogramm einer normalverteilten Zufallsvariable aussieht welcher Prozentsatz innerhalb welches Intervall liegt.
  • Jede/r kann die $Z$-Transformierte (standardisierte) eines Merkmals ausrechnen.
  • Jede/r kann auf Grund von Histogrammen der $Z$-transformierten Merkmale entscheiden, ob ein Merkmal normalverteilt ist.
  • Optional: Jede/r kann die Wahrscheinlichkeit berechnen, dass ein Merkmal innerhalb / ausserhalb eines Intervalls zu liegen kommt.

Aufträge

  • Theorie durchlesen
  • Für die Variablen aus der Excel-Datei zu Geburtsgewicht, Autopreise und Aktienrenditen
    • jeweils standardisieren
    • in einer weiteren Spalte zwei Histogramme erstellen: Eines vor und eines nach der Standardisierung (z.B. mit Geogebra) und
    • entscheiden, ob die Variable (resp. das Merkmal) normalverteilt ist oder nicht.
  • Für die normalverteilten Variablen ein Intervall der Form $[a,b]$ angeben, in welchem $95\%$ der Daten zu liegen kommen.
  • Intelligenzquotient als Beispiel einer normalverteilten Zufallsgrösse. Schaut euch die Videos unten an.

Lösungen Intervalle

Lösungen Intervalle

Achtung: Es sind nicht alle Grössen normalverteilt, insb. Autopreise.

Die Intervalle berechnen sich jeweils aus Mittelwert $\pm$ $2\sigma$:

  • Geburtsgewichte: $[2024.9, 4499.4]$
  • Autopreise: $[-4731.3, 95521.4]$
  • Aktienrenditen: $[-0.02345, 0.02378]$

Theorie

Normalverteilung

Grosse Teile der Statistik beruhen auf der sogenannten Normaleverteilung. Eine Grösse resp. ein Merkmal ist normalverteilt, wenn die Ableitung der Verteilungsfunktion durch $f(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}$ gegeben ist. Für unsere Zwecke erscheint das aber kryptisch und wir beschränken uns darauf, festzuhalten, dass ein Histogram einer Standard-Normalverteilten Zufallsvariable wie folgt aussieht:

Aussehen Normalverteilung

Dabei ist wichtig festzuhalten, dass die Anzahl der Klassen in Histogramm offensichtlich willkürlich ist. Der theoretische Unterbau besagt aber, dass die Klassen beliebig klein gewählt werden können und das Histogramm zum Schluss (bei unendlich kleiner Klassenbreite und unendlich vielen Beobachtungen) dem Graphen der Funktion $f$ von oben entspricht.

Standardnormalverteilung und Standardisieren

Um nun sicher zu stellen, dass man immer von der gleichen Normalverteilung spricht, transformiert man Merkmale. Wenn $\mu_X=\frac1n\sum_{i=1}^n x_i$ und $\sigma_X=\sqrt{\frac1{n-1}\sum_{i=1}^n(x_i-\mu_X)^2}$ ist, dann sagt man, dass das Merkmal $Z=\frac{X-\mu}{\sigma}$ das standardisierte Merkmal von $X$ ist. Man kann dann jede Beobachtung $x_i$ zu $z_i=\frac{x_i-\mu}{\sigma}$ standardisieren.

$x_i$$x_i-\mu_X$$\frac{x_i-\mu_X}{\sigma_X}$
-5-9-1.21
510.13
510.13
0-4-0.54
15111.48
$\mu$400
$\sigma$7.417.411

Berechnet man nun den Mittelwert von $Z$ (geschrieben: $\mu_Z$) und die Standardabweichung von $Z$ (geschrieben: $\sigma_Z$) so kommt – egal wie $X$ ursprünglich verteilt ist – heraus, dass $\mu_Z=0$ und $\sigma_Z=1$ ist.

Beweis

Beweis

Es gilt ja $\mu_z=\frac{1}{n}\sum_{i=1}^n z_i = \frac{1}{n}\sum_{i=1}^n (x_i-\mu_x) = \frac{1}{n}\sum_{i=1}^n x_i -n\cdot\frac1n \mu_x = \mu_x-\mu_x=0$.

Das gleiche Argument kann für $\sigma_Z$ geführt werden: Die Rechnung wird etwas garstiger, funktioniert aber genau gleich.

Ist nun ein Merkmal $X$ normalverteilt so ist das standardisierte Merkmal standardnormalverteilt, das heisst, es ist normalverteilt Standardabweichung $\sigma=1$ und Mittelwert $\mu=0$.

Wahrscheinlichkeiten

Für standard-normalverteilte Merkmale – und damit auch für normalverteilte Merkmale – können sehr starke Aussagen über die Verteilung gemacht werden. So gilt z.B., dass im Intervall $[\mu_X-\sigma_X,\mu_X+\sigma_X]$ $68\%$ der Daten liegen. Für andere Vielfachen gilt die Tabelle unten:

k Prozent in $[\mu_x-k\cdot\sigma_X,\mu_x+k\cdot\sigma_X]$
1 $68.3\%$
2 $95.4\%$
3 $99.7\%$
4 $\approx 100\%$

Hat ein normalverteiltes Merkmal zum Beispiel den Mittelwert $\mu_X=11.2$ und $\sigma_X=3.1$ dann liegen ca. $68\%$ der Daten im Intervall $[8.1,14.3]=[11.2-3.1,11.2+3.1]$, das heisst in einem Intervall der Breite $2\sigma$, zentriert um den Mittelwert, liegen ca. $68\%$ der Daten.

Relevanz

Der Begriff einer (Standard-)normalverteilten Variable ist sehr wichtig: Einerseits, weil theoretisch gezeigt werden dann, dass die Summe vieler gleichartiger und unabhängiger Zufälle immer normalverteilt ist und andererseits weil eben gerade die Eigenschaft dazu führt, dass viele Daten in der “Welt da draussen” normalverteilt sind.

Aus einer mathematischen Sicht gilt noch anzumerken, dass zum Teil auch der Logarithmus eines Merkmals normalverteilt sein kann. Dies ist dann der Fall, wenn davon auszugehen ist, dass das Merkmal das Produkt vieler gleichartigen und unabhängigen Zufällen ist.

Daten in R

Daten Einlesen
# Daten aus Clipboard
inputdata <- read.table(file("clipboard"), sep = "\t")
# Gibt ein Dataframe aus der Excel-Zwischenablage zurück, getrennt durch
# Tabulator (so trennt Excel)

# oder
inputdata <- readClipboard(file("clipboard"))
# Falls eine einzelne Spalte

# oder
inputdata <- read.csv2("filenname.csv")
# Trennung durch Semikolon, daher csv2
Daten Standardisieren
insp <- inputdata$V2
mu <- mean(insp)
sd <- sd(insp)
hist(insp)
hist((insp-mu)/sd)

Wer möchte, kann hist noch mit breaks kontrollieren, damit gleich viele Säulen gezeichnet werden. Möchten man die Histogramme untereinander anzeigen, kann mit par(mfrow=c(2,1)) als erste Zeile gestartet werden.

Lösung

Lösung

inputdata <- read.table(file("clipboard"), sep = "\t")
head(inputdata)
insp <- inputdata$V1
mu <- mean(insp)
sd <- sd(insp)
par(mfrow = c(2, 1))
hist(insp, breaks = 40,freq=F,main="Original")
hist((insp - mu)/sd, breaks = 40,freq=F,main="Z-Score")
curve(dnorm,add=T,col="red",lwd=2)

Ziele

  • Jede/r kann eine eindimensionale Regression mit R durchführen und interpretieren.
  • Jede/r kann das Problem (mathematisch) formulieren, dessen Lösung die Ausgleichsgerade ist.
  • Jede/r kann eine Schätzung abgeben, wie viel ein gefahrener Kilometer gemäss dem eigenen Regressionsmodell kostet.

Aufträge

  • Theorie Regression
  • Praxis Regression:
    • Regression in den beiden Beispiel-Daten (bsp1.csv und bsp2.csv) durchführen.
      • Scatterplot erstellen
      • Regression durchführen, Geradengleichung aufstellen und Koeffizienten interpretieren.
      • Mögliche Fragen:
        • Wie lautet die Gleichung der beiden Geraden?
        • Welche Gerade ist «besser»?
    • Regression für ein BMW-Modell durchführen
      • Eine Regression durchführen, bei der der Preis auf die gefahrenen Kilometer regressiert wird. Modell (Geradengleichung) aufstellen und «Kosten» eines Kilometers (von 1000 Kilometern) angeben.
      • Freiwillig: Anstelle des Preises kann auch der Logarithmus des Preises als $y$-Variable verwendet werden. Wird das Modell ($R^2$) besser oder schlechter? Was heisst das für die Interpretation?

Theorie

Bei der Regression geht es letztendlich darum, den Zusammenhang, der in der letzten Lektion mit der Korrelation beobachtet worden ist, genauer zu beschreiben.

Die Idee der Regression ist, die Summe der quadratischen Abstände einer Geraden zu den beobachteten Datenpunkten zu minimieren. Dabei ist wichtig zu beachten, dass nur die vertikalen Abstände betrachtet werden:

Jede lineare Funktion $g$ kann als $g:y=mx+q$ beschrieben werden. Man sucht also $m$ und $q$ so, dass die quadrierte Summe der Längen der gestrichelten Linien minimal ist.

Streng mathematisch ausgedrückt hat man die Wertepaare $(x_1,y_1),\, (x_1,y_1),\,(x_3,y_3), \ldots,(x_n,y_n)$. Hat man nun einen beobachtete $x$-Wert $x_i$ so ist die Vorhersage der Gerade für den $y$-Wert $mx_i+q$. Für ein gegebenes $m$ und $q$ ist damit der Abstand des $i$-ten Datenpunktes also $y_i-(mx_i+q)$, entsprechend ist der quadrierte Abstand des $i$-ten Datenpunktes $y_i-(mx_i+q))^2$.

Schliesslich sucht man eben $m$ und $q$ so, dass die Summe $$ (y_1-(mx_1+q))^2+(y_2-(mx_2+q))^2+(y_3-(mx_3+q))^2+\cdots (y_n-(mx_n+q))^2=\sum_{i=1}^n (y_i-(mx_i+q))^2 $$ minimal ist, das heisst, dass die Summe der quadrierten Abstände möglichst klein ist.

Betrachtet man diese Summe genauer, stellt man fest, dass dieser Ausdruck ein quadratischer Ausdruck ist, wenn man $m$ und $q$ als Variablen betrachtet. In anderen Worten, würde man – für gegebene Datenpunkte werden $x_i$ und $y_i$ zu Zahlen – diesen Ausdruck als Graph darstellen, erhielte man eine Parabel. Für Parabeln kann der Scheitelpunkt, welcher das Minimum der Parabel ist, einfach mit der Scheitelpunktformel berechnet werden.

Mit dieser Feststellung kann dann $m= \frac{\sum\limits_{i=1}^n (x_i - \bar x)(y_i - \bar y)}{\sum\limits_{i=1}^n (x_i - \bar x)^2}$ und $q=\bar y-m\bar x$ berechnet werden. Die Berechnung von $m$ und $q$ mit diesen Formeln führt zum Ziel, ist aber umständlich. Alle vernünftigen Datenanalyse-Programme können sogenannte Regressionsanalysen – oder eben Ausgleichsgeraden – berechnen.

R Tipps

Im Beispiel haben wir ein Datensatz gehabt mit den Spalten x und y. Die Idee ist, dass wir die gleichen Daten aus unseren Autodaten erhalten: Möchte man ausschliesslich die Daten eines Modells, könnte man wie folgt vorgehen:

datenaufbereiten.r
setwd("C:/Users/Simon.Knaus/git/ffstat/")
cardata <- read.table("bmw_data.csv",header = T,sep=";")
head(cardata) # Erste Zeilen (6) anzeigen
unique(cardata$model)
unique(cardata$treibstoff)
 
# Nur die Modelle 'x1'
selected <- cardata$model=="x1" 
# wie schaut der Vektor aus?
head(selected)
# Wie viele sind's? sum zählt TRUE als 1, FALSE als 0
sum(selected)
 
# Daten auswählen, d.h. Zeilen auswählen
regdata <- cardata[selected,]

Lösungen

Click to display ⇲

Click to hide ⇱

Berechnet man für die normalen Preise (nicht $\log$) die Regressiongerade, erhält man:

  • x1: $y = -0.3029\cdot x+47132$
  • x3: $y = -0.2412\cdot x+52607$
  • x4: $y = -0.3317\cdot x+65518$
  • x5: $y = -0.35\cdot x+78561$
  • x6: $y = -0.3912\cdot x+82847$

Für den X1 «kostet» also ein gefahrener Kilometer ca. 30 Rp, für den X6 kostet dieser ca. 39 Rp

Ziele

  • Jede/r kann einen Scatterplot von zwei Datenreihen / Merkmalen erstellen
  • Jede/r kann die Korrelation von zwei Datenreihen / Merkmalen berechnen
  • Jede/r kann die Korrelation interpretieren und die Masszahl Punktewolken aus dem Scatterplot zuordnen.
  • Erste Ideen für ein eigenes Projekt.

Auträge

  • Lies die Theorie unten durch.
  • Korrelation im Auto-Datensatz
    • Wähle ein BMW-Modell und erstelle eine Scatterplott, wobei der Preis auf der $y$-Achse ist und eine erklärende Variable auf der $x$-Achse ist. Was wären sinnvolle Variablen für die $x$-Achse, für welche du einen Zusammenhang mit dem Autopreis vermutest?
    • Berechne die Korrelation und das Bestimmtheitsmass für die gewählten Variablen.
    • Optional: Berechne die Korrelation mit der Formeln unten (anstatt cor).
  • Welche Korrelationen (Vorzeichen und Stärke) vermutest du im Datensatz? Welche zwei Variablen sind jeweils wie korreliert?
  • Schau dir die Webseite Tylver Vigen an: Wähl dir das widersinnigste Beispiel. Gibt es eine Erklärung dafür?

Theorie

Wird ein Zusammenhang zwischen zwei kardinalen Merkmalen vermutet, sollte als erstes ein sogenannter Scatterplot erstellt werden. Zu diesem Zweck, wird das eine Merkmal auf der $x$-Achse und das andere Merkmal auf der $y$-Achse abgetragen.

Nun gibt es ein Mass für diesen Zusammenhang: Die Stärke wie auch die Richtung des Zusammenhangs der Mermkale $X$ und $Y$, $R_{xy}$, wird mit der Korrelation gemessen: $$R_{xy}=\frac{\sum\limits_{i=1}^n (x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum\limits_{i=1}^n (x_i-\bar{x})^2 \sum\limits_{i=1}^n (y_i-\bar{y})^2}}$$ Die Korrelation nimmt nur Werte zwischen $-1$ und $1$ an. In Excel wie auch in R sind Funktionen zur Berechnung der Korrelation hinterlegt. Wichtig dabei ist zu beachten, dass die Korrelation nur einen linearen Zusammenhang misst:

Möchte man die Stärke der Korrelation messen, quadriert man $R_{xy}$ zur $R^2=R_{xy}^2$. Man spricht von einem «starken Zusammenhang» wenn $0.5\leq R^2\leq 1$ ist, von einem «moderaten Zusammenhang» wenn $0.25\leq R^2 < 0.5$ ist, und schliesslich von einem «schwachen Zusammenhang» wenn $0.1\leq R^2<0.25$ ist. Ist schliesslich $R^2$ kleiner so liegt kein Zusammenhang vor. $R^2$ wird auch Bestimmtheismass genannt.

Zusammenfassend kann gesagt werden, dass Richtung und Stärke eines linearen Zusammenhangs gemessen werden kann:

  • Richtung: Eine positive Korrelation beschreibt eine «je-mehr-desto-mehr» Beziehung, eine negative Korrelation beschreibt eine «je-weniger-desto-mehr» Beziehung.
  • Stärke: Um nur eine Aussage über die Stärke des Zusammenhangs unabhängig der Richtung zu machen, verwendet man das Bestimmtheitsmass $R^2$, die quadrierte Korrelation.

Korrelation und Kausalität

Auch wenn $R^2$ sehr gross ist, muss das nicht heissen, dass in Tat und Wahrheit wirklich ein Zusammenhang dieser beiden Variablen vorliegt. Es kann durchaus sein, dass die Korrelation zufällig zu Stande gekommen ist. Man spricht dann auch von Scheinkorrelation oder in Englisch von spurious correlation.

Kausalität in diesem Zusammenhang besagt, dass ein Merkmal ein anderes bedingt: So ist zum Beispiel bei der Thematik Schuhgrösse und Körpergrösse wirklich davon auszugehen, dass ein kausaler Zusammenhang besteht.

Umsetzung in R

In R können Scatterplots mit plot erstellt werden:

plot.r
x <- c(2,3,7,10)
y <- c(7,1,2,30)
plot(x, y, main="Title")

Optional: Funktionen zeichnen

Optional: Funktionen zeichnen

Mit dem gleichen Befehl könnten auch Funktionen gezeichnet werden:

plot.r
x <- seq(-3,3, by = 0.1)
y <- x^2
plot(x, y, main="Parabel")
plot(x, y, main="Parabel",type="l")
plot(x, y, main="Parabel",type="h")

Die Korrelation kann mit cor berechnet werden:

plot.r
x <- c(2,3,7,10)
y <- c(7,1,2,30)
R <- cor(x,y)
R
R^2

Optional: Manuelle Umsetzung

Optional: Manuelle Umsetzung

In R werden Vektoren Element für Element multipliziert: Der Nenner könnte also wie folgt berechnet werden:

 
x <- c(2,3,7,10)
y <- c(7,1,2,30)
x-mean(x)
(x-mean(x))*(y-mean(y))
sum((x-mean(x))*(y-mean(y)))

Korrelationen BMW Datensatz nach Modell

R-Code

R-Code

library(corrplot)
png("C:/temp/corrbmw.png",width=300,height=1500)
par(mfrow=c(2,3))
for(mod in sort(unique(bmw$model))){
  tbmw = subset(bmw,model==mod)
  corbmw <- tbmw[,sapply(tbmw,is.numeric) & sapply(tbmw,function(inv){sd(inv,na.rm=T)>0})]
  corrplot(cor(corbmw,use="pairw"),main=mod,mar=c(0,0,1,0))  
}
dev.off()

Ziele

  • Lorenzkurve kennen, «herstellen» und interpretieren können.
  • Gini-Koeffizient kennen und interpretieren können.
  • Erste Ideen eines eigenen Projekts generieren

Aufträge

  • Theorie Lorenzkurve lesen
  • Beispiel mit Hilfe der Excel-Datei zur Lorenzkurve erstellen, die maximal ungleich verteilt sind resp. gleich verteilt sind.
  • Wahlweise:
    • Eigenen R Code schreiben
    • Gini und Lorenzkurve weiter vertiefen mit
      • Artikel zur Lorenzkurve lesen und Seiten 14-16 in Lohnreport der Stadt Zürich betrachten. Überrascht die Grafik? Wie sähe die Verteilung in der Stadt St. Gallen aus? Unglücklicherweise sind die gleichen Daten weder für St. Gallen noch jährlich verfügbar.
      • Auf der OECD-Webseite können verschiedene Merkmale zur Einkommensverteilung über die Zeit (Schiebregler unten rechts) für verschiedene Länder betrachtet werden. Suche dir ein Land, dessen Gini-Koeffizient sich in den letzten Jahren stark verändert hat. Was könnte eine Geschichte dazu sein?
      • Überlege dir alternative Masse, um Konzentration resp. Ungleichverteilung (im Einkommenskontext) zu messen.
  • Besprich mit deinem/r Nachbar:in Ideen für eine eigene Projekte, welche untersucht werden könnte und halte diese hier fest.

Theorie

Auf Grund der Lorenzkurve kann ausgesagt werden, wie stark die Merkmale (resp. deren Ausprägung) konzentriert sind (ein Konzentrationsmass). Das klassische Beispiel dabei ist die Einkommenverteilung. Die Frage, die dabei gestellt, resp. beantwortet wird, ist “Wie viel Prozent der Leute (Köpfe) verdienen wie viel Prozent des Gesamteinkommens?»

Einkommen Anzahl Personen Kumululierte relative Anzahl Einkommenssumme Kumululierte relative Einkommenssumme
2317 10 0.20 23'170 0.17
2552 11 0.42 28'072 0.37
2787 14 0.70 39'018 0.65
3022 8 0.86 24'176 0.83
3257 3 0.92 9'771 0.90
3492 4 1.00 13'968 1.00
Total 50 138'175

Zeichnet man nun die Punkte $(\text{Kumulierte relative Anzahl},\text{Kumulierte relative Einkommenssumme})=(x,y)$ und verbindet diese, erhält man die Lorenzkurve:


Zwischenfrage: Wo würden die Punkte liegen, wenn alle gleich viel verdienen würden?

Lösung

Lösung

Würden alle gleich viel verdienen, lägen die Punkte auf der Winkelhalbierenden.


Beispiele

Als Mass der Ungleichverteilung verwendet nun die Fläche, welche die Lorenzkurve mit der Winkelhalbierenden einschliesst. Diese Fläche nennt man auch Gini–Koeffizient

Gini-Koeffizient. Quelle: https://www.fuw.ch/wp-content/uploads/2015/01/

Als Beispiel für die Lorenzkurve wiederum die 5 BMW Modelle und ihre Preise. Achtung: Es handelt sich dabei nicht um ein Einkommen!

Die Lorenzkurve macht im Allgemeinen nur Sinn für Merkmale, mit positiven Werten (Preis, Einkommen, etc.)

Umsetzung in R

In R kann die Lorenzkurve ebenfalls umgesetzt werden. Wichtig sind dabei folgende Funktionen

  • sort
  • cumsum und sum
  • length
  • plot mit plot(xwerte,ywerte) kannst du einen Scatterplot mit erstellen.

Versuche mit den Funktionen oben, die richtigen $x$- und $y$-Werte zu erstellen und diese an anschliessend zu zeichnen.

Versuche zuerst mit «Dummy»-Date, dann kannst du dich um die Funktion kümmern, ohne die Daten einzulesen.

dummydata <- c(70, 40, 70, 50, 30, 80, 90, 90, 40, 80, 40, 20, 40, 10, 
40, 60, 100, 30, 30, 70, 50, 70, 50, 40, 70, 60, 90, 50, 90)
xwerte <- ...
ywerte <- ...
 
plot(xwerte,ywerte)

Lösung als R Code

Lösung als R Code

computeLorenzCurve <- function(x, plot = T) {
    nobs <- length(x)
    sortedx <- sort(x)
    abscissa <- (1:nobs)/nobs
    ordinate <- cumsum(sort(x))/sum(x)
 
    if (plot) {
        plot(ordinate, abscissa, main = "Lorenzkurve")
        abline(a = 0, b = 1)
    }
 
    return(cbind(abscissa, ordinate))
}

Ziele

  • Boxplot erstellen und interpretieren
  • Lage und Skalenmasse auf Grund Boxplot und Kennzahlen interpretieren

Aufträge

  • Boxplot
    • Theorie Boxplot unten lesen.
    • Einen Boxplot von Hand der Daten 9, 6, 7, 7, 3, 9, 10, 1, 8, 7, 9, 9, 8, 10, 5, 10, 10, 9, 10, 8 erstellen.
    • Einen Boxplot von Hand (mit Hilfe R median, quantile etc.) der Preise von einem BMW Modell (X1 bis X5) erstellen.
    • Einen Boxplot mit R (automatisch mit z.B. boxplot(cardata$preise)) erstellen. Boxplots können in R auch entlang verschiedener nominaler Variablen erstellt werden: Dazu muss einfach eine Tilde ~ eingefügt werden, z.B. boxplot(cardata$preis~cardata$model).
    • Die BMW Boxplots den BMW Histogrammen zuordnen (auf Papier vorne)
    • Die BMW Mittelwerte, Standardabweichungen, IQA, Median und $Q_{30\%}$ den Histogrammen und Boxplots auf zuordnen.
  • Anwendungen des Boxplots
    • Abschnitt unten zu ”Anwendungen Boxplot“ durchgehen
    • Ein Beispiel konstruieren, bei dem Median grösser als Mittelwert ist.
    • Eine erhobene Grösse ausdenken, bei der Median (oder ein anderes Quantil) mehr interessiert als der Mittelwert und umgekehrt.

Boxplot

Ein Boxplot besteht aus einer Box, welche durch das erste und dritte Quartil ($Q_{25\%}$ und $Q_{75\%}$) begrenzt ist. Damit liegen $50\%$ der Daten in der Box. Der mittige Strich ist der Median ($q_{50\%}$), die Whiskers (Antennen oder Schnäuze) sind $w_1=Q_{50\%}-1.5\cdot IQA$ und $w_2=Q_{50\%}+1.5\cdot IQA$. $w_1$ und $w_2$ sind dabei zum Teil auch durch den grössten (resp. kleinsten für $w_1$) Wert eines Datenpunktes ersetzt, welcher gerade noch kleiner (resp. grösser für $w_1$) ist als $w_2$. Die Whiskers sind dann nicht symmetrisch. Die Punkte, die ausserhalb der Whiskers liegen, nennt man Outlier oder Ausreisser. Man kann zeigen, dass bei normalverteilten Daten, ca. $95\%$ der Beobachtungen innerhalb der beiden Whiskers zu liegen kommen.

# x1

  • Mittelwert: 34155.8
  • IQA: 27625
  • $Q_{30\%}$: 21900
  • Median: 29900
  • Standardabweichung: 15200.1

# x3

  • Mittelwert: 32018.2
  • IQA: 25225
  • $Q_{30\%}$: 21500
  • Median: 28900
  • Standardabweichung: 18084.7

# x4

  • Mittelwert: 59603
  • IQA: 17175
  • $Q_{30\%}$: 52675
  • Median: 59900
  • Standardabweichung: 11709.4

# x5

  • Mittelwert: 51018.6
  • IQA: 42975.2
  • $Q_{30\%}$: 29900
  • Median: 47949.5
  • Standardabweichung: 27569.1

# x6

  • Mittelwert: 59023.7
  • IQA: 43977.5
  • $Q_{30\%}$: 38909
  • Median: 56400
  • Standardabweichung: 25544.2

Lösungen: Boxplot der Preise nach Modell

Click to display ⇲

Click to hide ⇱

Anwendungen Boxplot

Löhne in der Stadt Zürich

  • Insb. Seiten 14 bis 15: Überrascht diese Verteilung (Histogramm)?
  • Welche Grafiken / Methoden sind aus dem Freifach bekannt?
  • Gibt es irgeneine Graphik im Lohnreport, welche nicht klar ist?
  • Die Medienmitteilug dazu hatte als Titel “Gute Ausbildung lohnt sich”. Teilst du diese Meinung nach Studium des Lohnreports?
  • Im darauffolgenden Jahr wurde noch die Löhne von Männern und Frauen untersucht. Was beobachtest du?
  • Wie würde der Lohnreport der Stadt St. Gallen aussehen?

Ziele

  • Jede/r kann ein Histogramm erklären.
  • Jede/r kann Mittelwert, Modus, Median und beliebige Quantile von Hand und mit Excel/R ausrechnen (Lagemasse)
  • Jede/r kann Varianz, Standardabweichung, IQA ausrechnen von Hand und mit Excel/R (Skalenmasse)

Auftrag

  • Definitionen auf Unterlagen vom letzten Mal falls nötig nachlesen und mit Begriffen unten ergänzen.
  • Definitionen aus der heutigen durcharbeiten und nachvollziehen.
  • Berechne für die genannten Grössen für -2.9, 25.4, -12.3, -38.5, 4.2, 23.7, -0.4, 1.5, -23.3, 21. von Hand und mit Excel
  • Berechne für verschiedene BMW Modelle ein Histogram und notiere Mittelwert, Median, Standardabweichung und IQA darunter. Eine mögliche Vorgehensweise dabei wäre
    • R:
      • Variante A: Die gewünschten Modelle mit einem Vergleich x5 ← cardata$model== “x5” speichern, dieser dann als Index verwenden cardata$preis[x5] und damit die Grösse Mittelwert, Median, etc. (s.u.) berechnen
      • Variante B: Wiederum mit ddply und sumarise und den entsprechenden Funktionen (s.u.) arbeiten.
    • Excel:
      • Alle Preise in ein neues Tabellenblatt kopieren
      • Jeweils in den ersten Zeilen die Grössen für die darunterliegenden Werte ausrechnen und dann Formeln nach rechts ziehen.
  • Zusatzauftrag:
    • Excel In Excel können sogenannte normalverteilte Zufallsvariablen mit folgendem «Trick» simuliert werden =NORM.INV(ZUFALLSZAHL();0;1). Damit erhält man eine Zufallszahl. Simuliere eine Spalte mit z.B. 200 normalverteilten Zufallszahlen und zeige dann ein Histogramm an. Verändere dann die Zufallszahlen in dem du verschieden Mittelwerte $m$ und Standardabweichenungen $s$ verwendest. Du kannst dazu einfach die Werte in der Formel einsetzen: =NORM.INV(ZUFALLSZAHL();m;s). Stelle sicher, dass beim Histogramm die Achsen identisch bleiben (Rechtsklick auf Achse)
    • R Mit rnorm(n,m,s) können $n$ sogenanntne normalverteilte Zufallsvariablen simuliert werden. Simuliere einige Histogramme mit verschiedenen Mittelwerten m und Standardabweichungen s. Die Bilder der Histogramme sollen dann den Werten von m und s zugeordnet werden. Stelle sicher, dass die beim Histogramm die Achsen identisch bleiben. Das geht über hist(rnorm(…),xlim=c(min,max)) wobei min und max die extremen Werte der Achse sind.
    • Schau dir die folgende Excel Datei an: Diese “simuliert” ein Histogramm nach deinen Vorgaben.

Lösung

Lösung

  • Mittelwert: -0.16
  • Modus: Nicht eindeutig.
  • Standardbweichung: 20.70
  • Varianz: 428.53
  • Median: 0.55
  • IQA: 33.3

Definitionen Lektion 04

Quantil

Ein Quantil gibt den dem Prozentrang zugehörigen Wert der Verteilung wieder. Der Median ist z.B. das 50% Quantil. Das 25%-Quantil z.B. ist der Wert, für welchen gilt, dass 25% der Werte kleiner und 75% der Werte grösser sind. Mathematisch kann man das wie folgt festhalten:

Möchte man das Quantil $\alpha=35\%=0.35$ von den $n=15$ Daten 10.6, 16.9, -27.3, 9.6, 18.1, -6.4, 34.4, 42.7, -3.6, 5, -3.2, 11.1, 46.1, 19.4, 2.4 berechnen, so muss man diese zuerst aufsteigend sortieren: -27.3, -6.4, -3.6, -3.2, 2.4, 5, 9.6, 10.6, 11.1, 16.9, 18.1, 19.4, 34.4, 42.7, 46.1. Die sortierten Werte werden mit $x_{(1)},x_{(2)},\ldots,x_{(n)}$ bezeichnet. Man sucht dann diesen Wert so, dass der gefundene Wert dem geforderten Prozentrang von $\alpha=0.35$ am nächsten kommt.

Genauer: Sei $K=\lfloor\alpha\cdot n\rfloor+1$ wobei $\lfloor\cdot\rfloor$ auf die nächste ganze Zahl abrundet. Für uns ist also $K=\lfloor0.35\cdot 15\rfloor+1=\lfloor5.25\rfloor+1=5+1=6$. Wir nehmen also den 6. Wert: Damit ist $Q_{0.35}=x_{(6)}=5$

Ist aber $\alpha\cdot n$ eine natürliche Zahl so, so nehmen wir wegen des Abrundens den mittleren der beiden Werte $x_{(K-1)}$ und $x_{(K)}$: Für $\alpha=0.3$ ist $K=3+1=4$ und damit $Q_{0.2}=\frac12((-3.6)+(-3.2))=-3.4$. $$Q_\alpha=\begin{cases}x_{(K)}\text{ wenn $\alpha\cdot n$ nicht ganzzahlig}\\\frac12\left(x_{(K)}+x_{(K-1)}\right)\text{ wenn $\alpha\cdot n$ ganzzahlig}\end{cases}$$

Quartile

Quartile sind die $25\%$, $50\%$ und $75\%$ Quantile einer Verteilung. Für das erste Quartil gilt also, dass $25\%$ der Beobachtungen kleiner sind, $75\%$ der Beobachtungen sind grösser.

Bei der Berechnung der Quantile kommen bei unterschiedlichen Softwarelösungen unterschiedliche Methoden zum Einsatz. Das heisst, u.U. stimmen die Quantile zweier unterschiedlichen Softwarelösungen nicht überein.

Interquartilsabstand (IQA)

Der Interquartilsabstand ist ein Mass für die Skala einer Verteilung. Wie weit sind das erste und dritte Quartil auseinander: $\text{IQA}=Q_{0.75}-Q_{0.25}$.

In Buch R-Reader:

  • Kapitel 2 insb. Kapitel 2.2.1 Dataframes lesen
  • Kapitel 4 insb. Anfang

R-Code

R-Code

cardata.r
# cardata <- read.table(readClipboard(),header = T,sep=';')
head(cardata)
unique(cardata$model)
x5 <- cardata$model == "x5"
x5  #ein Vektor mit TRUE and FALSE
x5preise <- cardata$preis[x5]
mean(x5preise)
median(x5preise)
sd(x5preise)
quantile(x5preise, 0.25)
quantile(x5preise, c(0.25, 0.75))
 
library(plyr)  # Zusatzpaket 'plyr' laden (vorgänig mit install.packages('plyr') installieren)
head(cardata)  # Erste Zeilen anzeigen
`?`(ddply  # Hilfe zu ddply
)
ddply(cardata, .(model), summarise, preis = mean(preis))  # Mittelwert des Preises nach Modell anzeigen
ddply(cardata, .(model), summarise, preis = median(preis))  # Median des Preises nach Modell anzeigen
ddply(cardata, .(model, zylinder), summarise, preis = mean(preis))  # Mittelwert des Preises nach Modell und Anzahl Zylinder anzeigen

Code für Modus

Code für Modus

mode.r
modes <- function(x) {
  uniquex <- unique(x)
  counts <- tabulate(match(x, ux))
  maxcount <- max(count)
  wheremaxcount <- maxcount==counts
  modevalues <- uniquex[wheremaxcount]
  return(modevalues)
}

Ziele

  • Unterlagen durcharbeiten.
  • Der Begriff des Zufalls ist intuitiv bekannt bei Experimenten (Würfeln) wie auch erhobenen Daten (Autopreise): In Alltagssprache Zufall beschreiben.
  • Jede/r kann ein Histogramm erstellen und interpretieren.
  • Jede/r kann mit R Zufallszahlen (Würfel) erzeugen.

Aufträge:

  • Eile-mit-Weile Auftrag ausführen
    • Zuerst manuell mit Strichliste und Würfeln.
    • Nachher mit R Simulieren. Hilfreicher Funktionen sind sample (oder, wer es gerne manuell mag runif ,ceiling).
  • Histogramm mit R erstellen:
    • hist(…) erstellt ein Histogramm.
    • Histogramm der Fahrzeugpreise (z.B. alle X1) erstellen und diese vergleichen.

R Code Simulation Eile-mit-Weile

In R kann man auch Würfel (und vieles mehr) simulieren, mit sample wird eine Zahl aus einem Zahlenbereich zufällig ausgewählt. So könnte z.B. mit sample(1:45, 6, replace=FALSE) das Ziehen von 6 Zahlen beim Schweizer Zahlenlotto simuliert werden. 1:45 ist die Menge, aus welcher zufällig gezogen wird, 6 sind die Anzahl Elemente und replace=FALSE besagt, dass die Kugeln/Elemente nicht zurückgelegt werden vor dem nächsten Ziehen.

Mit replicate(n,{…}) wird alles n mal wiederholt, was zwischen den geschweiften Klammern steht.

  • Level 1 (ohne replicate)
    • Würfle 1 mal mit R
    • Würfle 100 mal mit R
    • Würfle 1000 mal mit R
    • Berechne die durchschnittliche Anzahl Sechsen bei allen Würfen oben. Du kannst dabei deine Resultate, welche du oben erhalten hast, vergleichen, das heisst, res==6 (res ist dabei dein Resultat, also der Vektor, welche alle Würfe enthält). Dies ergibt einen Vektor mit lauter TRUE und FALSE. Mit sum oder mean kannst du die Summe resp. den Durchschnitt berechnen.
  • Level 2 (mitreplicate)
    • Überprüfe, wie oft du eine Summe von 12 mit zwei Würfeln, das heisst, zwei Sechsen, hast. Verwende wieder replicate und sample. Du kannst sum und mean auch innerhalb von replicate verwenden
  • Level 3
    • Schreibe eine Funktion, welche Eile mit Weile würfeln simuliert.
    • Tipps:
      • sample(1:6,3,replace=T) wählt aus den Zahlen 1 bis 6 genau 3 aus
      • while(bedingung){ … } der Code in den Klammer wird ausgeführt, solange bedingung wahr ist. Die Schleife kann abgebrochen werden mit break.
      • Idee: Bedingung so wählen, dass weitergewürfelt wird, wenn eine gewürfelt worden ist $6$ ist.
      • replicate(n,…) wiederholt den Code … $n$ mal und hat die Rückgabewerte des aufgerufenen Codes als Liste resp. Vektor. z.B. replicate(10,sample(1:4,1))

Lösungen

Level 1

Lösung Level 1

Lösung Level 1

level1.r
sample(1:6, 1)
sample(1:6, 100, replace = TRUE)
sample(1:6, 1000, replace = TRUE)
 
res <- sample(1:6, 1000, replace = TRUE)
res == 6
sum(res == 6)  #Anzahl Sechsen
mean(res == 6)  #Durchschnittliche Anzahl Sechsen
Level 2

Lösung Level 2

Lösung Level 2

level2.r
sum(sample(1:6, 2, replace = T)) # zwei Würfel addieren
12 == sum(sample(1:6, 2, replace = T)) #vergleichen, ob gleich 12
replicate(1000, sum(sample(1:6, 2, replace = T)) == 12) #wiederholen 
mean(replicate(1000, sum(sample(1:6, 2, replace = T)) == 12)) #Mittelwert ausrechnen
Level 3

Lösung Level 3

Lösung Level 3

level3.R
rollDie <- function() {#erstellt Funktion, welche würfelt.
    isSix <- TRUE
    sum <- 0
    while (isSix) {
        thissample <- sample(6, 1)
        if (thissample + sum > 18) 
            break
        sum <- sum + thissample
        isSix <- thissample == 6
 
    }
    if (sum == 18) {
        sum <- 0
    }
    return(sum)
}
dice <- replicate(1e+06, rollDie())
hist(dice)
hist(dice, breaks = seq(-1, 17), main = "Histogramm Eile mit Weile", xlab = "Augenzahl", ylab = "Absolute Häufigkeit", col = "lightblue")

Histogramm Eile mit Weile bei 1'000'000 Würfeln

Ziele

  • Jede:r kann mit Pivot-Tabellen (in R: plyr) einfache Analysen durchführen

Aufträge

  • Abschliessen der Aufträge von letzter Woche.
  • Schaut euch die Einführung Pivot-Tabellen unten an.
  • Analysiert mittels Pivot-Tabellen folgende Fragen:
    • Mittlerer Verkaufspreis aller weissen Autos berechnen
    • Anzahl grüne Autos berechnen
    • Welches Modell ist am teuersten?
    • Welche Farbe oder Energieeffizienz ist am günstigsten? Ist das für alle Modelle und Farben oder Energieeffizienz identisch?
  • Was ist der mittlere Preis aller Autos zwischen 0 und 20'000 Kilometern, 20'000 und 40'000 Kilometern?
    • Verwende wiederum Pivot-Tabellen
    • Erstelle zuerst eine Spalte in welcher du mit Runden (=ABRUNDEN(xxx;stellen), in R floor(xxx)) die Kilometer 0, 20000, 40000,etc. angibst.
  • Führe die gleiche Analyse für alle Modelle durch. Für alle Farben.
  • Gibt es andere Zusammenhänge? Verbrauch? Zylinder?

Einführungsvideos

Tip Abrunden

Tip Abrunden

Wenn man z.B. auf Fünf Rappen runden möchte: Man dividiert die Zahl durch 20, rundet die Zahl auf die nächste ganze Zahl (ab) und multipliziert dann wieder mit 20 ($100/5=20$)

Genauso kann man die gefahrenen Kilometer in “Buckets” einteilen:

cardata$kilometerbucket <- 20000*floor(cardata$kilometer/20000)
ddplystattpivot.R
setwd("Pfad zum Arbeitsverzeichnis angeben")
cardata <- read.table("bmw_data.csv",header = T,sep=";")
 
# install.packages("plyr") # installiert Paket
 
library(plyr)
# Daten laden
cardata <- read.csv2("bmw_data.csv")
library(plyr) # Zusatzpaket 'plyr' laden (vorgänig mit install.packages("plyr") installieren)
head(cardata) # Erste Zeilen anzeigen
?ddply # Hilfe zu ddply
ddply(cardata, .(model), summarise, preis = mean(preis)) # Mittelwert des Preises nach Modell anzeigen
ddply(cardata, .(model), summarise, preis = median(preis)) # Median des Preises nach Modell anzeigen
ddply(cardata, .(model, zylinder), summarise, preis = mean(preis)) # Mittelwert des Preises nach Modell und Anzahl Zylinder anzeigen

Ziele

Ziele der Lektion:

  • Einführung Freifach
  • Unterlagen kennenlernen
  • Geräte und Tools kennenlernen
  • Erste Berechnungen anstellen
  • R Dokumentation Seiten 1-13 lesen und Beispiel-Code durcharbeiten

Auftrag

  • Dossier erstellen:
    • Word-Datei, One-Note Datei, Papier, o.ä.
    • Formatierung anlegen
  • R installieren
  • Spielen mit Daten:
    • Mittlerer Verkaufspreis (Durchschnitt) aller Autos berechnen
    • Mittlerer Verkaufspreis aller weissen Autos berechnen
    • Anzahl blaue Autos berechnen
    • Welches Modell ist am teuersten?
    • Welche Farbe oder Energieeffizienz ist am günstigsten? Ist das für alle Modelle und Farben oder Energieeffizienz identisch?
| intro.R
setwd("C:/Users/Simon.Knaus/git/ffstat") #Arbeitsverzeichnis bestimmen
cardata <- read.table("cardata.csv",sep=";",header=TRUE) #Daten einlesen als Dataframe
head(cardata) # Erste Zeilen (6) anzeigen
summary(cardata) # Zusammenfassung anzeigen
mean(cardata$preis) # Mittelwert des Preises anzeigen
unique(cardata$model) #Alle Modelle nur einzeln (einmalig) anzeigen
 
str(cardata) #Struktur des Dataframes anzeigen
cardata[2,1] #2 Zeile, erste Spalte
cardata[cardata$model=="x1", "preis"] #Model soll 'x1' sein, da die 'Preis'-Spalte
mean(cardata[2:4,2]) #Mittelwert der 2. bis 4. Zeile der 2. Spalte

Lösungen

Lösungen

solution01.R
#weisse autos suchen
weisseautos <- cardata$aussenfarbe=="weiss"
#preise von weissenautos
cardata$preis[weisseautos]
#mittelwert der preise
mean(cardata$preis[weisseautos])

#blaue autos suchen
blaueautos <- cardata$aussenfarbe=="blau"
#anzahl (länge) der blauen autos, resp. der Preise der blauen Autos
length(cardata$preis[blaueautos])
#auch möglich: Es ist TRUE 1; FALSE 0. Summe ist also alle TRUE
sum(blaueautos)

cardata[cardata$model=="x1", "preis"]
mean(cardata[cardata$model=="x1", "preis"])
mean(cardata[cardata$model=="x2", "preis"])
mean(cardata[cardata$model=="x3", "preis"])
mean(cardata[cardata$model=="x4", "preis"])
mean(cardata[cardata$model=="x5", "preis"])

Begriffe, die festzuhalten sind:

Begriff Kurzbeschrieb Excel R
Mittelwert Arithmetisches Mittel ($\mu$). Man schreibt auch $\bar x$. MITTELWERT() mean()
Anzahl Anzahl ANZAHL() length()
Merkmal Eigenschaften eines Datenpunkts (z.B. Türen, Farbe etc.)
Merkmalsausprägung und -typen Nominal (Farbe), Ordinal (Modell: X1 bis X6), Kardinal (z.B. Kilometer, Preis)
Absolute und relative Häufigkeit von $x$ Die absolute Häufigkeit entsprichen dem insgesamten Vorkommen, die relative Häufigkeit ist das Vorkommen in Prozent, d.h., die absolute Anzahl dividiert durch die Gesamtanzahl ANZAHL() oder SUMMEWENN()
Histogramm Illustration von Daten. Die Säulenfläche ist proportional zur relativen Häufigkeit
Varianz Die mittlere quadratische Abweichung, i.e. $\sigma^2=\frac1{n-1}\sum_{i=1}^n (x_i-\bar x)^2$ VARIANZA() var()
Standardabweichung Wurzel der mittleren quadratischen Abweichung $\sigma=\sqrt{\frac1{n-1}\sum_{i=1}^n (x_i-\bar x)^2}$ STABWA() sd()
Median Wert der mittig in der Verteilung aller sortierten Werte ist, resp. zum 50% Prozentrang gehöriger Wert MEDIAN() median()
Modus Der häufigste (die häufigsten) Wert(e)MODUS.EINF()Benutzerdefinierte Funktion modes(…)
$\alpha$-Quantil Zum Prozentrang $\alpha$ gehöriger Wert QUANTIL.INKL() quantile(,type=2)
IQA Interquartilsabstand. Differenz des 1. und 3. Quartils QUANTIL.INKL(…;.75)-QUANTIL.INKL(…;.25) IQR())

  • lehrkraefte/ks/ffstat2324.txt
  • Last modified: 2024/06/06 22:00
  • by Simon Knaus