library(tidyverse)
<- 2^4
n
<-
d tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
lm-Standardfehler
Exercise
Man kann angeben, wie genau eine Schätzung von Regressionskoeffizienten die Grundgesamtheit widerspiegelt. Zumeist wird dazu der Standardfehler (engl. standard error, SE) verwendet.
In dieser Übung untersuchen wir, wie sich der SE als Funktion der Stichprobengröße, \(n\), verhält.
Erstellen Sie dazu folgenden Datensatz:
Hier ist das Ergebnis. Uns interessiert v.a. Std. Error
für den Prädiktor x
:
lm(y ~ x, data = d) %>%
summary()
Call:
lm(formula = y ~ x, data = d)
Residuals:
Min 1Q Median 3Q Max
-0.8039 -0.3986 -0.1500 0.6939 0.8013
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.1610 0.1446 1.114 0.284
x 1.1144 0.1660 6.711 9.92e-06 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.5777 on 14 degrees of freedom
Multiple R-squared: 0.7629, Adjusted R-squared: 0.746
F-statistic: 45.04 on 1 and 14 DF, p-value: 9.919e-06
Hier haben wir eine Tabelle mit zwei Variablen, x und y, definiert mit n=16.
Verdoppeln Sie die Stichprobengröße 5 Mal und betrachten Sie, wie sich die Schätzgenauigkeit, gemessen über den SE, verändert. Berechnen Sie dazu für jedes n eine Regression mit x als Prädiktor und y als AV!
Bei welcher Stichprobengröße ist SE am kleinsten?
Answerlist
- \(2^5\)
- \(2^6\)
- \(2^7\)
- \(2^8\)
- \(2^9\)
Solution
Probieren wir es aus!
Erste Verdopplung, \(n=2^5\):
<- 2^5
n
<-
d5 tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
<- lm(y ~ x, data = d5)
lm5
%>% summary() lm5
Call:
lm(formula = y ~ x, data = d5)
Residuals:
Min 1Q Median 3Q Max
-1.06790 -0.28655 -0.06282 0.25958 1.18567
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -0.08955 0.10349 -0.865 0.394
x 1.01855 0.08561 11.898 6.91e-13 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.5155 on 30 degrees of freedom
Multiple R-squared: 0.8251, Adjusted R-squared: 0.8193
F-statistic: 141.6 on 1 and 30 DF, p-value: 6.91e-13
Man kann sich den Standardfehler komfortabler ausgeben lassen, wenn man das Paket broom
verwendet:
library(broom)
%>%
lm5 tidy()
# A tibble: 2 × 5
term estimate std.error statistic p.value
<chr> <dbl> <dbl> <dbl> <dbl>
1 (Intercept) -0.0896 0.103 -0.865 3.94e- 1
2 x 1.02 0.0856 11.9 6.91e-13
Dann könnte man z.B. die Spalte std.error
selektieren und nach term==x
filtern:
%>%
lm5 tidy() %>%
filter(term == "x") %>%
select(std.error)
# A tibble: 1 × 1
std.error
<dbl>
1 0.0856
Jetzt mit den anderen Stichprobengrößen:
<- 2^6
n
<-
d tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
<- lm(y ~ x, data = d)
mein_lm
%>%
mein_lm tidy() %>%
filter(term == "x") %>%
select(std.error)
# A tibble: 1 × 1
std.error
<dbl>
1 0.0580
<- 2^7
n
<-
d tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
<- lm(y ~ x, data = d)
mein_lm
%>%
mein_lm tidy() %>%
filter(term == "x") %>%
select(std.error)
# A tibble: 1 × 1
std.error
<dbl>
1 0.0388
<- 2^8
n
<-
d tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
<- lm(y ~ x, data = d)
mein_lm
%>%
mein_lm tidy() %>%
filter(term == "x") %>%
select(std.error)
# A tibble: 1 × 1
std.error
<dbl>
1 0.0325
<- 2^9
n
<-
d tibble(x = rnorm(n = n), # im Default: mean = 0, sd = 1
y = x + rnorm(n, mean = 0, sd = .5))
<- lm(y ~ x, data = d)
mein_lm
%>%
mein_lm tidy() %>%
filter(term == "x") %>%
select(std.error)
# A tibble: 1 × 1
std.error
<dbl>
1 0.0216
Answerlist
- Falsch
- Falsch
- Falsch
- Falsch
- Wahr. Die größte Stichprobe impliziert den kleinsten SE, ceteris paribus.
Categories:
- inference
- lm
- qm2