Nicht nur die Beziehungen zwischen zwei (oder mehreren) Variablen sind in Studien interessant – wie wir gesehen haben, kann man solche (lineare) Beziehungen mit Korrelationen oder Regressionsmodellen beschreiben. Oft ist man auch an mittleren Unterschieden zwischen zwei (oder mehreren) Gruppen interessiert.
Im Gegensatz zu korrelativen Studiendesigns kann man mit experimentellen Studiendesigns auch auf Kausalität rückschließen. In experimentellen Designs ist man daher oft an Mittelwertsunterschieden zwischen zwei (oder mehreren) Gruppen interessiert, welche auf eine konkrete Behandlung zurückzuführen sind (meist im Vergleich zu einer Kontrollgruppe).
Korrelative Studien nennt man auch Beobachtungsstudien – hier erhebt man Daten, ohne Manipulationen entsprechend der Forschungshypothese vorzunehmen. Experimentelle Studien nennt man auch Interventionsstudien – hier manipuliert man gezielt eine oder mehrere Variablen, die für die Forschungshypothese relevant sind (z.B. eine Gruppe erhält ein Medikament, eine andere ein Placebo).
Prinzipiell unterscheidet man bei experimentellen Designs zwischen abhängigen und unabhängigen Designs. In unabhängigen Designs sind die Individuen in den einzelnen Gruppen voneinander unabhängig (z.B. verschiedene Personen). In abhängigen Designs sind die Individuen zwar innerhalb der Gruppen unabhängig, aber zwischen den Gruppen besteht eine Abhängigkeit (z.B. befinden sich dieselben Personen in mehreren Gruppen, man spricht auch von einem Messwiederholungs-Design). Abhängige Designs berücksichtigen individuelle Unterschiede, die für die Behandlung nicht relevant sind, und können daher kleinere Unterschiede besser detektieren als unabhängige Designs. Dies lässt sich am besten anhand eines Beispiels veranschaulichen.
In einer (fiktiven) Studie wurde die Angst vor Spinnen auf einer Skala von 0 bis 100 gemessen (größere Werte stehen für höhere Angst). Es wurden 24 Personen in zwei Gruppen untersucht (also 12 Personen pro Gruppe). Einer Gruppe wurden Fotos von Spinnen gezeigt, der anderen Gruppe wurden echte Spinnen gezeigt. Wir beginnen mit dem Importieren der Daten aus der Datei spider.dat:
library(readr)
(spider = read_tsv("spider.dat"))# A tibble: 24 × 2
Group Anxiety
<chr> <dbl>
1 picture 30
2 picture 35
3 picture 45
4 picture 40
5 picture 50
6 picture 35
7 picture 55
8 picture 25
9 picture 30
10 picture 45
# ℹ 14 more rowsDie mittleren Angstwerte für die beiden Gruppen betragen:
by(spider$Anxiety, spider$Group, mean)spider$Group: picture
[1] 40
------------------------------------------------------------
spider$Group: real
[1] 47Im Durchschnitt ist die Angst also in der Gruppe, die echte Spinnen sieht, größer.
Die Daten in spider liegen im Long-Format vor, d.h. dieses Format würde gut für ein unabhängiges Design passen, da sich so jede Person in einer eigenen Zeile befindet.
Stellen wir nun die Mittelwerte beider Gruppen in einer Grafik gegenüber. Die schwarzen Punkte zeigen die Gruppenmittelwerte, die Fehlerbalken stellen die 95%-Konfidenzintervalle dar, und die roten Punkte sind die Angstwerte der einzelnen Personen:
Man erkennt, dass die Konfidenzintervalle stark überlappen, d.h. der Unterschied zwischen den beiden Mittelwerten ist wahrscheinlich nicht signifikant.
Bei abhängigen Gruppen (also beispielsweise aus einem Design mit Messwiederholung, in welchem jede der 12 Personen in beiden Gruppen war) bringt man die Daten zuerst am besten ins Wide-Format:
library(tidyr)
spider_w = pivot_wider(
cbind(id=rep(1:12, 2), spider),
names_from=Group,
values_from=Anxiety
)
spider_w$id = NULL
spider_w# A tibble: 12 × 2
picture real
<dbl> <dbl>
1 30 40
2 35 35
3 45 50
4 40 55
5 50 65
6 35 55
7 55 50
8 25 35
9 30 30
10 45 50
11 40 60
12 50 39Anschließend berechnen wir angepasste Werte, welche die individuellen Unterschiede der Personen berücksichtigen. Dazu fügen wir zunächst eine Spalte mit der mittleren Angst jeder Person hinzu.
spider_w$mean = rowMeans(spider_w)
spider_w# A tibble: 12 × 3
picture real mean
<dbl> <dbl> <dbl>
1 30 40 35
2 35 35 35
3 45 50 47.5
4 40 55 47.5
5 50 65 57.5
6 35 55 45
7 55 50 52.5
8 25 35 30
9 30 30 30
10 45 50 47.5
11 40 60 50
12 50 39 44.5Nun berechnen wir die Differenz der Personenmittelwerte zum Gesamtmittelwert aller Daten – dies ist der Korrekturfaktor für Designs mit Messwiederholung.
spider_w$adj = mean(c(spider_w$picture, spider_w$real)) - spider_w$mean
spider_w# A tibble: 12 × 4
picture real mean adj
<dbl> <dbl> <dbl> <dbl>
1 30 40 35 8.5
2 35 35 35 8.5
3 45 50 47.5 -4
4 40 55 47.5 -4
5 50 65 57.5 -14
6 35 55 45 -1.5
7 55 50 52.5 -9
8 25 35 30 13.5
9 30 30 30 13.5
10 45 50 47.5 -4
11 40 60 50 -6.5
12 50 39 44.5 -1 Damit können wir die einzelnen Angstwerte pro Person korrigieren.
spider_w$picture_adj = spider_w$picture + spider_w$adj
spider_w$real_adj = spider_w$real + spider_w$adjDadurch haben wir erreicht, dass die korrigierten Werte nun für alle Personen denselben Mittelwert ergeben, d.h. personenspezifische Unterschiede werden berücksichtigt und nur der Unterschied zwischen den Gruppen wird untersucht:
rowMeans(spider_w[, c("picture_adj", "real_adj")]) [1] 43.5 43.5 43.5 43.5 43.5 43.5 43.5 43.5 43.5 43.5 43.5 43.5Die Daten sehen nun so aus:
spider_w# A tibble: 12 × 6
picture real mean adj picture_adj real_adj
<dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
1 30 40 35 8.5 38.5 48.5
2 35 35 35 8.5 43.5 43.5
3 45 50 47.5 -4 41 46
4 40 55 47.5 -4 36 51
5 50 65 57.5 -14 36 51
6 35 55 45 -1.5 33.5 53.5
7 55 50 52.5 -9 46 41
8 25 35 30 13.5 38.5 48.5
9 30 30 30 13.5 43.5 43.5
10 45 50 47.5 -4 41 46
11 40 60 50 -6.5 33.5 53.5
12 50 39 44.5 -1 49 38 Die angepassten Werte können wir wieder in einer Grafik darstellen:
Aus der Grafik ist ersichtlich, dass die Gruppenmittelwerte (schwarze Punkte) gleich wie im unabhängigen Design sind. Die Konfidenzintervalle sind jedoch aufgrund des abhängigen Designs wesentlich kleiner geworden. In diesem Beispiel überlappen sie jetzt nicht mehr, was auf einen signifikanten Unterschied zwischen den Gruppenmittelwerten schließen lässt.
Man verwendet den t-Test, um die Mittelwerte zweier Gruppen miteinander zu vergleichen. Hier gibt es zwei Varianten, nämlich einen t-Test für abhängige Gruppen und einen für unabhängige Gruppen. Ersteren nennt man auch gepaarten oder abhängigen t-Test, letzteren nennt man unabhängigen t-Test.
Die t-Statistik ist wie viele Statistiken aufgebaut: sie setzt die Varianz, die vom Modell erklärt werden kann in Beziehung zur Varianz, die nicht vom Modell erklärt werden kann (also kurz Effekt geteilt durch Fehler). Im Falle des t-Tests ist das Modell der Unterschied der beiden Mittelwerte minus der erwarteten Differenz, und der Fehler wird durch den Standardfehler der Mittelwertsdifferenz geschätzt:
\[t = \frac{\text{Beobachtete Differenz} - \text{Erwartete Differenz}}{\text{Standardfehler der Differenz}}\]
Die Differenz bezieht sich immer auf die Differenz zwischen den Mittelwerten. Die erwartete Differenz (unter der Annahme der Nullhypothese) ist in den meisten Fällen gleich Null. Die Vorgehensweise beim Testen ist also wie folgt:
Je größer der Unterschied bzw. die t-Statistik, desto mehr spricht für den zweiten Fall (d.h. für einen tatsächlichen Effekt).
Wir haben den t-Test bereits bei der linearen Regression kennengelernt. Hier wird er verwendet, um zu überprüfen, ob Regressionskoeffizienten signifikant unterschiedlich von 0 sind. Wie wir außerdem soeben erfahren haben, wird der t-Test auch angewendet, um Mittelwerte zu vergleichen. Tatsächlich ist es so, dass der t-Test als lineares Modell angeschrieben werden kann. Er kann also wieder mit folgender allgemeinen Form beschrieben werden:
\[y_i = \hat{y}_i + \varepsilon_i\]
Ein t-Test kann in diesem Kontext mit abhängigen und unabhängigen Variablen formuliert werden. Die abhängige Variable \(y\) ist die Variable, deren Gruppenmittelwerte man vergleichen möchte (z.B. Angst vor Spinnen). Die unabhängige Variable \(x\) codiert die Gruppen. Man verwendet dann für \(\hat{y}\) das lineare Modell:
\[\hat{y}_i = b_0 + b_1 \cdot x_i\]
Am besten illustriert man die Funktionsweise mit einem Beispiel. Dazu verwenden wir wieder die Daten über die Angst vor Spinnen. Erstellen wir nun ein lineares Regressionsmodel, welches Anxiety durch Group vorhersagt:
model = lm(Anxiety ~ Group, data=spider)
summary(model)
Call:
lm(formula = Anxiety ~ Group, data = spider)
Residuals:
Min 1Q Median 3Q Max
-17.0 -8.5 1.5 8.0 18.0
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 40.000 2.944 13.587 3.53e-12 ***
Groupreal 7.000 4.163 1.681 0.107
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 10.2 on 22 degrees of freedom
Multiple R-squared: 0.1139, Adjusted R-squared: 0.07359
F-statistic: 2.827 on 1 and 22 DF, p-value: 0.1068Hier ist anzumerken, dass die kategorische Variable Group von R automatisch mit 0 und 1 codiert wird (und zwar alphabetisch, d.h. die Stufe picture entspricht 0 und die Stufe real entspricht 1). Man spricht hier von Dummy-Coding.
Wenn man sich nun die Regressionskoeffizienten ansieht, bemerkt man, dass der Intercept \(b_0 = 40\) dem Mittelwert der Gruppe 0 (picture) entspricht. Die Steigung \(b_1 = 7\) entspricht dem Unterschied der Mittelwerte zwischen den beiden Gruppen (\(47 - 40 = 7\)). Der t-Test für diesen Koeffizienten testet, ob die Steigung signifikant von Null verschieden ist. Er testet somit also auch, ob der Unterschied zwischen den Mittelwerten signifikant von Null verschieden ist. Man sieht, dass dieser Test mit \(p=0.107\) nicht signifikant ist, d.h. man kann daraus schließen, dass sich die Mittelwerte nicht signifikant voneinander unterscheiden.
Grafisch kann man die Situation wie folgt darstellen:
Die Regressionsgerade verbindet beide Gruppenmittelwerte und die Steigung beträgt 7.
Wir können dies durch Einsetzen der Gruppenmittelwerte in die Gleichung des linearen Modells überprüfen. Wir beginnen mit der Gruppe 0, also picture. Wir wissen, dass der Mittelwert dieser Gruppe gleich 40 ist.
mean(spider$Anxiety[spider$Group=="picture"])[1] 40Wir setzen in folgende Gleichung ein: \[\hat{y}_i = b_0 + b_1 \cdot x_i\] Für \(\hat{y}_i\) verwenden wir den Gruppenmittelwert der picture-Gruppe, und das zugehörige \(x_i\) ist also \(x_{\text{Picture}}\) (codiert mit 0). \[\bar{y}_{\text{picture}} = b_0 + b_1 \cdot x_{\text{picture}}\] \[40 = b_0 + b_1 \cdot 0\] \[b_0 = 40\]
Man sieht also, dass der Intercept \(b_0\) dem Gruppenmittelwert der ersten Gruppe (mit Codierung 0) entspricht. Setzen wir anschließend die Werte für die Gruppe real ein. Hier beträgt der Gruppenmittelwert 47:
mean(spider$Anxiety[spider$Group=="real"])[1] 47\[\bar{y}_{\text{real}} = b_0 + b_1 \cdot x_{\text{real}}\] \[47 = 40 + b_1 \cdot 1\] \[b_1 = 7\]
Die Steigung der Geraden entspricht also genau dem Unterschied der beiden Mittelwerte.
Da der t-Test eine lineare Regression ist, setzt er auch dieselben Annahmen wie diese voraus:
Die t-Statistik berechnet sich also durch das Verhältnis erklärter Varianz (Spalte Estimate) zu nicht erklärter Varianz (Spalte Std. Error). Beim unabhängigen t-Test vergleicht man so die Mittelwerte beider Bedingungen:
\[t = \frac{(\bar{x}_1 - \bar{x}_2) - (\mu_1 - \mu_2)}{\text{Standardfehler}}\]
Die Nullhypothese besagt dass \(\mu_1 = \mu_2\), daher vereinfacht sich die Gleichung zu:
\[t = \frac{\bar{x}_1 - \bar{x}_2}{\text{Standardfehler}}\]
Der Standardfehler der Differenz beider Gruppen ist bei gleicher Gruppengröße wie folgt definiert:
\[\text{SE} = \sqrt{\frac{s_1^2}{N_1} + \frac{s_2^2}{N_2}}\]
Daher lautet die Gleichung für den t-Test:
\[t = \frac{\bar{x}_1 - \bar{x}_2}{\sqrt{\frac{s_1^2}{N_1} + \frac{s_2^2}{N_2}}}\]
Wenn die beiden Gruppen unterschiedlich viele Personen enthalten, muss man den Standardfehler über die gepoolte Varianz berechnen:
\[s_p^2 = \frac{(N_1 - 1) s_1^2 + (N_2 - 1) s_2^2}{N_1 + N_2 - 2}\]
Daraus ergibt sich dann für den t-Test mit \(N_1 + N_2 - 2\) Freiheitsgraden:
\[t = \frac{\bar{x}_1 - \bar{x}_2}{\sqrt{\frac{s_p^2}{N_1} + \frac{s_p^2}{N_2}}}\]
In R kann man t-Tests mit der Funktion t.test() durchführen. Der Aufruf ist auf zwei verschiedene Arten möglich. Eine Möglichkeit ist, die Funktion wie ein lineares Modell aufzurufen:
model = t.test(Anxiety ~ Group, data=spider)
model Welch Two Sample t-test
data: Anxiety by Group
t = -1.6813, df = 21.385, p-value = 0.1072
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-15.648641 1.648641
sample estimates:
mean in group picture mean in group real
40 47 Das erste Argument ist also eine Formel, deren linke Seite die Datenpunkte angibt (die Spalte Anxiety in diesem Beispiel). Die rechte Seite der Formel gibt die Gruppierungsspalte an (also hier Group). Damit man die Spaltennamen direkt verwenden kann, spezifiziert man noch data=spider, damit klar ist dass diese Spalten im Data Frame spider zu finden sind.
Ausgegeben wird der Wert der t-Statistik, die Freiheitsgrade (standardmäßig korrigiert nach Welch, was die Voraussetzung der Varianzhomogenität überflüssig macht), sowie der p-Wert. Weiters gibt es noch das 95%-Konfidenzintervall für die t-Statistik sowie die Gruppenmittelwerte.
Die zweite Möglichkeit die Funktion aufzurufen verwendet zwei Argumente; hier übergibt man also die Daten der beiden Gruppen in Vektoren als jeweils separate Argumente:
(model = t.test(spider_w$picture, spider_w$real))
Welch Two Sample t-test
data: spider_w$picture and spider_w$real
t = -1.6813, df = 21.385, p-value = 0.1072
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-15.648641 1.648641
sample estimates:
mean of x mean of y
40 47 Das Ergebnis ist aber immer dasselbe, egal wie die Funktion aufgerufen wird. Der Unterschied zwischen den Gruppenmittelwerten ist nicht signifikant.
Die Effektgröße kann man aus dem Wert von \(t\) in eine Korrelation \(r\) umrechnen:
\[r = \sqrt{\frac{t^2}{t^2 + \text{df}}}\]
Im Beispiel ist die Effektgröße \(r\) also:
t = model$statistic[[1]]
df = model$parameter[[1]]
r = sqrt(t^2 / (t^2 + df))
round(r, 3)[1] 0.342Der abhängige (oder gepaarte) t-Test funktioniert ebenso, sieht sich aber die Mittelwerte der einzelnen Differenzen anstelle der Differenz der Mittelwerte an:
\[t = \frac{\bar{D} - \mu_D}{s_D / \sqrt{N}}\]
Unter der Nullhypothese ist \(\mu_D = 0\): \[t = \frac{\bar{D}}{s_D / \sqrt{N}}\]
Für den abhängigen t-Test verwendet man wieder die Funktion t.test() und setzt das Argument paired=TRUE. Wieder gibt es zwei Möglichkeiten des Aufrufs, je nachdem, in welchem Format die Daten vorliegen.
(model = t.test(Anxiety ~ Group, data=spider, paired=TRUE))
Paired t-test
data: Anxiety by Group
t = -2.4725, df = 11, p-value = 0.03098
alternative hypothesis: true mean difference is not equal to 0
95 percent confidence interval:
-13.2312185 -0.7687815
sample estimates:
mean difference
-7 (model = t.test(spider_w$picture, spider_w$real, paired=TRUE))
Paired t-test
data: spider_w$picture and spider_w$real
t = -2.4725, df = 11, p-value = 0.03098
alternative hypothesis: true mean difference is not equal to 0
95 percent confidence interval:
-13.2312185 -0.7687815
sample estimates:
mean difference
-7 Das Ergebnis ist diesmal signifikant mit \(p=0.03098\). Dies entspricht unseren Überlegungen mit den unterschiedlich großen Konfidenzintervallen von abhängigen und unabhängigen Versuchsdesigns. Abhängige Designs können also kleinere Unterschiede detektieren.
Die Effektgröße kann man wieder aus \(t\) mit der Formel oben in \(r\) umwandeln:
t = model$statistic[[1]]
df = model$parameter[[1]]
r = sqrt(t^2 / (t^2 + df))
round(r, 3)[1] 0.598Es handelt sich also in diesem Fall um einen großen Effekt.
Zusammenfassend haben wir gesehen, dass der Mittelwertsvergleich über den t-Test auf ein lineares Modell zurückgeführt werden kann. Möchte man mehr als zwei Mittelwerte vergleichen, kann man das lineare Modell mit mehreren Prädiktoren verwenden (Dummy-Coding). In der klassischen Varianzanalyse betrachtet man die F-Statistik, welche aber auch Teil der linearen Regression ist (sie misst die Güte des Modells) und dementsprechend auch in der Ausgabe aufscheint. Man kann also auch eine ANOVA als Spezialfall eines linearen Modells sehen. Um die vertrauten ANOVA-Tabellen denoch auch in R zu erhalten, kann man beispielsweise das Paket afex benutzen.
Bei abhängigen Messungen kann man keine linearen Modelle rechnen, da eine der wichtigsten Voraussetzungen die Unabhängigkeit der Messpunkte ist. Sogenannte lineare gemischte Modelle (engl. linear mixed models) können aber mit diesen Abhängigkeiten umgehen und werden immer häufiger statt den klassischen Messwiederholungs-ANOVAs eingesetzt. Gemischte Modelle sind Verallgemeinerungen von linearen Modellen, oder umgekehrt sind lineare Modelle Spezialfälle von gemischten Modellen. Das Paket lme4 hat sich in R als Standard zur Berechnung dieser Modelle durchgesetzt (bzw. die darauf aufbauenden Pakete lmerTest und afex).
Das Paket dplyr beinhaltet den Datensatz starwars (aktivieren Sie das Paket um auf diesen Datensatz zugreifen zu können). Verwenden Sie diese Daten um herauszufinden, ob die weiblichen Charaktere signifikant kleiner sind als die männlichen (Spalte height). Verwenden Sie die Spalte gender um zwischen den Geschlechtern "feminine" und "masculine" zu unterscheiden. Verwenden Sie für Ihre Analyse ein Signifikanzniveau von 5% und geben Sie die Mittelwerte beider Gruppen an.
Führen Sie auch einen Vergleich des Gewichtes (Spalte mass) durch (überprüfen Sie die Hypothese, dass männliche Charaktere mehr wiegen als weibliche). Geben Sie auch hier die Mittelwerte beider Gruppen an.
Verwenden Sie das Argument alternative von t.test(), um einen einseitigen Test durchzuführen.
Vergleichen Sie im penguins-Datensatz (aus dem Paket palmerpenguins), ob sich die Merkmale bill_length_mm bzw. bill_depth_mm zwischen den Spezies unterscheiden (führen Sie paarweise Vergleiche für jedes Merkmal durch). Berichten Sie die relevanten Statistiken, Signifikanzen und Effektgrößen (Korrelationskoeffizient r) für jeden t-Test.
Die Funktion pairwise.t.test() rechnet mehrere paarweise Vergleiche. Verwenden Sie diese Funktion (zusätzlich zu den einzeln gerechneten t-Tests von zuvor), um die Vergleiche durchzuführen. Mit dem Argument p.adjust.method können Sie außerdem die p-Werte korrigieren, weil mehrere Tests die Wahrscheinlichkeit eines falsch positiven Ergebnisses (der t-Test sagt “es gibt einen Unterschied” obwohl tatsächlich kein Unterschied besteht) erhöhen.
Laden Sie den Datensatz sleep (standardmäßig bei R dabei). Unterscheiden sich die beiden Gruppen (group) in der Anzahl an zusätzlichen Schlafstunden (extra)? Wenn ja, wie groß ist dieser Unterschied im Mittel? Geben Sie um den mittleren Unterschied auch ein 95%-Konfidenzintervall an.
Entnehmen Sie dem Hilfetext, ob Sie einen abhängigen oder unabhängigen t-Test rechnen müssen.