Seite 1 von 1

Negatives Adjusted R-Squared

Verfasst: Fr Mär 03, 2023 2:54 pm
von Statistik123
Hallo liebes Forum,

in meiner Regression ist mein adjusted R-Squared negativ. Ich weiß, dass das also zeigt, dass mein Modell schlecht ist. Aber muss ich nun etwas ändern? Ich schreibe gerade die Bachelorarbeit. Oder könnte ich einfach berichten, dass es ein negatives adjusted R-Squared gibt und was das für die Limitationen bedeutet?

Vielen Dank!

Re: Negatives Adjusted R-Squared

Verfasst: Fr Mär 03, 2023 7:55 pm
von schubbiaschwilli
Gude!

Also ein Adjusted R-squared kleiner 0 ist möglich - Wie man an diesem Beispiel sehen kann:

Code: Alles auswählen

x <- c(37.00, 33.50, 40.00, 35.50, 32.00, 37.00, 39.50, 35.50, 31.50, 33.50, 40.00, 40.00, 31.00, 42.00, 39.00, 32.00, 25.00)
y <- c(40.19112, 42.63232, 40.17562, 39.08412, 37.73542, 38.26342, 35.76512, 34.21812, 32.91542, 32.95382, 30.88792, 31.02502, 29.79522, 29.86142, 29.32082, 29.29152, 29.67462)

model <- lm(y~x)
summary(model)
In diesem Fall liegt es an einer linearen Regression, die nicht zu den Daten passt.

Dank&Gruß
Schubbiaschwilli

Re: Negatives Adjusted R-Squared

Verfasst: Sa Mär 04, 2023 10:20 am
von bigben
Adjusted R^2 ist gut, um Modelle miteinander zu vergleichen. Wenn Du nur ein Modell berichtest, dann würde ich das echte R^2 berichten. Das hat wenigstens eine verständliche inhaltliche Interpretation.

JMTC, Bernhard

Re: Negatives Adjusted R-Squared

Verfasst: Sa Mär 04, 2023 5:22 pm
von student
Ich habe auch noch etwas:

Das Adjusted R-squared ist das angepasste Bestimmtheitsmaß ra^2 und trägt dem Rechnung, dass r^2 mit der Anzahl der unabhängigen Variablen steigt. Um dann ein Modell über diese Gütemaß beurteilen zu können, muss r^2 entsprechend angepasst werden (aus Jürgen Hedderich/Lothar Sachs, Angewandte Statistik, 16. Auflage, S. 817):

Re: Negatives Adjusted R-Squared

Verfasst: Sa Mär 04, 2023 11:03 pm
von EDi
Ich weiß, dass das also zeigt, dass mein Modell schlecht ist. Aber muss ich nun etwas ändern? Ich schreibe gerade die Bachelorarbeit. Oder könnte ich einfach berichten, dass es ein negatives adjusted R-Squared gibt und was das für die Limitationen bedeutet?
Ich würde mir anschauen warum das so ist und eine Modeldiagnose durchführen, z.b. sich die Predictions und die Residuen anzuschauen.

Re: Negatives Adjusted R-Squared

Verfasst: So Mär 05, 2023 12:07 pm
von Athomas
Durch Aufnahme zusätzlicher Variablen in ein Regressionsmodell kann sich das R^2 nicht verschlechtern, i.a. wird es ansteigen.

Auch erkennbare Nonsens-Variablen erhöhen es - wenn ich mir also überlege, welche Variablen ich in ein (lineares) Regressionsmodel aufnehme, um eine möglichst gute Beschreibung zu erzielen, kann die Höhe des „rohen“ R^2 kein Kriterium sein.

Hier kommt halt eine „Korrektur“ ins Spiel, die diesem Effekt Rechnung tragen soll. Man sollte allerdings erwähnen, dass es diverse Vorschläge für eine solche Korrektur gibt, die von R verwendete aber die populärste ist! (https://stats.stackexchange.com/questio ... -interpret)
Die ominöse Korrektur ist also nix Amtliches, sondern lediglich eine pi-mal-Daumen-Regel für den Versuch, das Overfitting durch Einbindung unbedeutender Variablen zu verhindern!

Wie Bigben auch schon bemerkte, ist das korrigierte R^2 auf den Vergleich geschachtelter (?) Modelle abgestellt und für ein einzelnes, freistehendes Modell nicht aussagekräftiger als das ordinäre R^2.

Im Gegenteil, es verliert (wie Du gemerkt hast) die schöne Eigenschaft, nicht negativ zu sein!
Ich weiß, dass das also zeigt, dass mein Modell schlecht ist.
Es passt zumindest nicht - eine Möglichkeit wäre ja, dass die „erklärenden“ Variablen für Deine zu erklärende bedeutungslos sind – eine andere, dass die ihnen von Dir aufgezwungene Art des (linearen) Zusammenhangs nicht passt!

Und hier kommt EDis Anmerkung ins Spiel…