Почему существует значение R ^ 2 (и что его определяет), когда lm не имеет дисперсии в прогнозируемом значении?

Рассмотрим следующий код R:

example <- function(n) {
    X <- 1:n
    Y <- rep(1,n)
    return(lm(Y~X))
}
#(2.13.0, i386-pc-mingw32)
summary(example(7))    #R^2 = .1963
summary(example(62))   #R^2 = .4529
summary(example(4540)) #R^2 = .7832
summary(example(104))) #R^2 = 0
#I did a search for n 6:10000, the result for R^2 is NaN for
#n = 2, 4, 16, 64, 256, 1024, 2085 (not a typo), 4096, 6175 (not a typo), and 8340 (not a typo)

Просмотр http://svn.r-project.org/R/trunk/src/appl/dqrls.f ) не помог мне понять, что происходит, потому что я не знаю Фортрана. В другом вопросе ответили, что ошибки допусков машин с плавающей запятой были виноваты в коэффициентах для X, которые близки, но не совсем равны 0.

больше, когда значение дляближе к 0. Но ...$R^2$coef(example(n))["X"]

1. Почему значение вообще? $R^2$
2. Что (конкретно) это определяет?
3. Почему, казалось бы, упорядоченная прогрессия NaNрезультатов?
4. Почему нарушения этой прогрессии?
5. Что из этого является «ожидаемым» поведением?

Как говорит Бен Болкер, ответ на этот вопрос можно найти в коде для summary.lm().

Вот заголовок:

function (object, correlation = FALSE, symbolic.cor = FALSE, 
    ...) 
{

Итак, давайте, x <- 1:1000; y <- rep(1,1000); z <- lm(y ~ x)а затем взглянем на этот слегка измененный экстракт:

    p <- z$rank
    rdf <- z$df.residual
    Qr <- stats:::qr.lm(z)
    n <- NROW(Qr$qr)
    r <- z$residuals
    f <- z$fitted.values
    w <- z$weights
    if (is.null(w)) {
        mss <- sum((f - mean(f))^2)
        rss <- sum(r^2)
    }
    ans <- z[c("call", "terms")]
    if (p != attr(z$terms, "intercept")) {
        df.int <- 1L
        ans$r.squared <- mss/(mss + rss)
        ans$adj.r.squared <- 1 - (1 - ans$r.squared) * ((n - 
            df.int)/rdf)
    }

$0.4998923$

Чтобы ответить на вопрос вопросом: что мы из этого получаем? :)

mssrss$R^2$mssrss0/0NaN2^(1:k)

Обновление 1: Вот хорошая ветка из R-help, в которой рассматриваются некоторые причины, по которым предупреждения о недостаточном объеме не рассматриваются в R.

Кроме того, в этом разделе «Вопросы и ответы» есть ряд интересных постов и полезных ссылок, касающихся недостаточного значения, арифметики высокой точности и т. Д.

Мне интересно, какая у вас мотивация задать вопрос. Я не могу думать о практической причине, это поведение должно иметь значение; Интеллектуальное любопытство является альтернативой (и IMO гораздо более разумной) причиной. Я думаю, что вам не нужно понимать FORTRAN, чтобы ответить на этот вопрос, но я думаю, что вам нужно знать о QR-разложении и его использовании в линейной регрессии. Если вы воспринимаете себя dqrlsкак черный ящик, который вычисляет QR-разложение и возвращает различную информацию о нем, то вы можете проследить шаги ... или просто пойти summary.lmи проследить, чтобы увидеть, как вычисляется R ^ 2. В частности:

mss <- if (attr(z$terms, "intercept")) 
          sum((f - mean(f))^2)
       else sum(f^2)
rss <- sum(r^2)
## ... stuff ...
ans$r.squared <- mss/(mss + rss)

Затем вы должны вернуться lm.fitи увидеть, что подобранные значения вычисляются как r1 <- y - z$residuals(т.е. как ответ за вычетом остатков). Теперь вы можете выяснить, что определяет значение невязок, и является ли значение минус среднее значение точно нулевым или нет, и оттуда выяснить результаты вычислений ...

$R^2$$R^2 = 1-\frac{\textrm{SS}_{err}}{\textrm{SS}_{tot}}$