Коэффициент определения (

Я хочу полностью понять понятие описывающее количество вариаций между переменными. Каждое веб-объяснение немного механическое и тупое. Я хочу «получить» концепцию, а не просто механически использовать числа.$r^2$

Например: количество изученных часов и результаты теста

$r$ = 0,8

$r^2$ = .64

• Итак, что это значит?
• 64% вариабельности результатов теста можно объяснить часами?
• Как мы узнаем это просто по квадрату?

Начните с основной идеи вариации. Ваша начальная модель - это сумма квадратов отклонений от среднего. Значение R ^ 2 - это доля этого отклонения, которая учитывается с использованием альтернативной модели. Например, R-квадрат говорит вам, от какой вариации Y вы можете избавиться, суммируя квадрат расстояний от линии регрессии, а не от среднего значения.

Я думаю, что это станет совершенно ясно, если мы подумаем о простой задаче регрессии. Рассмотрим типичную диаграмму рассеяния, где у вас есть предиктор X по горизонтальной оси и ответ Y по вертикальной оси.

Среднее значение представляет собой горизонтальную линию на графике, где Y является постоянной величиной. Общее отклонение Y представляет собой сумму квадратов разностей между средним значением Y и каждой отдельной точкой данных. Это расстояние между средней линией и каждой отдельной точкой в ​​квадрате и суммировании.

Вы также можете рассчитать другую меру изменчивости после того, как у вас будет линия регрессии из модели. Это разница между каждой точкой Y и линией регрессии. Вместо каждого (Y - среднего) квадрата мы получаем (Y - точка на линии регрессии) квадрат.

Если линия регрессии отличается от горизонтальной, мы получим меньшее общее расстояние, когда будем использовать эту подогнанную линию регрессии, а не среднее значение - то есть, будет меньше необъяснимых изменений. Соотношение между дополнительным объясненным изменением и исходным изменением - это ваше R ^ 2. Это пропорция исходного отклонения в вашем ответе, которая объясняется подгонкой этой линии регрессии.

Вот некоторый R-код для графика со средним, линией регрессии и отрезками от линии регрессии до каждой точки, чтобы помочь визуализировать:

library(ggplot2)
data(faithful)

plotdata <- aggregate( eruptions ~ waiting , data = faithful, FUN = mean) 

linefit1 <- lm(eruptions ~ waiting, data = plotdata)

plotdata$expected <- predict(linefit1)
plotdata$sign <- residuals(linefit1) > 0

p <- ggplot(plotdata, aes(y=eruptions, x=waiting, xend=waiting, yend=expected) )  

p  + geom_point(shape = 1, size = 3) +
     geom_smooth(method=lm, se=FALSE) + 
     geom_segment(aes(y=eruptions, x=waiting, xend=waiting, yend=expected, colour = sign),  
                  data = plotdata) +
     theme(legend.position="none")  +
     geom_hline(yintercept = mean(plotdata$eruptions), size = 1)

Математическая демонстрация взаимосвязи между ними здесь: корреляция Пирсона и регрессионный анализ методом наименьших квадратов .

Я не уверен, есть ли геометрическая или какая-либо другая интуиция, которая может быть предложена кроме математики, но если я могу думать о ней, я обновлю этот ответ.

Обновление: Геометрическая Интуиция

$x$$y$$y$

$y = x\ \beta + \epsilon$

$y_1,y_2$$x_1,x_2$

альтернативный текст http://a.imageshack.us/img202/669/linearregression1.png

$\beta$$x\ \beta$$y$$\beta$$x$$\hat{\beta}$$\beta$$y$$\hat{y} = x\ \hat{\beta}$

$y = \hat{y} + \hat{\epsilon}$

$y$$\hat{y}$$\hat{\epsilon}$$\hat{\beta}$

$\beta$$x\ \beta$$\hat{\epsilon}$

$y$$y$$x$$y$$y_1^2+y_2^2$$y$$\hat{y}$$\hat{y}$

По теореме Пифагора имеем:

$y^2 = \hat{y}^2 + \hat{\epsilon}^2$

$x$$\frac{\hat{y}^2}{y^2}$$cos(\theta) = \frac{\hat{y}}{y}$

Поэтому у нас есть необходимые отношения:

$y$$x$

Надеюсь, это поможет.

Регрессия По глазам апплет может быть полезно , если вы пытаетесь развить некоторые интуиции.

Это позволяет генерировать данные, а затем угадывать значение для R , которое затем можно сравнить с фактическим значением.