Возможный диапазон

Предположим, есть три временных ряда, $X_1$ , $X_2$ и $Y$

Запуск обычной линейной регрессии на $Y$ ~ $X_1$ ( $Y = b X_1 + b_0 + \epsilon$ ), получаем $R^2 = U$ . Обычная линейная регрессия $Y$ ~ $X_2$ Get $R^2 = V$ . Предположим, $U < V$

Каковы минимальные и максимальные возможные значения $R^2$ для регрессии $Y$ ~ $X_1 + X_2$ ( $Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$ )?

Я считаю, что минимальное значение $R^2$ должно быть $V$ + небольшое значение, поскольку добавление новых переменных всегда увеличивает $R^2$ , но я не знаю, как количественно определить это небольшое значение, и я не знаю, как получить максимальный диапазон.

1) EDIT: комментарий Кардинал ниже показывает , что правильный ответ на минимальное вопроса V . Поэтому я удаляю свой «интересный», но в конечном итоге неправильный ответ на эту часть сообщения ОП.$R^2$$V$

2) Максимальное значение равно 1. Рассмотрим следующий пример, который соответствует вашему случаю.$R^2$

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

Здесь мы фиксируем дисперсию в 0. Если вы хотите, чтобы σ 2 ϵ > 0 , то все немного меняется. Вы можете получить R 2 произвольно близко к 1, сделав σ 2 ϵ все меньше и меньше, но, как и в случае с минимальной проблемой, вы не можете туда добраться, поэтому максимума нет. 1 становится супремумом , поскольку он всегда больше, чем R 2, но это также предел при σ 2 ϵ → 0 .$\epsilon$$\sigma^2_\epsilon > 0$$R^2$$\sigma^2_\epsilon$$R^2$$\sigma^2_\epsilon \to 0$

$r_{1,2}$$X_1$$X_2$$r_{1,Y}$$X_1$$Y$$r_{2,Y}$$X_2$$Y$$R^2$$V$

$R^2$$V$$r_{1,2} = 0$$r_{1,Y}^2 = U = 0$

$r_{1,2} = 0$$R^2$$U + V$

$U$$V$$V$$\min(V + U, 1)$$R^2$$U + V$$\mathbf{1}$

$U < V \implies X_{1} \neq X_{2}$$U = 0$$X_{1} \perp Y$$\min = \max = V + 0$$X_{1} \perp X_{2}$$\min(V + U, 1)$

$X_{1}$$X_{2}$