Методы подбора «простой» модели ошибки измерения

Я ищу методы, которые можно использовать для оценки модели погрешности измерения "OLS".

y_{i} = Y_{i} + e_{y, i}

$y_{i}=Y_{i}+e_{y,i}$

x_{i} = X_{i} + e_{x, i}

$x_{i}=X_{i}+e_{x,i}$

Y_{i} = α + β X_{i}

$Y_{i}=\alpha + \beta X_{i}$

Где ошибки независимы, нормальны с неизвестными отклонениями $\sigma_{y}^{2}$ и $\sigma_{x}^{2}$ . «Стандартный» OLS не будет работать в этом случае.

В Википедии есть несколько непривлекательных решений - эти два фактора заставляют вас предполагать, что либо «коэффициент дисперсии» либо " коэффициент надежности " , где - дисперсия истинного регрессора . Я не удовлетворен этим, потому что как тот, кто не знает отклонений, знает их соотношение? $\delta=\frac{\sigma_{y}^{2}}{\sigma_{x}^{2}}$ $\lambda=\frac{\sigma_{X}^{2}}{\sigma_{x}^{2}+\sigma_{X}^{2}}$ $\sigma_{X}^2$ $X_i$

В любом случае, есть ли другие решения, кроме этих двух, которые не требуют, чтобы я «знал» что-либо о параметрах?

Решения только для пересечения и наклона в порядке.

regression estimation errors-in-variables

— probabilityislogic
источник

сама статья в Википедии дает вам ответ на этот вопрос. Если вы предполагаете нормальность «истинного» регрессора, то вам потребуются дополнительные условия для распределения ошибок. Если настоящий регрессор не гауссов, у вас есть надежда. См. Reiersol (1950) .

— кардинал

Кроме того, что вы подразумеваете под «Решения только для пересечения и наклона в порядке». Это ваши только два параметра! Или вы надеялись также отойти от «настоящего» регрессора?

— кардинал

@cardinal - я имел в виду, что меня не особо заботили два параметра масштаба и, как вы говорите, «истинный» регрессор .

X_{i}

$X_{i}$

— вероятностная

Понимаю. Это имеет смысл.

— кардинал

Есть ряд возможностей, описанных Дж. В. Гиллардом в «Историческом обзоре линейной регрессии с ошибками в обеих переменных».

Если вы не заинтересованы в деталях или причины для выбора одного метода над другим, просто идти с самым простым, что нарисовать линию через центр тяжести с угловым коэффициентом , т.е. отношение наблюдаемых стандартных отклонений (делая знак наклона таким же, как знак ковариации и ); как вы , вероятно , можете работать, это дает перехват на оси Оу из $(\bar{x},\bar{y})$ $\hat{\beta}=s_y/s_x$ $x$ $y$ $y$ $\hat{\alpha}=\bar{y}-\hat{\beta}\bar{x}.$

Преимущества этого конкретного подхода

это дает ту же строку, сравнивая против как против , $x$ $y$ $y$ $x$
он не зависит от масштаба, поэтому вам не нужно беспокоиться о единицах,
он лежит между двумя обычными линиями линейной регрессии
он пересекает их там, где они пересекаются в центре тяжести наблюдений, и
это очень легко рассчитать.

Наклон - это среднее геометрическое наклона двух обычных наклонов линейной регрессии. Это также то, что вы получили бы, если бы вы стандартизировали наблюдения и , нарисовали линию под углом 45 ° (или 135 °, если есть отрицательная корреляция), а затем отменили стандартизацию линии. Это также можно рассматривать как эквивалентность неявному предположению, что дисперсии двух наборов ошибок пропорциональны дисперсиям двух наборов наблюдений; насколько я могу судить, вы утверждаете, что не знаете, каким образом это неправильно. $x$ $y$

Вот некоторый код R для иллюстрации: красная линия на графике - это регрессия OLS на , синяя линия - регрессия OLS на , а зеленая линия - это простой метод. Обратите внимание, что уклон должен быть около 5. $Y$ $X$ $X$ $Y$

X0 <- 1600:3600
Y0 <- 5*X0 + 700
X1 <- X0 + 400*rnorm(2001)
Y1 <- Y0 + 2000*rnorm(2001)
slopeOLSXY  <- lm(Y1 ~ X1)$coefficients[2]     #OLS slope of Y on X
slopeOLSYX  <- 1/lm(X1 ~ Y1)$coefficients[2]   #Inverse of OLS slope of X on Y
slopesimple <- sd(Y1)/sd(X1) *sign(cov(X1,Y1)) #Simple slope
c(slopeOLSXY, slopeOLSYX, slopesimple)         #Show the three slopes
plot(Y1~X1)
abline(mean(Y1) - slopeOLSXY  * mean(X1), slopeOLSXY,  col="red")
abline(mean(Y1) - slopeOLSYX  * mean(X1), slopeOLSYX,  col="blue")
abline(mean(Y1) - slopesimple * mean(X1), slopesimple, col="green")

— Генри
источник

@Henry, ваше определение

не имеет никакого смысла для меня. Некоторые "шляпы" отсутствуют?

\hat{β}

$\hat{\beta}$

— кардинал

Это означает, что наблюдаемое стандартное отклонение

делится на наблюдаемое стандартное отклонение

. Я изменю

на

{y_{i}}

$\{y_i\}$

{x_{i}}

$\{x_i\}$

σ

$\sigma$

s

$s$

— Генри

@ Генри, можешь уточнить некоторые из твоих комментариев? Что-то кажется мне неуместным на основании вашего текущего описания. Пусть

будет наклон в предположении

является ответом и

является предсказателем. Пусть

будут наклон в предположении

является ответом и

предсказателя. Тогда

{\hat{β}}_{x y}

$\hat{\beta}_{xy}$

y

$y$

x

$x$

{\hat{β}}_{y x}

$\hat{\beta}_{yx}$

x

$x$

y

$y$

{\hat{β}}_{x y} = \hat{ρ} s_{y} / s_{x}

$\hat{\beta}_{xy} = \hat{\rho}s_y / s_x$

, где

представляет собой образецкорреляциимежду

. Таким образом, среднее геометрическое этих двух оценок наклона только

{\hat{β}}_{y x} = \hat{ρ} s_{x} / s_{y}

$\hat{\beta}_{yx} = \hat{\rho} s_x / s_y$

\hat{ρ}

$\hat{\rho}$

x

$x$

y

$y$

\hat{ρ}

$\hat{\rho}$

— кардинал

@cardinal: Нет - когда я вижу

я имею в виду наклон

поскольку его можно переписать как

. Когда вы пытаетесь нарисовать две линии OLS на одном графике вместе с наблюдаемыми точками (например, с

на вертикальной оси и

на горизонтальной оси), вы должны инвертировать один из уклонов. Так что я имел в виду , что вы берете среднее геометрическое

x = b y + c

$x = by+c$

1 / b

$1/b$

y = x / b - c / b

$y=x/b-c/b$

y

$y$

x

$x$

\hat{ρ} s_{y} / s_{x}

$\hat{\rho}s_y/s_x$

, который просто

. Или, если вы достаточно нетрадиционны, чтобы построить

в обратном направлении как для линий, так и для наблюдаемых точек, то вы получите обратную величину как наклон.

s_{y} / \hat{ρ} s_{x}

$s_y/\hat{\rho}s_x$

s_{y} / s_{x}

$s_y/s_x$

y

$y$

x

$x$

— Генри

@ Генри - это довольно интересный ответ. Я не обязательно сомневаюсь в его обоснованности, но одна вещь, которая меня удивляет, это то, что корреляция / ковариация между

полностью отсутствует в ответе. Наверняка это должно иметь отношение к ответу?

Y

$Y$

X

$X$

— вероятностная