Как исправить один коэффициент и подогнать другие, используя регрессию

Я хотел бы вручную зафиксировать определенный коэффициент, скажем, , затем подогнать коэффициенты ко всем остальным предикторам, сохраняя при этом β 1 = 1,0 в модели.$\beta_1=1.0$$\beta_1=1.0$

Как я могу добиться этого с помощью R? Я бы особенно хотел поработать с LASSO ( glmnet), если это возможно.

В качестве альтернативы, как я могу ограничить этот коэффициент конкретным диапазоном, скажем, ?$0.5\le\beta_1\le1.0$

Вам нужно использовать такой offsetаргумент:

library(glmnet)
x=matrix(rnorm(100*20),100,20)
x1=matrix(rnorm(100),100,1)
y=rnorm(100)
fit1=glmnet(x,y,offset=x1)
fit1$offset
print(fit1)

Насчет ассортимента ... Я не думаю, что это было реализовано в glmnet. Если они используют какой-то числовой метод, вы, возможно, захотите покопаться в коде R и попытаться ограничить его там, но вам понадобится хороший, солидный опыт программирования.

Ну что ж, подумаем. У тебя есть:

$Y = b_0 + b_1x_1 + b_2x_2 + e$

$b_1 = 1$

$Y = b_0 + x_1 + b_2x_2 + e$

$x_1$

$Ynew = Y-x_1 = b_0 + b_2x_2 + e$

$b_2$

Что касается ограничения коэффициентов в пределах диапазона, то байесовский подход к оценке является одним из способов достижения этого.

В частности, можно полагаться на цепь Маркова Монте-Карло. Во-первых, рассмотрим алгоритм выборки Гиббса, в котором вы бы поместили MCMC в байесовскую структуру без ограничения. В выборке Гиббса на каждом шаге алгоритма производится выборка из апостериорного распределения каждого параметра (или группы параметров) с учетом данных и всех других параметров. Википедия дает хорошее резюме подхода.

Один из способов ограничения диапазона - применить шаг Метрополис-Гастингс. Основная идея состоит в том, чтобы просто выбросить любую смоделированную переменную, которая находится за пределами ваших границ. Затем вы можете продолжать повторную выборку до тех пор, пока она не выйдет за ваши пределы, прежде чем перейти к следующей итерации. Недостатком этого является то, что вы можете застрять в симуляции много раз, что замедляет работу MCMC. Альтернативный подход, первоначально разработанный Джоном Гьюке в нескольких статьях и расширенный в статье Родригеса-Яма, Дэвиса, Шарпа, заключается в моделировании из многомерного нормального распределения с ограничениями. Этот подход может обрабатывать ограничения линейного и нелинейного неравенства для параметров, и я добился определенного успеха с ним.

Я не знаком с LASSO или glmnet, но lavaan(сокращение от «латентный анализ переменных») упрощает модели множественной регрессии с ограничениями равенства и ограничениями неравенства с одной границей (см. Таблицу на стр. 7 этого PDF-документа, «lavaan: пакет R»). для моделирования структурных уравнений " ). Я не знаю, могли ли бы вы иметь верхнюю и нижнюю границы коэффициента, но, возможно, вы могли бы добавить каждую границу отдельными строками, например:

Coefficient>.49999999
Coefficient<1.0000001

Конечно, если вы стандартизируете все до подгонки модели, вам не нужно беспокоиться о том, чтобы в любом случае наложить верхнюю границу 1 на ваши коэффициенты регрессии. Я бы сказал, что в этом случае лучше не указывать, на случай, если что-то пойдет не так! ( все еще lavaan находится в бета-версии ... Я видел некоторые слегка подозрительные результаты в моем ограниченном использовании этого до сих пор.)