Вопросы с тегом «regression»

Мой набор данных ( ) имеет зависимую переменную (DV), пять независимых «базовых» переменных (P1, P2, P3, P4, P5) и одну независимую интересующую переменную (Q).N≈ 10 , 000N≈10,000N \approx 10,000 Я запустил линейные регрессии OLS для следующих двух моделей: DV ~ 1 + P1 + P2 + P3 + P4 + …

10 regression  linear  r-squared 

Представьте, что у нас есть модель линейной регрессии с зависимой переменной . Мы находим его . Теперь мы делаем другую регрессию, но на этот раз для , и аналогично находим ее . Мне сказали, что я не могу сравнить оба чтобы увидеть, какая модель лучше подходит. Это почему? Причиной для …

10 regression  data-transformation  r-squared 

Я знаю, что это, вероятно, обсуждалось где-то еще, но я не смог найти четкого ответа. Я пытаюсь использовать формулу для расчета вне выборки R 2 модели линейной регрессии, где S S R - это сумма квадратов невязок, а S S T - это общая сумма квадратов. Для тренировочного набора ясно, …

10 regression  machine-learning  r-squared  out-of-sample 

Являются ли «изученные остатки» и «стандартизированные остатки» одинаковыми в регрессионных моделях? Я построил модель линейной регрессии в R и хотел построить график Studentized Остатки v / s, подобранные значения, но не нашел автоматизированный способ сделать это в R. Предположим, у меня есть модель library(MASS) lm.fit <- lm(Boston$medv~(Boston$lstat)) затем использование plot(lm.fit)не …

10 r  regression  residuals  terminology 

Как выполнить неотрицательную ребристую регрессию? Доступно неотрицательное лассо scikit-learn, но для риджа я не могу навязать неотрицательность бета-версий, и действительно, я получаю отрицательные коэффициенты. Кто-нибудь знает, почему это? Кроме того, могу ли я реализовать ребро с точки зрения регулярных наименьших квадратов? Перенес это на другой вопрос: могу ли я реализовать …

10 regression  lasso  regularization  ridge-regression 

Я понимаю, что мы можем использовать регуляризацию в задаче регрессии наименьших квадратов как w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] и что эта проблема имеет решение в закрытой форме как: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. Мы видим, что во 2-м уравнении регуляризация просто добавляет λλ\lambda к диагонали XTXXTX\boldsymbol{X}^T\boldsymbol{X} , что …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

Что вы думаете об использовании регрессии для проецирования за пределы диапазона данных? Если мы уверены, что она соответствует форме линейной или мощной модели, не может ли модель быть полезной за пределами диапазона данных? Например, у меня объем зависит от цены. Мы должны быть в состоянии прогнозировать цены вне диапазона данных, …

10 regression  dataset  linear-model 

Я представил статью, которая была отклонена из-за неправильного способа анализа выживания. Рефери не оставил никаких других подробностей или объяснений, кроме: «Анализ выживания по временным тенденциям требует более сложных способов цензуры». Вопрос: Снизился ли избыточный риск смерти среди курильщиков за последние десятилетия? Данные: 25 000 курильщиков в Германии. Они были зачислены …

10 regression  survival  incidence-rate-ratio  interval-censoring 

Функция R cv.glm (library: boot) вычисляет предполагаемую K-кратную ошибку прогнозирования перекрестной проверки для обобщенных линейных моделей и возвращает дельту. Имеет ли смысл использовать эту функцию для регрессии лассо (library: glmnet) и, если да, то как ее можно выполнить? Библиотека glmnet использует перекрестную проверку для получения лучшего параметра поворота, но я …

10 r  regression  cross-validation  lasso  glmnet 

Очень простой вопрос, касающийся OLS регрессийр2р2R^2 запустить регрессию OLS y ~ x1, у нас есть р2р2R^2 , скажем, 0,3 запустить регрессию OLS y ~ x2, у нас есть еще один р2р2R^2 , скажем, 0,4 Теперь мы запустим регрессию y ~ x1 + x2, какое значение может иметь R в квадрате …

10 regression  multiple-regression  least-squares  r-squared 

Я запутался в том, как оценивать апостериорное предиктивное распределение для байесовской линейной регрессии, за пределами основного случая, описанного здесь на странице 3 и скопированного ниже. р ( у~∣ у) = ∫р ( у~∣ β, σ2) p ( β, σ2∣ у)p(y~∣y)=∫p(y~∣β,σ2)p(β,σ2∣y) p(\tilde y \mid y) = \int p(\tilde y \mid \beta, …

10 regression  bayesian  predictive-models  prediction  posterior 

В линейной регрессии я обнаружил восхитительный результат, который, если мы подходим к модели E[Y]=β1X1+β2X2+c,E[Y]=β1X1+β2X2+c,E[Y] = \beta_1 X_1 + \beta_2 X_2 + c, затем, если мы стандартизируем и центрируем данные YYY , X1X1X_1 и X2X2X_2 , R2=Cor(Y,X1)β1+Cor(Y,X2)β2.R2=Cor(Y,X1)β1+Cor(Y,X2)β2.R^2 = \mathrm{Cor}(Y,X_1) \beta_1 + \mathrm{Cor}(Y, X_2) \beta_2. Мне кажется, что версия с двумя переменными …

10 regression  linear-model  r-squared  proof 

Какова важность шляпной матрицы в регрессионном анализе?H=X(X′X)−1X′H=X(X′X)−1X′H=X(X^{\prime}X )^{-1}X^{\prime} Это только для облегчения расчета?

10 regression  multiple-regression  least-squares 

У меня есть выборка из 1449 точек данных, которые не коррелированы (r-квадрат 0,006). Анализируя данные, я обнаружил, что путем разделения значений независимых переменных на положительные и отрицательные группы, как представляется, существует значительная разница в среднем зависимой переменной для каждой группы. Разбивая точки на 10 бинов (децилей) с использованием значений независимых …

10 regression  correlation  linear-model  r-squared 

Я нашел этот пост: Да. Коэффициент отражает изменение логарифмических коэффициентов для каждого приращения изменения в порядковом предикторе. Эта (очень распространенная) спецификация модели предполагает, что предиктор оказывает линейное влияние на свои приращения. Чтобы проверить предположение, вы можете сравнить модель, в которой вы используете порядковую переменную в качестве единственного предиктора, с моделью, …

10 regression  logistic  references  ordinal-data