Статистика и большие данные

Хорошо, мое оригинальное сообщение не смогло получить ответ; Итак, позвольте мне поставить вопрос по-другому. Я начну с объяснения моего понимания оценки с точки зрения теории решения. У меня нет формального обучения, и меня не удивит, если мое мышление каким-то образом ошибочно. Предположим , у нас есть некоторая функция потерь L(θ,θ^(x))L(θ,θ^(x))L(\theta,\hat\theta(x)) …

10 bias  loss-functions  frequentist  decision-theory  risk 

Когда мы можем дифференцировать функцию стоимости и найти параметры, решая уравнения, полученные посредством частичного дифференцирования по каждому параметру, и выяснить, где функция стоимости минимальна. Также я думаю, что можно найти несколько мест, где производные равны нулю, поэтому мы можем проверить все такие места и найти глобальные минимумы почему вместо этого …

10 machine-learning  computational-statistics 

В настоящее время я работаю над проектом по прогнозированию данных временных рядов (ежемесячных данных). Я использую R для прогнозирования. У меня есть 1 зависимая переменная (у) и 3 независимых переменных (х1, х2, х3). Переменная y имеет 73 наблюдения, также как и остальные 3 переменные (alos 73). С января 2009 года …

10 time-series  multiple-regression  forecasting  lags 

По сути, я хочу преобразовать показатели сходства в веса, которые используются в качестве предикторов. Сходства будут на [0,1], и я ограничу веса также на [0,1]. Мне бы хотелось, чтобы параметрическая функция выполняла это отображение, которое я, скорее всего, оптимизирую с помощью градиентного спуска. Требования состоят в том, чтобы 0 отображалось …

10 optimization  curve-fitting 

В нескольких соревнованиях по догонялкам оценка была основана на «логове». Это относится к ошибке классификации. Вот технический ответ, но я ищу интуитивный ответ. Мне очень понравились ответы на этот вопрос о расстоянии Махаланобиса, но PCA не логи. Я могу использовать значение, которое выдает мое классификационное программное обеспечение, но я его …

10 interpretation  intuition  loss-functions 

Как вы интерпретируете коэффициент обратного отношения Миллса (лямбда) в двухшаговой модели Хекмана ?

10 econometrics  heckman  selection-bias 

Являются ли «изученные остатки» и «стандартизированные остатки» одинаковыми в регрессионных моделях? Я построил модель линейной регрессии в R и хотел построить график Studentized Остатки v / s, подобранные значения, но не нашел автоматизированный способ сделать это в R. Предположим, у меня есть модель library(MASS) lm.fit <- lm(Boston$medv~(Boston$lstat)) затем использование plot(lm.fit)не …

10 r  regression  residuals  terminology 

Может ли кто-нибудь объяснить мне в простых терминах, что такое изотропная ковариационная матрица? Я ничего не могу найти в Интернете.

10 terminology  covariance-matrix  definition 

Как выполнить неотрицательную ребристую регрессию? Доступно неотрицательное лассо scikit-learn, но для риджа я не могу навязать неотрицательность бета-версий, и действительно, я получаю отрицательные коэффициенты. Кто-нибудь знает, почему это? Кроме того, могу ли я реализовать ребро с точки зрения регулярных наименьших квадратов? Перенес это на другой вопрос: могу ли я реализовать …

10 regression  lasso  regularization  ridge-regression 

Ситуация: две птицы (самец и самка) защищают свои яйца в гнезде от злоумышленника. Каждая птица может использовать для защиты либо атаку, либо угрозу, а также присутствовать или отсутствовать. Из данных возникает закономерность, что поведение может быть взаимодополняющим - атаки мужчин, в то время как женщины используют отображение угроз, и наоборот. …

10 r  sequence-analysis 

Я понимаю, что мы можем использовать регуляризацию в задаче регрессии наименьших квадратов как w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] и что эта проблема имеет решение в закрытой форме как: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. Мы видим, что во 2-м уравнении регуляризация просто добавляет λλ\lambda к диагонали XTXXTX\boldsymbol{X}^T\boldsymbol{X} , что …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

Может ли кто-нибудь предоставить простое (непрофессиональное) объяснение связи между распределениями Парето и теоремой о центральном пределе (например, применимо ли это? Почему / почему нет?)? Я пытаюсь понять следующее утверждение: «Центральная предельная теорема не работает с каждым распределением. Это связано с одним подлым фактом - выборочные средства группируются вокруг среднего значения …

10 variance  central-limit-theorem  intuition  pareto-distribution  fat-tails 

Алгоритм SVM довольно старый - он был разработан в 1960-х годах, но был чрезвычайно популярен в 1990-х и 2000-х годах. Это классическая (и довольно красивая) часть курсов машинного обучения. Сегодня кажется, что в медиа-обработке (изображения, звук и т. Д.) Нейронные сети полностью доминируют, в то время как в других областях …

10 machine-learning  svm 

Я делаю анализ Matlab на данных МРТ, где я выполнил PCA на матрице размером 10304x236, где 10304 - это количество вокселей (представьте их как пиксели), а 236 - количество временных точек. PCA дает мне 236 собственных значений и связанных с ними коэффициентов. Это все хорошо. Однако, когда приходит время решить, …

10 pca  eigenvalues  neuroimaging 

Я изучаю дискриминантный анализ, но мне трудно согласовать несколько разных объяснений. Я полагаю, что я что-то упускаю, потому что я никогда не сталкивался с этим (кажущимся) уровнем несоответствия раньше. При этом, количество вопросов о дискриминантном анализе на этом сайте, кажется, свидетельствует о его сложности. LDA и QDA для нескольких классов …

10 multivariate-analysis  discriminant-analysis