Статистика и большие данные

Я просто наткнулся на «Информационный критерий Акайке» и заметил большое количество литературы по выбору моделей (кажется, существуют и такие вещи, как BIC). Почему современные методы машинного обучения не используют эти критерии выбора моделей BIC и AIC?

16 machine-learning  model-selection  aic  bic 

Что было первым производным нормального распределения, можете ли вы воспроизвести этот вывод и объяснить его в историческом контексте ? Я имею в виду, если бы человечество забыло о нормальном распределении, каков наиболее вероятный способ, которым я бы заново его обнаружил, и какой был бы наиболее вероятный вывод? Я полагаю, что …

16 probability  distributions  normal-distribution  references  history 

Я пытаюсь использовать квадратичные потери, чтобы выполнить двоичную классификацию для набора данных игрушек. Я использую mtcarsнабор данных, использую милю на галлон и вес, чтобы предсказать тип передачи. На приведенном ниже графике показаны два типа данных типа передачи в разных цветах и ​​границы решения, сформированные различными функциями потерь. Квадратный убыток равен …

16 r  machine-learning  logistic  optimization  loss-functions 

Модельные формулы в R, такие как y ~ x + a*b + c:d основаны на так называемой записи Уилкинсона : Уилкинсон и Роджерс 1973, Символическое описание факторных моделей для анализа отклонений . В этой статье не обсуждались нотации для смешанных моделей (которых тогда не могло быть). Так, где же смешанные …

16 r  mixed-model  lme4-nlme  notation  history 

Была обследована случайная выборка населения. Их спросили, придерживаются ли они вегетарианской диеты. Если они ответили «да», их также попросили указать, как долго они питались вегетарианской диетой без перерыва. Я хочу использовать эти данные для расчета средней продолжительности приверженности вегетарианству. Другими словами, когда кто-то становится вегетарианцем, я хочу знать, что в …

16 survival  mean  missing-data  survey  weighted-mean 

Рассмотрим гамма случайная величина X∼Γ(α,θ)X∼Γ(α,θ)X\sim\Gamma(\alpha, \theta) . Есть аккуратные формулы для среднего значения, дисперсии и асимметрии: E[X]Var[X]Skewness[X]=αθ=αθ2=1/α⋅E[X]2=2/α−−√E[X]=αθVar⁡[X]=αθ2=1/α⋅E[X]2Skewness⁡[X]=2/α\begin{align} \mathbb E[X]&=\alpha\theta\\ \operatorname{Var}[X]&=\alpha\theta^2=1/\alpha\cdot\mathbb E[X]^2\\ \operatorname{Skewness}[X]&=2/\sqrt{\alpha} \end{align} Теперь рассмотрим лог-преобразованную случайную величину Y=log(X)Y=log⁡(X)Y=\log(X) . Википедия дает формулы для среднего значения и дисперсии: E[Y]Var[Y]=ψ(α)+log(θ)=ψ1(α)E[Y]=ψ(α)+log⁡(θ)Var⁡[Y]=ψ1(α)\begin{align} \mathbb E[Y]&=\psi(\alpha)+\log(\theta)\\ \operatorname{Var}[Y]&=\psi_1(\alpha)\\ \end{align} с помощью функций дигаммы и тригаммы, которые …

16 gamma-distribution  skewness  logarithm 

Хотя результаты частного тестового набора не могут быть использованы для дальнейшего уточнения модели, не является ли выбор модели из огромного числа моделей, выполняемых на основе результатов частного тестового набора? Не могли бы вы, в результате одного этого процесса, в конечном итоге перейти на частный тестовый набор? Согласно «Псевдоматематике и финансовому …

16 model-selection  overfitting  out-of-sample 

Я пытаюсь лучше понять потерю журналов и как это работает, но я не могу найти одну вещь - поместить число потерь журналов в какой-то контекст. Если у моей модели потеря журнала 0,5, это хорошо? Что считается хорошим и плохим счетом? Как меняются эти пороги?

16 machine-learning  loss-functions  log-loss 

Я читал статью и увидел следующее предложение: Для данного мартингейла, если он имеет верхнюю или нижнюю границу, мартингейл должен сходиться (как). Поскольку вероятность всегда неотрицательна, 0 является нижней границей. Что означает «как»? Это обычное использование? Мое предположение "асимптотически", но я хотел бы проверить.

16 abbreviation 

В большинстве случаев, когда люди говорят о преобразованиях переменных (как для предикторов, так и для переменных ответа), они обсуждают способы обработки асимметрии данных (например, преобразование журнала, преобразование Бокса и Кокса и т. Д.). Я не могу понять, почему устранение асимметрии считается такой распространенной передовой практикой? Как асимметрия влияет на производительность …

16 modeling  skewness 

Что такое нулевая модель в регрессии и какова связь между нулевой моделью и нулевой гипотезой? Насколько я понимаю, это значит Используя «среднее значение переменной отклика» для прогнозирования переменной непрерывного отклика? Использование «распределения меток» при прогнозировании дискретных переменных ответа? Если это так, то, похоже, отсутствует связь между нулевой гипотезой.

16 regression  hypothesis-testing  classification  terminology  model 

Я немного запутался в изучении ансамбля. Короче говоря, он запускает k моделей и получает среднее значение этих k моделей. Как можно гарантировать, что среднее значение k моделей будет лучше, чем у любой другой модели? Я понимаю, что уклон "распределен" или "усреднен". Однако что, если в ансамбле две модели (т.е. k …

16 machine-learning  ensemble 

Эта проблема связана с исследованиями моей лаборатории в области робототехники: Случайным образом нарисуйте чисел из набора без замены и отсортируйте числа в порядке возрастания. .nnn{1,2,…,m}{1,2,…,m}\{1,2,\ldots,m\}1≤n≤m1≤n≤m1\le n\le m Из этого отсортированного списка чисел , создайте разницу между последовательными числами и границами: . Это дает пробелов.{a(1),a(2),…,a(n)}{a(1),a(2),…,a(n)}\{a_{(1)},a_{(2)},…,a_{(n)}\}g={a(1),a(2)−a(1),…,a(n)−a(n−1),m+1−a(n)}g={a(1),a(2)−a(1),…,a(n)−a(n−1),m+1−a(n)}g = \{a_{(1)},a_{(2)}−a_{(1)},\ldots,a_{(n)}−a_{(n-1)},m+1-a_{(n)}\}n+1n+1n+1 Каково распределение максимального разрыва? …

16 probability  mathematical-statistics  uniform  combinatorics  order-statistics 

Какие теоретические подходы к причинности я должен знать как прикладной статистик / эконометрик? Я знаю (очень немного) Причинно-следственная модель Неймана – Рубина (и Рой , Гавелмо и т. Д.) Работа Перла о причинности Причинность Грейнджера (хотя и менее ориентированная на лечение) Какие концепции мне не хватает или мне следует знать? …

16 machine-learning  causality  theory  treatment-effect 

Я узнал, что стандартное нормальное распределение уникально, потому что среднее значение и дисперсия зафиксированы на 0 и 1 соответственно. В связи с этим мне интересно, должны ли какие-либо две стандартные случайные величины быть независимыми.

16 normal-distribution  independence